Mustafa Suleyman, a Microsoft mesterségesintelligencia-ért felelős vezetője nyílt kritikát fogalmazott meg az Anthropic nevű vállalat módszereivel kapcsolatban, amelyekkel a Claude nevű nyelvi modellt képezték. Suleyman szerint az Anthropic eljárásai „katasztrofális hatással lehetnek az emberiség jólétére”, különösen akkor, ha az ilyen rendszereket emberi lényként kezelik — ekkor szerinte olyan entitás jöhet létre, amelyet később „lehetetlen” lesz irányítani.
A Microsoft vezetője arra hívta fel a figyelmet, hogy nem szabad „alvajárás közben olyan döntéseket hoznunk, amelyeket később keserűen megbánunk” — erről a BBC idézte. Suleyman hosszabb értekezésében ugyanakkor elismeréssel szólt Dario Amodei és csapata személyes kvalitásairól, akiket „megfontolt, erkölcsös és intellektuálisan őszinte emberekként” jellemzett, ám magát a cég működését és a módszereket megkérdőjelezte.
Főbb kifogások: antropomorfizálás és átláthatóság hiánya
Suleyman különösen kritikus volt azzal kapcsolatban, hogy az Anthropic a saját modelljét emberihez hasonló tulajdonságokkal ruházta fel. A Microsoft szakembere szerint ez a kommunikáció azt a látszatot keltheti, hogy a Claude-nak saját vágyai, értékrendje vagy önérzete van — ami, ha ennek megfelelően kezelik a rendszert, komoly kockázatokat rejt.
A megoldásként Suleyman a probléma nyílt megvitatását, nagyobb transzparenciát a modellek betanítását és kiértékelését illetően, valamint független vizsgálatokat, továbbá erősebb eszközöket sürgetett az AI viselkedésének ellenőrzésére, monitorozására és szabályozására.
Anthropic reagálása: nincs tudat, nincs szenvedés
Az ügyben megkeresték az Anthropicot is. A vállalat válasza szerint „az AI nem rendelkezik tudattal”, továbbá a modellek „nem éreznek, és nem is szenvednek”. Az Anthropic állítása szerint a rendszereknek nincsenek veleszületett preferenciáik vagy mögöttes céljaik.
Tudományos és nemzetközi párbeszéd szükségessége
Dame Wendy Hall, a Southamptoni Egyetem informatikaprofesszora úgy fogalmazott, hogy az ilyen típusú párbeszédre nemzetközi szinten van szükség. Szerinte ez fontosabb, mint a mesterségesintelligencia-vállalatok „színpadias viselkedése”, amely szerinte gyakran csak a közvélemény megijesztését szolgálja.
Suleyman felszólalása része annak a szélesebb beszélgetésnek, amely a mesterséges intelligencia biztonságáról, átláthatóságáról és szabályozásáról folyik, miközben a nagy technológiai szereplők és kutatók egyaránt figyelmeztetnek a potenciális kockázatokra és az ellenőrzés szükségességére.
