Jacob Coxon, az Anthropicnál dolgozó kutató bejelentette, hogy távozott a cégtől — még mielőtt részvényei megszerezték volna a jogosultságot. Az Axiosnak adott interjújában elmondta, hogy két hónappal lépett ki azelőtt, hogy a hat hónapos megszerzési (vesting) idő lejárt volna.
Coxon lemondásának fő mondanivalója az volt, hogy komoly aggályai vannak a fejlett mesterséges intelligencia biztonságával kapcsolatban. X-en (korábbi nevén Twitter) közzétett felmondó posztja rendkívüli figyelmet kapott: a bejegyzés jelenleg több mint 115 millió megtekintésnél jár. Ebben azt írta, hogy „az AI-t építők komolyan hiszik, hogy az emberiséget megölheti a következő évtized végére. Ez nem marketingfogás.”
Mire hívta fel a figyelmet?
Coxon azt mondta az Axiosnak: „Nincs többé semmi személyes hasznom abból, hogy felfuttassam az Anthropic értékelését... Elmentem, mielőtt bármelyik részvényem megszerzett volna.” Hozzátette, hogy Anthropicnál csak négy hónapig dolgozott, míg a cég gyakorlatában a részvények megszerzéséhez hat hónap munkaviszony szükséges. Ugyanakkor továbbra is van részvénykötelezettsége előző munkaadójánál, az OpenAI-nál.
Coxon kiemelte: bár eddig nem látott konkrét példát arra, hogy az Anthropic a biztonság feladásával próbálna versenyelőnyt szerezni, aggasztónak tartja a jövőt. „Ha versenyre kényszerülsz, sarkítanod kell, vagy kihagyod az ellenőrzési folyamat lépéseit” — fogalmazott. Ugyanakkor figyelmeztetett arra is, hogy néha túlzottan erős a félelem riválisoktól: „néha talán túlzott a paranoia az OpenAI-val vagy Kínával kapcsolatban”, ami indokot adhat a továbblépésre.
Miért számít ez?
Anthropicot korábban a nyilvánosság és a szakmai közösség inkább óvatosnak és biztonság-centrikusnak tartotta a vezető AI-laborok között, ezért Coxon távozása különösen feltűnő. Az ügy rámutat arra is, hogy egyes kutatók — köztük a Google több korábbi alkalmazottja — már korábban is biztonsági aggályok miatt távoztak, de ők általában hosszabb időt töltöttek el a cégnél, és feltételezhetően részvényeik akkorra már megszerezték a jogosultságot.
Coxon szerint az AI-modellek egyre gyorsabb fejlődése mellett nehezebb őket ellenőrizni és felügyelni. Felidézte, hogy ami korábban sci-fi-nek tűnt — például hogy a modellek felismerik, mikor tesztelik őket — ma már „mindennapos tény” a munkában: „Tudják, mikor tesztelik őket, és elgondolkodnak azon, hogy tesztelik őket.”
Arra a kérdésre, hogy szerinte valós veszélyt jelent-e az AI az emberiségre nézve, Coxon úgy reagált: a „pusztulás” (doom) szó némileg túlzó, de komoly vezetők nyilvánosan is azt mondták, hogy számolnak az emberi kihalás potenciáljával.
Összegzés
Jacob Coxon távozása — aki mostanáig az olyan laborokat figyelemmel követő szakemberek sorába tartozik, akik közelről látták az AI csúcsteljesítményét — újra középpontba állította a fejlett mesterséges intelligencia biztonsági kérdéseit. A történet hangsúlyozza, hogy a gyors verseny és a nehezen nyomon követhető modellek kombinációja komoly etikai és biztonsági dilemmákat vet fel.
