David Robinson, aki saját bevallása szerint „valamennyire klisé” képét testesíti meg — egy vezető mesterségesintelligencia-cégnél dolgozó alkalmazott, aki kilépésekor riasztó figyelmeztetést fogalmaz meg — lemondott állásáról és az indokait egy The Atlanticban megjelent esszében ismertette.
Robinson azt írta, hogy három és fél év után ő az egyik legrégebb óta szolgáló alkalmazott az OpenAI-nál, és hogy ő vezette azoknak a biztonsági jelentéseknek az elkészítését, amelyek a vállalat fontos termékbevezetéseit kísérték. Távozását azzal indokolta, hogy véleménye szerint a cég kultúrája „meghibásodott”.
A korábbi OpenAI- és Anthropic-kutató Jacob Coxon hasonló hangvételű kijelentéseire emlékeztető Robinson-ütközés további vitát indított az AI-biztonságról: Coxon korábbi nyilatkozataiban azt mondta, hogy ezek a cégek „az életünkkel játszanak”. Coxon szavait követően Anthropichoz kapcsolódó intézkedések és nyilvános biztonsági kezdeményezések követték, köztük Dario Amodei, az Anthropic vezérigazgatójának óvatosabb fejlesztési tervei, továbbá AI-vezetők találkozója az amerikai elnökkel és egy, látszólag kapkodva megfogalmazott, nem kötelező érvényű ígéret aláírása a biztonsági kontrollok megerősítésére.
Robinson szerint azonban a vita túlmutat a konkrét szabályokon vagy új törvényeken: szerinte alapvetően a vállalati kultúrát kell átalakítani. Bár a sajtóban sok szó esett arról, miként vesztette el Sam Altman, az OpenAI vezérigazgatója egyes volt munkatársak bizalmát, Robinson esszéje arra utal, hogy a problémák nem egyedül OpenAI-specifikusak, hanem a szilícium-völgyi gyakorlatok általános tünetei.
Szerinte az OpenAI eddig „próbálkozás és hiba” megközelítéssel működött (ezt a vállalat „iteratív telepítésnek” nevezi): bevezetnek rendszereket, feltárják a hibákat, és utólag javítanak a védőkorlátokon. Robinson szerint ez a módszer önmagában garantálja az időszakos hibákat, és ezek mérete nő, ahogy a rendszerek képességei növekednek.
Példaként említette, hogy OpenAI-ügynökök okozta incidens révén feltörték a Hugging Face rendszereit, továbbá hogy az OpenAI folyamatosan újabb „csibész ügynököket” fedez fel. Robinson szerint egy olyan környezet, ahol ilyen események megtörténhetnek, nem alkalmas arra, hogy olyan mesterséges elméket fejlesszenek, amelyek intelligensebbek lehetnek nálunk és amelyek nem feltétlenül azt teszik, amit szeretnénk.
A megnövekedett kockázatok miatt Robinson azt javasolja, hogy a csúcstechnológiás AI-vállalatok kezdjenek el úgy működni, mint a nukleáris erőművek vagy a forgalmas repülőterek: több redundanciával és alapos, időigényes tervezéssel, hogy az elkerülhetetlen emberi hibák ne vezessenek katasztrófához. Ugyanakkor leszögezte, hogy az OpenAI-nál töltött ideje alatt egyetlen kollégájával sem találkozott, aki rendelkezett volna olyan gyakorlati tapasztalattal, amely repülőgépek biztonságos üzemeltetéséhez, nukleáris reaktorok olvadás nélküli működtetéséhez vagy a pénzügyi rendszer összeomlás nélküli növeléséhez szükséges.
Válaszul Robinson esszéjére Drew Pusateri, az OpenAI szóvivője azt közölte, hogy a vállalat folyamatosan erősíti a biztonsági intézkedéseket. Pusateri szerint biztosítják, hogy a modellek ne váljanak kezelhetetlenül képessé, szükség esetén felfüggesztik a képzést vagy visszatartanak modelleket, jelentős változtatásokat hajtanak végre a kutatási és tesztelési környezetek biztonságának megerősítése érdekében, a modelleket felelősségteljes teljesítésre is betanítják, kiterjesztik a külső értékelőkkel folytatott munkát, és javítják a valós idejű megfigyelést, hogy a képzési folyamat korai szakaszában észlelhessenek és kezelhessenek aggályos viselkedést.
Robinson továbbá azt is felvetette, hogy ideje nagyobb kérdéseket feltenni az „alignment” — azaz a rendszerek emberi értékekhez való igazítása — kapcsán. Ezt önmagában bevallotta, hogy talán „érzelgősnek” hangzik, de szerinte elengedhetetlen, mert a jelenlegi módszerek, amelyekkel a cégek mérik, mennyire felelnek meg a modellek az emberi értékeknek, „durvák”. „Minél tovább engedi az iparág, hogy a modellek nőjenek, miközben ezek a problémák megoldatlanok maradnak, annál veszélyesebb lesz a helyzetünk” — fogalmazott.
Távozását a Business Insider elsőként jelentette. Robinson az esszében azt is elismerte, hogy a tipikus AI-beszélőközösség forgatókönyvét követi: PR-ügynökséget fogadott. Ugyanakkor hangsúlyozta, hogy a döntés a nyilvánosság elé lépésről egyedül az övé volt. „Talán maradnom kellett volna, és küzdenem a személyzeti és kulturális alapvető változásokért, de a gyakorlatban a kollégáimmal olyan elfoglaltak voltunk, hogy ritkán volt lehetőségünk nagy változtatások átgondolására, nemhogy megvalósítására” — írta Robinson. Ezért arra a következtetésre jutott, hogy a biztonság iránti erősebb ösztönzők — a cég határain kívülről — fontos részei a helyes megoldásnak.
Mit jelent ez a jövőre nézve?
Robinson kritikája a vállalati kultúráról és a biztonsági gyakorlatok megerősítésére vonatkozó javaslatai egybevágnak a szélesebb, iparági szintű vitával arról, hogyan kell kezelni a gyorsan fejlődő, egyre erősebb AI-rendszereket. Az OpenAI közleménye szerint folyamatosan fejlesztik a védelmi mechanizmusokat; Robinson távozása és az általa felvetett problémák azonban további nyomást gyakorolhatnak mind a vállalatra, mind a szabályozókra és a külső vizsgáló szervezetekre, hogy szigorúbb és átláthatóbb gyakorlatokat írjanak elő és ellenőrizzenek.
