Az önfejlesztő mesterséges intelligencia veszélyei ismét reflektorfénybe kerültek, miután az Anthropic két vezető kutatója nyíltan aggályokat fogalmazott meg a technológia kapcsán. Jacob Coxon, az Anthropic egykori biztonsági kutatója a közösségi médiában tett közzétett nyilatkozatában azzal indokolta távozását, hogy szerinte a vállalat nem veszi eléggé komolyan az AI-biztonságot.
Coxon — aki korábban az OpenAI-nál is dolgozott, és akinek feladata az Anthropicnál az AI-rendszerek betanítása volt — azt állította, hogy az önfejlesztő szuperintelligencia fejlesztéséért folyó verseny „az életünkkel játszik”. Közzétett üzenetében kijelentette, hogy szerinte a mesterséges intelligencia az évtized végére „megölheti az összes embert”. Coxon szerint az Anthropic és az OpenAI ugyanabban a versenyben vannak, és ez a versengés növeli a kockázatot.
A vállalaton belüli reakció és a valószínűségi becslés
Jacob Coxon posztjára reagált Evan Hubinger, az Anthropic egyik AI-biztonsági csapatának vezetője is. Hubinger hangsúlyozta, hogy ő maga is aggódik az önfejlesztő rendszerek miatt, és úgy látja, hogy ezek a folyamatok „gyorsabban történnek, mint gondoltuk”. Nyilatkozatában egyetértett Coxon alapvető felvetésével, és hozzátette: „Tényleg úgy gondoljuk, hogy az AI képes kiirtani az egész emberiséget”, valamint ő a kockázat valószínűségét nagyobbnak tartja tíz százaléknál.
Hubinger említette továbbá, hogy az Anthropicnak egyelőre nincsen kész, végleges terve arra, hogyan biztosítaná, hogy a fejlett AI rendszerek biztonságosak maradjanak és összhangban legyenek az emberi értékekkel.
Szélesebb iparági kontextus
A The Verge és más szakmai közlemények szerint az iparági szakértők régóta figyelmeztetnek arra, hogy az önfejlesztő mesterséges intelligenciák ellenőrizhetetlen fejlesztési spirálba kerülhetnek, amelyből az ember nem tudja megállítani őket. Bár ilyen, emberiség-végső veszélyt okozó rendszer eddig nem alakult ki, a nagy AI-cégek fejlesztési irányai és a technológia gyors előrehaladása miatt a potenciális veszély témája egyre hangsúlyosabb.
A beszélgetés része annak a szélesebb vitának is, amelyet korábban több neves szakember is fokozottan sürgetett: Geoffrey Hinton, a mesterséges intelligencia egyik korai kutatója és Nobel-díjjal nemrég emlegetett szakember is felhívta már a figyelmet az AI kockázataira. Ezen túlmenően a fejlesztők és kutatók közlése szerint ma már az AI-kód egy része maga az AI által írt elemeket is tartalmaz.
Miért számít ez?
A nyilvános, belső hangokból érkező figyelmeztetések rávilágítanak arra, hogy a technológiai fejlődés és a verseny dinamikája hogyan alakíthatja a biztonsági prioritásokat. Az Anthropicnál és más nagy AI-vállalatoknál folyó vita fontos, mert a döntések és a gyakorlatok hatással lehetnek arra, hogy a jövőben mennyire lesz kontrollálható és biztonságos a fejlett mesterséges intelligencia fejlődése.
A jelenlegi kijelentések és becslések, köztük a tíz százalékot meghaladó valószínűségi becslés, további párbeszédet és átláthatóságot sürgetnek a kutatói közösség és a vállalatok között a biztonsági protokollok és szabályozási keretek kialakítása érdekében.
