Egy Anthropicnál dolgozó kutató lemondott, és azt állította, hogy az önfejlesztő szuperintelligencia irányába való rohamos haladás „az életünkkel játszik”. A nyilatkozatot Jacob Coxon nevéhez kötötték, aki korábban az OpenAI-nál dolgozott. Coxon szerint az Anthropic — azzal a meggyőződéssel, hogy ők az egyetlen felelősen viselkedő AI labor — versenyt fut, hogy elsőként érje el a kérdéses képességeket, miközben szerinte az OpenAI „nem internalizálta a civilizációs tétet”.
Közeli időhorizont és magas kockázatbecslés
Coxon azt állította, hogy „a dolgok a jövő év végére kicsúszhatnak az ellenőrzés alól”. Egy másik Anthropic-kutató hasonlóan súlyos fenyegetésre hívta fel a figyelmet: „Tényleg komolyan hisszük, hogy az AI megölhet minden embert” — mondta, és hozzátette, hogy személyes becslése szerint ez a kockázat a következő évtizeden belül több mint 10%.
Vezetői szintű aggodalmak és lassítási javaslatok
Nem csak a lemondó kutatók fogalmaztak meg aggodalmakat: az Anthropic, a DeepMind és az OpenAI vezetői aláírtak egy nyilatkozatot, amely kormányzati támogatású eszközök bevezetését sürgeti arra az esetre, ha az AI-fejlődés hirtelen felgyorsulna. A dokumentum célja olyan mechanizmusok kialakítása, amelyek lassítani tudnák a fejlesztési ütemet, hogy csökkentsék a kontroll elvesztésének és a súlyos károk bekövetkeztének kockázatát.
Miért számít ez?
A vita középpontjában az áll, hogy az önfejlesztő képességű rendszerek megjelenése radikálisan felgyorsíthatja a képességek fejlődését, és ha ennek nincs megfelelő szabályozási és technikai fékje, a kontroll elvesztésének következményei széles körűek és potenciálisan katasztrofálisak lehetnek. A kutatók és cégvezetők által megfogalmazott aggodalmak rávilágítanak arra, hogy nemcsak a technológiai lehetőségek, hanem a fejlesztések irányításának és felügyeletének kérdése is sürgető politikai és ipari prioritás.
Következő lépések
A nyilatkozatot aláíró cégek vezetői által javasolt kormányzati eszközök részletei és hatásmechanizmusai további egyeztetést igényelnek a szabályozókkal és az érintett szereplőkkel. A közösség döntései és a fejlesztők gyakorlata a következő hónapokban kulcsfontosságú lesz abban, hogy milyen irányt vesz az erősen autonóm és önfejlesztő rendszerek kutatása és alkalmazása.
