Az utóbbi hetekben erőteljes vita bontakozott ki az AI-iparban arról, hogy a fejlett mesterséges intelligencia valóban létezéses veszélyt jelenthet-e az emberiségre. A vitát részben az váltotta ki, hogy Jacob Coxon, AI-kutató, bejelentette távozását az Anthropictól azzal az indokkal, hogy aggódik amiatt, hogy „a vezető AI-vállalatok a mi életünkkel játszanak”.
Ezt követően az Anthropic egyik alignement vezetője a közösségi médiában olyan posztot osztott meg, amelyben azt írta: „Mi igazán és őszintén hisszük, hogy az AI megölheti az összes embert!”, és személyes becslése szerint ennek a valószínűsége „>10% az elkövetkező egy évtizedben”.
A TechCrunch Equity podcastjának legutóbbi adásában Kirsten Korosec, Sean O’Kane és Anthony Ha részletesen vitatták ezeket a figyelmeztetéseket, illetve azt, hogy mit jelent mindez a vállalatok kommunikációja és üzleti érdekei szempontjából.
Mire mutat rá a vita?
- A megjegyzések és a posztok időzítése felerősítette a reakciókat: a beszélgetés résztvevői úgy vélik, hogy a közelmúltban publikált új modellek képességeinek növekedése és több, belső rendszereket érintő incidens után a nyilvánosság érzékenyebb lett az ilyen kijelentésekre.
- Anthony Ha rámutatott, hogy a „we” (mi) szó használata és a „>10%” számjegy jellegű megfogalmazások problémásak, mert nem világos, kit takarnak, illetve ezek a százalékok gyakran nem számításon vagy explicit módszertanon alapulnak.
- Sean O’Kane felvetette, hogy az ilyen nyilatkozatok hatással lehetnek az Anthropic közelgő IPO-jára és az S-1 dokumentumban szereplő kockázati leírásokra: vajon ezeket már korábban belefogalmazták, vagy most pánikszerűen kell újrafogalmazni a kockázati részeket?
Szándékos marketing vagy őszinte aggodalom?
A beszélgetésben többen felvetették, hogy ezek a drámai figyelmeztetések részben szolgálhatnak annak demonstrálására, hogy egy vállalat milyen fejlett AI-modellt hozott létre — egyfajta „flex”, ami növelheti a technológia percepcióját és akár a cég értékelését is a befektetők szemében. Ugyanakkor a résztvevők szerint nem lehet minden ilyen kijelentést kizárólag marketingnek tekinteni: több kutató és vezető valódi aggodalmát is kifejezi, amikor az irányítás és kontroll hiányára világít rá.
A kontroll kérdése és a közvetlen károk
Anthony Ha megjegyezte, hogy a „doom” narratíva — miszerint az AI a következő tíz évben elpusztíthatja az emberiséget — könnyen elvonhatja a figyelmet a közvetlenebb, azonnali károkról, mint a munkaerőpiaci hatások, vagy a környezeti és klímahatások. Szerinte fontos egyszerre foglalkozni azonnali és hosszú távú kockázatokkal, ám az olyan kifejezések, mint AGI vagy szuperintelligencia, gyakran elnyomják a racionális szabályozási diskurzust.
Mit jelent ez a szabályozás és a befektetések szempontjából?
A podcast résztvevői kíváncsian várják, hogyan jelennek meg ezek a kockázatok az Anthropic S-1 dokumentumában, illetve hogy a piaci szereplők és szabályozók milyen választ adnak a felmerülő problémákra. Kirsten Korosec felhívta a figyelmet arra, hogy a tradicionális befektetési logika szerint a veszélyesebbnek tűnő technológiák rontanák egy cég értékelését, ugyanakkor a jelenlegi piaci környezetben a veszély és a kapacitás bemutatása néha éppenséggel növelheti a befektetői érdeklődést.
Összegzés
A mostani nyilvános figyelmeztetések kombinációja — kutatói lelépés, erős nyilatkozatok egyes vezetőktől és a növekvő képességű modellek miatti félelmek — felerősítette a vitát az AI-kockázatokról. A beszélgetés résztvevői arra ösztönöznek, hogy egyszerre foglalkozzunk az azonnali, mérhető károkkal és a hosszabb távú, létezéses kockázatokkal, miközben kritikusan vizsgáljuk a kommunikáció mögötti motivációkat és a közelgő szabályozási illetve jogi dokumentumok tartalmát.
