Connor Leahy, az AI-kutató és vállalkozó, aki jelenleg a ControlAI nevű nonprofit szervezet amerikai ügyvezető igazgatója, a TechCrunch Equity podcastjában arról beszélt, hogy miért tartja veszélyesnek a szuperintelligencia fejlesztését. Leahy szerint az olyan közelmúltbeli biztonsági események, mint az OpenAI és a Hugging Face közti incidens, rámutatnak arra: a humán képességeket meghaladó rendszerek kiszámíthatatlan kockázatokat rejtenek, és nem biztos, hogy megbízhatóan kontrollálhatók.
A megközelítés: megállítani a fejlesztést, nem csak szabályozni
ControlAI radikálisabb álláspontot képvisel, mint a hagyományos „alignment” (összhang) és tart containment (elkülönítés) megközelítések: a szervezet azt javasolja, hogy meg kell akadályozni bizonyos szintű szuperintelligencia kifejlesztését. Leahy szerint az elmúlt időszakban olyan irányba tolódtak a fejlesztések, hogy a kockázatok túl nagyokká váltak ahhoz, hogy pusztán technikai megoldásokkal vagy zártkörű rendszerekkel kezeljék őket.
Jogi és politikai vonatkozások
A beszélgetés kitért a Sanders–Casar által jegyzett "Ban Superintelligence Act" nevű kezdeményezésre, valamint egy, az Egyesült Királyságban kidolgozott, ControlAI által tanácsokkal segített párhuzamos jogszabályra. Leahy elmondta, hogy szerinte az amerikai javaslat talán túl messzire mehet, ugyanakkor az is látható, hogy ami hat hónappal ezelőtt még távolinak tűnt, mára komoly politikai és jogalkotói támogatást kap.
A frontier AI laborok mint politikai szereplők
Leahy a legfejlettebb AI-laborokat nem pusztán profitot hajszoló vállalatokként látja, hanem politikai szereplőkként is. Ez szerinte fontos kontextust ad annak a többezres milliárdos beruházásnak, amely adatközpontok építésére és kapacitásbővítésre irányul. A politikai dimenzió miatt szerinte nem elég üzleti ösztönzőkkel vagy önszabályozással próbálkozni.
A visszafordíthatatlanság pontja és az önfejlesztő AI veszélye
Szerinte a valódi „visszafordíthatatlanság” akkor következik be, amikor az AI képes lesz jobb AI-t építeni — ez önmagát gyorsító, potenciálisan kontrollálhatatlan önfejlesztési ciklust indíthat el. Ez a kilátás alapvető oka annak, hogy Leahy és ControlAI a fejlesztés bizonyos szintjeinek tiltását tartják szükségesnek.
Nemzetközi megállapodások és Kína szerepe
Leahy az erős, nemzetközi "trust but verify" (bízz, de ellenőrizz) megállapodások mellett érvel, és azt állítja, hogy nem feltétlenül áll érdekében Kínának a szuperintelligencia mielőbbi kifejlesztése. Szerinte a globális együttműködés és ellenőrzés fontos eleme lehet a kockázatok csökkentésének.
Hol lehet bővebben hallani?
A témáról bővebben Rebecca Bellan TechCrunch Equity podcastjának epizódjában lehet hallani, amelyben Leahy részletesen kifejti nézeteit és válaszol a kérdésekre.
(Összefoglaló a TechCrunch Equity podcast epizódja alapján.)
