Körülbelül 1 337 AI-kutató és -alkalmazott adott aláírásával kísért közös nyilatkozatot tett közzé, amelyben arra kérik az Egyesült Államok kormányát, hogy támogassa egy nemzetközi kezdeményezés létrehozását a „határvonal szerinti automatizált AI-fejlesztés szándékos lassításához szükséges műszaki és kormányzási eszközök” kidolgozásához.
A nyilatkozatban szerepelnek a nyugati nagy AI-laborok vezető képviselői: OpenAI, Anthropic, Google DeepMind, Thinking Machines, Meta és Safe Superintelligence Inc. A dokumentumot többek között az Anthropic, a Google és az OpenAI tudományos vezetői és társalapítói, valamint a Safe Superintelligence és az Anthropic vezérigazgatói is aláírták.
Mit mond a nyilatkozat?
A szerzők hangsúlyozzák, hogy az AI jelentősen jobb jövőt teremthet, de ez nem automatikus. Figyelmeztetnek: a vezető AI-vállalatok úgy vélik, közel lehetünk ahhoz a ponthoz, amikor az AI maga is képes lesz automatizálni az AI-kutatást. Bár pontosan nem jósolható meg, mennyivel gyorsítaná ez a fejlődést, a nyilatkozat szerint valós a kockázata annak, hogy a képességfejlődés olyan gyors ütemre kapcsol, amely meghaladja az emberiség képességét az új rendszerek megértésére vagy irányítására.
A dokumentum szerint az iparágnak, a kormánynak és a társadalomnak szüksége lehet arra a lehetőségre, hogy időt nyerjen a felmerülő kockázatok kezelésére, a biztonsági intézkedések kidolgozására és az ellenőrzés megerősítésére. Ugyanakkor rámutatnak: minden vállalatot és országot erős versenyelőny tart vissza attól, hogy egyoldalúan lassítsa a fejlesztést, és jelenleg hiányoznak azok a technikai és kormányzási eszközök, amelyekkel a határvonal mentén folyó fejlesztéseket szándékosan lehetne ütemezni.
A nyilatkozat záró kérésként kéri az Egyesült Államok kormányát, hogy támogassa egy nemzetközi erőfeszítés felállítását, amely megalkotja a szükséges technikai és kormányzási eszközöket a fejlesztés „frontjának” ütemezéséhez.
Miért fontos ez?
A közlemény szerint az a probléma, hogy ha az AI képes lesz saját fejlesztését egyre inkább automatizálni (a „research self-improvement” vagy RSI koncepciója), akkor a legfőbb kihívások emberi közösségi együttműködési problémák lesznek: hogyan lehet országokat és vállalatokat együttműködésre bírni a fejlesztések sebességének közös szabályozásában, és milyen mechanizmusok szükségesek ahhoz, hogy a társadalomnak több idő jusson az alkalmazkodásra minden intelligenciaszint-emelkedésnél.
A szerzők arra figyelmeztetnek, hogy bizonyos intelligenciaszintek elérése rövid távon veszélyes lehet, ezért előfeltétel az ilyen kérdések nyilvános megvitatása és nemzetközi együttműködés kialakítása.
Honnan származik a szöveg?
A kezdeményezés hivatalos honlapán „Pacing the Frontier” (A határvonal ütemezése) címmel olvasható a teljes nyilatkozat és a csatlakozók listája. A mostani közlemény a vezető AI-laborok közötti szélesebb képviseletre épít, és egyúttal politikai támogatást kér az említett eszközök kidolgozásához.
A nyilatkozat közzétételével a résztvevők célja, hogy megalapozottabb szakpolitikai eszközök és nemzetközi együttműködések jöjjenek létre, amelyek lehetővé tehetik a fejlesztések szándékos tempózást annak érdekében, hogy a potenciális kockázatokat hatékonyabban kezelhessük.
