Mark Zuckerberg egy terjedelmes esszében részletezte a Meta (Meta Platforms) elképzelését arról, hogyan kellene kinéznie a szuperintelligenciának és annak szabályozásának. A vezérigazgató szerint a legfontosabb kérdés nem elsősorban technikai, hanem hatalmi jellegű: az, hogy kik férhetnek hozzá a legfejlettebb mesterséges intelligenciákhoz, és kik dönthetnek azok használatáról.
A cél: személyes, mindenki számára elérhető AI-ügynök
A Meta célja egy olyan, személyre szabott mesterséges intelligencia megépítése, amely széles körben elérhető — ingyenesen vagy kedvező árazással — és amely a felhasználók életének számos területét képes támogatni. A vállalat konkrét irányai között szerepel egy személyes AI-ügynök kialakítása, amely a felhasználó céljait, kapcsolatait, egészségi állapotát és pénzügyeit is képes kezelni. Ugyanakkor a Meta ígérete szerint az adatvédelem erős garanciáit is megteremtik: az ügynök működése során bevezetett megoldások a végpontok közötti titkosításéhoz hasonlóan korlátozzák, hogy maga a Meta hozzáférhessen a felhasználói adatokhoz.
Zuckerberg személyes példákat is hozott: megemlítette, hogy nyolcéves lánya már mesterséges intelligencia segítségével tanul kódolni és videókat készíteni, és közösen robotterveken dolgoznak.
Széles körű elosztás vs. koncentrált kontroll
Zuckerberg élesen ellenezte azt a nézetet, amely szerint a szuperintelligencia biztonsága érdekében a technológiát néhány intézmény kezében kellene koncentrálni. Ehelyett azt javasolja, hogy a technológia elterjesztése — hasonlóan ahhoz, ahogy a szuperszámítógépek teljesítménye idővel az okostelefonokba került — önmagában is fékeket és ellensúlyokat teremthet. A Meta dinamikus, aukciós árazási modellt említ a hozzáférés biztosítására, és ígéretet tett arra, hogy a szuperintelligencia sokak számára elérhető lesz.
Új vállalatirányítási modell és a Meta Superintelligence Labs
Az esszé egyik központi bejelentése egy új vállalatirányítási struktúra: a Meta független igazgatótanácsának hatáskörébe kerülne a modellek kiadási és biztonsági feltételeinek jóváhagyása, valamint azok betartásának ellenőrzése. Zuckerberg hangsúlyozta, hogy nem tartja helyesnek, ha bárki — beleértve saját magát is — egyedül dönthetne a szuperintelligencia alkalmazásáról, ezért más élvonalbeli AI-laboratóriumokat is hasonló kontrollmechanizmusok bevezetésére buzdított.
Ezzel összefüggésben bejelentette, hogy a Meta Superintelligence Labs már működik, és a vállalat a közeljövőben újraindítja egyes nyílt forráskódú modellek publikálását.
Szabályozási javaslatok és együttműködés a kormánnyal
Zuckerberg több konkrét szabályozási javaslatot tett. Kiemelte, hogy a vezető AI-laboratóriumok osszák meg a kormányzattal az új modellek tanítási folyamatának köztes ellenőrzési pontjait (checkpointjait). Emellett azt javasolta, hogy a laborok biztosítsanak mérnöki erőforrásokat a kritikus infrastruktúra megerősítéséhez anélkül, hogy ez feltétlenül késleltetné a termékek piaci megjelenését.
Az igazítási (alignment) megközelítése: a felhasználó céljai
A Meta vezére az igazítás kérdését eltérően közelíti meg a legtöbb fejlesztőcsoporttól: szerinte az AI-ügynöknek nem elsősorban a fejlesztőcég értékrendjéhez kell igazodnia, hanem az egyes felhasználók személyes céljaihoz. Példaként említette, hogy egyes modellek korábban megtagadtak bizonyos feladatokat — például iskolai levelek megírását —, mert a standardizált tesztelést etikátlannak ítélték.
Az önfejlesztő rendszerek kockázata és a számítási kapacitás szerepe
Zuckerberg részletezte az önfejlesztő (rekurzív önfejlesztésre képes) MI-rendszerek kockázatait. Felhívta a figyelmet arra, hogy ha egyetlen rendszer a rekurzív önfejlesztésre összpontosítva jelentős számítási kapacitást kap, akkor gyors hatékonyságnövekedéssel a világ többi rendszerénél sokkal nagyobb befolyásra tehet szert. Ennek ellensúlyozására a Meta és más laboratóriumok feladata olyan elégséges számítási kapacitás kiépítése, amely biztosítja, hogy az erőforrások döntő többsége az emberi célokat szolgálja.
Összegzés: nyitottság, kontrollok és együttműködés
A Zuckerberg által felvázolt irányvonal egyszerre hangsúlyozza a technológia széles körű hozzáférhetőségét, a független vállalatirányítási kontrollokat és az együttműködést a kormányokkal a biztonsági ellenőrzési pontok megosztásában. A Meta Superintelligence Labs létrehozását és a nyílt forráskódú modellek publikálásának folytatását kiegészítik az olyan javaslatok, amelyek célja a számítási kapacitás és az átláthatóság biztosítása a szuperintelligencia kockázatainak mérséklése érdekében.
A cikk előkészítésében AI-asszisztens működött közre; a végleges tartalmat az újságíró szerkesztette és ellenőrizte. Címkék: adatvédelem, technológia, mesterséges intelligencia, Mark Zuckerberg, Meta Platforms, vállalatirányítás, szuperszámítógép, biztonság, nyílt forráskód, AI-ügynök.
