A múlt héten, a Las Vegasban rendezett Ai4 konferencián három kiemelkedő mesterséges intelligencia-kutató — Geoffrey Hinton (Nobel-díjas), Fei-Fei Li (a World Labs ügyvezető igazgatója és társalapítója) és Andrew Ng (a Coursera társalapítója) — vitatta meg az AI-fejlesztés nyitottságának és biztonságának kérdését. Bár nem értettek egyet minden részletben, mindhárman fontos érveket fogalmaztak meg az AI nyitva tartása mellett.
A monopolizáció és a hozzáférés veszélye
A három előadó közös aggodalma az volt, hogy néhány nagy cég megszabhatja a fejlődés ütemét és az AI-hoz való hozzáférést. Andrew Ng szerint ez a szereposztás hasonló lehet ahhoz, mint amikor az Apple és a Google uralják a mobil operációs rendszereket, és ez lelassíthatja az innovációt, illetve befolyásolhatja, hogy mit lehet azokra a platformokra építeni. „I don’t want there to be gatekeepers,” mondta Ng, mert szerinte a kapuőrök korlátozzák, hogy mindenki hogyan férhet hozzá az AI-hoz.
Ng ezért azzal érvelt, hogy többlet-szolgáltatókra és versenyre van szükség: ahelyett, hogy néhány szereplő dominálna, több modell és cég versenyezzen egymással. „If I were to try to give one prescription, it would be to promote openness,” mondta Ng, mert szerinte az AI „hihetetlen technológia”, és szeretné, ha mindenkihez eljutna.
Ng továbbá geopolitikai és piaci kockázatot is említett: ha olcsóbb, széles körben elterjedt modelleket építő szereplők – például kínai nyitott modellek – elfoglalják a fejlődő piacokat, akkor ők befolyásolhatják, hogyan találkoznak emberek milliárdjai olyan fogalmakkal, mint a demokrácia vagy az emberi jogok.
Open-source vs. open-weight: Hinton fenntartásai
Geoffrey Hinton világosan elkülönítette az open-source szoftvert és az úgynevezett open-weight modelleket. Szerinte az open-source azt jelenti, hogy a forráskód nyilvános, és sokan átnézhetik, javíthatják a hibákat. Az open-weight viszont azt jelenti, hogy egy betanított modell paramétereit — a súlyokat — nyilvánossá teszik.
„Open source is great. ... Open weights means you train a big model and then you give people the weights. That’s very different,” mondta Hinton, és hozzátette, hogy ellenezte az open-weight megközelítést, mert azzal könnyűvé válik a költséges alapmodell birtoklásának kiaknázása kisebb költséggel rosszindulatú célokra, például kibertámadásokra.
Ugyanakkor Hinton azt is elismerte, hogy az open-weight modellek már „állandó jelenséggé” váltak. „I think that battle’s been lost. We now have open-weight models, so the barrier to lots of people getting these big models ... that barrier has disappeared. It’s too late.” Ennek ellenére hangsúlyozta, hogy az AI fejlesztése alapvetően hasznos lesz: növelheti a termelékenységet és javíthatja az oktatást és az egészségügyet, miközben figyelmeztetett a potenciális káros hatásokra is.
Nuancia és rétegzett nyitottság Fei-Fei Li szerint
Fei-Fei Li elutasította a „teljes nyitottság vs. teljes zártság” dichotómiát. Azt hangsúlyozta, hogy a komplex tudományos és szoftveres rendszerekben árnyalt megoldásokra van szükség: különböző rétegek és szereplők különböző szintű nyitottsággal működhetnek.
Példaként a nukleáris fizikát említette: a tudományos cikkek nyilvánosak, az urán viszont szabályozott, a laboratóriumi munka pedig köztes helyzetben van. Hinton és Ng mellett Li is a nyitottság egyes formáit támogatta, de szerinte ez nem jelentheti azt, hogy minden elemnek ugyanúgy kell nyitottnak lennie.
Li kiemelte a köz- és magánszféra együttműködésének példáit, például a Human Genome Projectet: a nyilvános tudásplatformra épülve gyógyszeripari cégek profitáltak, a tudomány tovább haladt, és a társadalom is részesült az eredményekből. „So I think we have to use [AI] as that kind of infrastructure,” mondta Li, és arra szólított fel, hogy legyenek szintek a nyitottságban — tudományos felfedezés, oktatás, globális partnerségek és üzleti modellek egyaránt számításba veendők.
Szabályozás szükségessége
Mindhárman egyetértettek abban, hogy szabályozásra szükség van az AI irányának befolyásolásához. Geoffrey Hinton fogalmazta meg egyszerűen: „What we want to do is develop AI in a direction that helps people, and regulation will help us do that.” Hinton hozzátette, hogy nem lenne szerencsés, ha olyan magánszereplők dönthetnének kizárólagosan az AI jövőjéről, mint például Elon Musk vagy Mark Zuckerberg.
Következtetés
A Las Vegas-i beszélgetésből az rajzolódott ki, hogy a vezető kutatók nem zárkóznak el a nyitottságtól, de eltérően látják, milyen formában és milyen kockázatok mellett. Andrew Ng a versenyt és a széles hozzáférést tartja elsődleges védvonalnak a monopólium ellen; Geoffrey Hinton óvatos a nyilvánosan közzétett modellekkel kapcsolatban, de elismeri, hogy ezek már elterjedtek; Fei-Fei Li pedig a rétegzett, árnyalt megközelítést szorgalmazza, amely egyszerre enged teret a nyilvános tudásnak és a szabályozásnak.
A vita hangsúlyozza: a technológia terjedése és a geopolitikai, üzleti motivációk miatt mind nyitottságra, mind pedig célzott szabályozásra szükség lesz a jövőben, hogy az AI fejlesztése a társadalom javát szolgálja.
