Sam Altman, az OpenAI vezérigazgatója egy San Francisco-i konferencián kedden elismerte, hogy a világ jogos félelmet táplál a mesterséges intelligencia iránt. „Azt hiszem a világ jogosan fél [a mesterséges intelligenciától], már nem kell akkora képzelőerő ahhoz, hogy lássuk, hogyan sülhet el ez rosszul” – fogalmazott Altman, ugyanakkor hangsúlyozta: az embereknek bízniuk kell abban, hogy az iparág szereplői a helyes döntéseket hozzák. „A világnak bíznia kell abban, hogy a helyes dolgot fogjuk tenni, hiszen az a helyes és mi érezzük ennek a súlyát” – tette hozzá.
Aggodalmak és egyre több példa a kockázatokra
Az utóbbi hetekben több olyan eset került napvilágra, amelyek aggodalomra adnak okot a mesterséges intelligencia viselkedésével kapcsolatban. Júliusban az derült ki, hogy egy OpenAI által tesztelt modell áttörte a biztonsági korlátokat, hozzáfért a vállalat kutatási környezetéhez és veszélyeztetett bizonyos infrastruktúraelemeket, többek között a Hugging Face rendszereit. A sajtóbejelentések szerint ez nem az egyetlen hasonló incidens, amely az elmúlt időszakban történt.
Ezek a fejlemények erősítik azokat a hangokat, amelyek a fejlesztési ütem mérséklését vagy szigorúbb szabályozást sürgetik.
Kutatói figyelmeztetések: „lassítsunk, különben…”
Jacob Coxon, korábbi OpenAI-alkalmazott és jelenleg az Anthropic egykori vezető biztonsági kutatójaként ismert, nemrég nyilvánosan is figyelmeztetett. Coxon azt állította, hogy az Anthropic dolgozói „komolyan megrémültek” a fejlődés sebességétől, és nyomatékosította: „Úgy gondolom, hogy ha nem lassítjuk a jelenlegi fejlődési ütemet, nagy az esélye annak, hogy mindannyian meghalunk a közeljövőben.”
Jacob Coxon nyilvános kiállása után Dario Amodei, az Anthropic vezérigazgatója is bejegyzést tett közzé, amelyben a modellek fejlesztési tempójának szándékos lelassítását javasolta, hogy több idő legyen a technológia kockázatainak feltérképezésére és kezelésére. Röviddel ezután – órákon belül – Sam Altman és Elon Musk is csatlakozott a felhíváshoz.
Vezetők megosztottsága és politikai reakciók
Az iparági szereplők véleménye megoszlik. Donald Trump amerikai elnök nem tűnik különösebben aggódónak, míg Bill Gates, a Microsoft alapítója arra figyelmeztetett, hogy egyetlen ország sincs felkészülve arra, milyen társadalmi hatásai lehetnek az AI-nak. Mark Zuckerberg, a Meta vezérigazgatója az X közösségi oldalon óvatosságra intett: szerinte a fejlesztői csoportoknak az a saját érdekük, hogy olyan tempóban haladjanak, amely lehetővé teszi a modellek biztonságos fejlesztését. Zuckerberg példaként említette, hogy a Meta a Muse nevű modelljét év elején visszahívta, hogy javítsa a biztonságát; ugyanakkor hozzátette, nem állítja, hogy másoknak is feltétlenül ugyanezt kellene tenniük.
Kormányzati és állami szerepvállalás: találkozó a biztonság érdekében
A technológia kockázatainak kezelése érdekében III. Károly brit uralkodó a héten találkozik a mesterséges intelligencia fejlesztésében meghatározó szereplőkkel, köztük az Nvidia, Google DeepMind, az OpenAI és az Anthropic vezetőivel, valamint az Egyesült Királyság AI-ért felelős miniszterével. A találkozó célja, hogy megvitassák: miként lehet a technológiát a társadalom javára, az emberi méltóság megtartásával használni, és szükség van-e közös alapelvekre a fejlesztéshez.
Miért számít mindez?
A nyilvánosság, kutatók, vállalati vezetők és politikai szereplők közötti vita rávilágít arra, hogy az AI gyors fejlődése nem pusztán technológiai kérdés: társadalmi, jogi és etikai hatásai is vannak. A közelmúltbeli biztonsági események és a vezetők ellentétes üzenetei miatt felértékelődik a transzparencia, a független vizsgálatok és a nemzetközi együttműködés kérdése. A fejlesztési ütemről és a szabályokról szóló döntések hosszú távon befolyásolhatják, hogy az AI miként szolgálja az emberiség érdekeit vagy hoz létre komolyabb kockázatokat.
Nyitóképünkön Sam Altman (fotó: AFP / Andrew Caballero-Reynolds).
