Ma Sam Altman, az OpenAI vezérigazgatója beszélt az Egyesült Nemzetek Biztonsági Tanácsában a mesterséges intelligencia (MI) szerepéről, kockázatairól és a nemzetközi együttműködés szükségességéről. Altman hangsúlyozta, hogy az MI nagy lehetőségeket nyithat a tudományos felfedezések, az egészségügy, az oktatás és a gazdasági növekedés terén, ugyanakkor kiemelte a rendszerek emberi ellenőrzésének és egységes nemzetközi biztonsági normáknak az igényét.
A gyors előrehaladás és a döntéshelyzet
Altman szerint az utóbbi hetekben és hónapokban az MI-modellek gyors fejlődése miatt összesűrűsödött az idővonal: a potenciál kézzelfoghatóbbá vált, miközben a kockázatok is közvetlenebbé váltak. Két lehetséges rossz irányt nevezett meg, amelyeket el kell kerülni: az egyik, hogy elveszítjük az irányítást a jövő felett, a másik pedig, hogy túl kevés szereplő kezébe koncentrálódik a hatalom.
Altman azt mondta, hogy az iparágnak nem szabad túl sok technológiai kockázatot elfogadnia pusztán azért, mert a haszon nagy vagy mert az érintettek versenyben vannak. Szerinte egyes szereplők korábbi egyoldalú lassításai bizonyítják, hogy lehetséges visszavenni a tempóból; fontos, hogy ne építsenek olyan rendszereket, amelyeknél nem lehet biztosítani az illeszkedést (alignment), a monitorozhatóságot és a biztonságot.
Az emberi központúság és az illeszkedés
Altman három kulcspontot emelt ki az optimális irányhoz:
- Az embereknek központi szerepben kell maradniuk a döntéshozatalban. Az illeszkedés nem elméleti kérdés, hanem annak biztosítása, hogy a rendszerek megbízhatóan az emberek irányítása alatt maradjanak és emberi értékeket tükrözzenek.
- A tudományos és gazdasági előnyöknek emberek javát kell szolgálniuk: kutatókat, orvosokat, tanárokat, vállalkozókat és közösségeket kell erősíteniük.
- A technológiának egyéneket kell képessé tennie: a cél az, hogy az emberek saját életük és közösségeik építésében nyerjenek lehetőséget, nem pedig hogy a gyártók legyenek a történet hősei.
Konkrét példák a képességek növekedésére
Altman felidézte az OpenAI modellek matematika terén elért előrehaladását: három nyárvel ezelőtt az alapfokú feladatok mentek, két nyárral ezelőtt középiskolai versenyszint, tavaly aranyérmes teljesítmény a rangos nemzetközi matematikai versenyen, és „az idei nyárban” az egyik modell megoldott egy Millennium-díjas problémát, a Navier–Stokes-egyenleteket. Ezt a képességet nem öncélúan említette, hanem annak illusztrálására, hogy a modellek új tudást fedezhetnek fel és gyakorlati haszonná válhatnak (pl. repülőgép-tervezés, időjárás-előrejelzés, véráramlás vizsgálata).
Nemzetközi szabványok és együttműködés
Altman szerint a legfontosabb döntéseket nem csak szűk laboratóriumokban, például San Franciscóban szabad meghozni: a szabályozásnak demokratikus úton kell kialakulnia. Nemzetközi szinten együttműködésre van szükség:
- Kiegészítő nemzeti és nemzetközi „frontvonal” MI-szabványokra a képességek mérésére, a kockázatok felmérésére és a biztonsági intézkedések értékelésére.
- Közös nyelvre és bizonyítékok összehasonlítására alkalmas szabványokra, amelyek lehetővé teszik a megfelelés ellenőrzését.
- Gyors és pontos incidensjelentési, osztályozási és beszámolási protokollokra, hogy a hibákból tanulni lehessen, mielőtt katasztrófává válnának.
- Biztonságos csatornákra kormányok, kritikus infrastruktúra-üzemeltetők és technikai szakértők között a feltörekvő sérülékenységek és új fenyegetések megosztására.
Altman hozzátette, hogy ezek a szabványok nem szolgálhatják a bebetonozott szereplők érdekeit, és nem részesíthetnek előnyben egy adott üzleti modellt; támogatniuk kell mind a nyílt, mind a zárt modellek fejlesztőit, új belépőket és meglévő laborokat egyaránt. Minden kormánynak a saját jogrendszerében kell eldöntenie, hogyan ülteti át a szabványokat.
Záró gondolatok: két út és a pragmatikus közép
Altman rámutatott: két út áll előttünk. Az egyik egy olyan világ felé vezet, ahol a hatalom koncentrálódik, a döntések átláthatatlanok, és az emberek úgy érzik, hogy a korszakuk legfontosabb technológiáját rájuk kényszerítik. A másik egy olyan világ, ahol az MI emberekért dolgozik, ahol demokratikus intézmények alakítják a fejlődést, a tudományos eredmények valóban javítják az életeket, és több ember vehet részt aktívan a jövő alakításában.
Altman befejezésként azt mondta, hogy nincs mindenre kész válasz, de kész együttműködni és nyitott minden jobb ötletre. Úgy fogalmazott, hogy ez a jövő megvalósítható és érdemes érte dolgozni.
