ControlAI, egy amerikai nonprofit szervezet, azt javasolja, hogy meg kell állítani a szuperintelligens mesterséges intelligencia fejlesztését, mert a szervezet szerint a jelenlegi biztonsági megközelítések nem biztosítanak elegendő védelmet.
Connor Leahy, aki AI-kutató, vállalkozó, és jelenleg a ControlAI Egyesült Államokbeli ügyvezető igazgatója, a TechCrunch Equity podcastjának vendége volt, ahol részletezte a szervezet álláspontját. Leahy szerint az olyan friss biztonsági incidensek, mint az OpenAI-hoz köthető Hugging Face-betörés, rávilágítanak arra a veszélyre, amelyet a embernél képességeiben potenciálisan jobbnak számító rendszerek üzembe helyezése jelenthet.
Leahy azt mondta, hogy a hagyományos megközelítések — az ún. alignment (értékegyeztetés) és containment (korlátozás) — önmagukban nem elegendők az ilyen rendszerek kockázatainak megbízható kezeléséhez. Emiatt a ControlAI radikálisabb lépést javasol: megakadályozni, hogy vállalatok tovább fejlesszenek szuperintelligens rendszereket.
A szervezet álláspontja korábban elképzelhetetlenül radikálisnak tűnt, de Leahy szerint az elmúlt hónapok eseményei és a biztonsági incidensek miatt ez a nézet most egyre inkább támogatottságot nyer. A beszélgetés során felmerült, hogy a kezdeményezést új jogszabályok is részben alátámasztják, ami növeli a politikai és társadalmi figyelmet a kérdésre.
Miért számít ez
A ControlAI javaslata azért fontos, mert alapvető kérdéseket vet fel: hogyan mérjük és korlátozzuk az AI rendszerek képességeit, és mikor válik egy rendszer annyira képessé, hogy a hagyományos biztonsági intézkedések nem működnek megbízhatóan. A szervezet azon az állásponton van, hogy a potenciális veszélyek — amelyekre a közelmúltbeli incidensek is figyelmeztetnek — túl nagyok ahhoz, hogy pusztán technikai megoldásokra hagyatkozzunk.
A ControlAI álláspontja vitákat indít majd mind a kutatókkal, mind a vállalatokkal és a törvényhozókkal, mivel a szuperintelligencia fejlesztésének leállítása jelentős gazdasági és tudományos következményekkel járhat. A szervezet megjelenése ugyanakkor rámutat: a társadalmi és szabályozói válaszok gyorsuló ütemben alakulnak a mesterséges intelligencia biztonságának kérdésében.
A TechCrunch Equity podcastban elhangzott beszélgetés Rebecca Bellan műsorvezetővel rávilágított arra, hogy a ControlAI nézetei hogyan illeszkednek a jelenlegi vitákhoz a biztonságról és a szabályozásról, és hogyan változik a közbeszéd, ahogy újabb incidensek és törvénykezési kezdeményezések jelennek meg.
Következők
Leahy és ControlAI javaslatai további vitákat és vizsgálatokat indíthatnak el a mesterséges intelligencia fejlesztési irányairól, a szabályozás szükségességéről és arról, milyen mechanizmusokkal lehetne biztosítani, hogy a technológia ne okozzon kontrollálhatatlan kockázatokat.
