Google DeepMind vezérigazgatója, Demis Hassabis kedden reggel egy X-posztban azt javasolta, hogy hozzanak létre egy új, független szabványtestületet a „frontier” jellegű mesterséges intelligencia (MI) modellek kiadásának felügyeletére. A bejegyzés címe "A Framework for Frontier AI and the Dawning of a New Age" volt.
A javaslat lényege, hogy egy FINRA-hoz (Financial Industry Regulatory Authority) hasonló önszabályozó szervezet értékelje a nagy kockázatú, élvonalbeli MI-modelleket és dolgozzon ki kiadási gyakorlatokat. Hassabis szerint kezdetben a Frontier Labs önkéntesen megosztanák a modelleket a Szabványtestülettel felülvizsgálat céljából, legfeljebb 30 nappal a nyilvános kiadás előtt.
"Initially, Frontier Labs would voluntarily share models with the Standards Body for review up to 30 days before release," idézi a bejegyzés. „Miután az értékelési protokoll hatékonynak és robusztusnak bizonyul, a formalizálás gyorsan következhet, ami azt jelentené, hogy a Frontier Modelleknek teljesíteniük kell ezt ahhoz, hogy az Egyesült Államok piacán telepíthetők legyenek. A laborok a Szabványtestülettel is együttműködnének a kiadás utáni kritikus sebezhetőségek kezelése érdekében.”
A javasolt mechanizmus alapját részben a kormányzat által eddig végrehajtott eseti felülvizsgálatok képeznék: ilyenek voltak például az Anthropic Mythos és az OpenAI Sol modelljei körüli vizsgálatok. Ezeket a kormányzati ellenőrzéseket korábban bírálták technikai szakértelem hiánya és az átláthatatlan döntéshozatal miatt, amelyek során nem volt világos, mikor engedélyezik egy modell kiadását. Hassabis terve szerint az ilyen döntéseket egy új, kormányzat által támogatott, de iparág által finanszírozott és működésében független szervezet hozná meg.
Az MI-szabályozás kérdése megosztó marad: a technológiai szektor és a Trump-kormányzat részéről is vannak fenntartások. A Fehér Ház MI-tanácsadója és a16z általános partnere, Sriram Krishnan nemrégiben elutasította annak lehetőségét, hogy az elnöki ágban hasonló szervezet jöjjön létre, nyilatkozata szerint „there will not be an FDA for AI.”
Hassabis szerint egy FINRA-hoz hasonló önszabályozó szervezet létrehozása segíthet megfelelni ezeknek a politikai aggályoknak. A javasolt testületben helyet kapnának open-source képviselők és iparági technikai szakértők, míg a munkatársak megtartásához szükséges pénzügyi forrást az AI laborok biztosítanák. Emellett a testület kiszervezhetné egyes értékeléseket a növekvő számú MI-biztonsági csoportnak, amelyek speciális kockázatokra szakosodhatnak.
"The strength of this approach is it would be technically focused, while at the same time supporting innovation and incentivising responsible behaviour," érvel Hassabis. Szerinte a modell úgy van kialakítva, hogy lépést tartson a terület gyorsulásával, alkalmazkodjon a feltárt legnagyobb kockázatokhoz, és szükség esetén szigorítható legyen, ha a helyzet súlyossága azt megkívánja.
A javaslat további részleteket vet fel a szabályozás finanszírozásáról, a függetlenség biztosításáról és a felülvizsgálati protokollok kidolgozásáról, de a bejegyzés nem tartalmaz konkrét menetrendet vagy jogi lépéseket a testület megalapítására vonatkozóan.
