A Cornell Egyetem és a Carnegie Mellon Egyetem kutatói a Proceedings of the National Academy of Sciences folyóiratban megjelent tanulmányukban azt állítják, hogy a mesterséges intelligencia (AI) hatékony szabályozása csak akkor ér valamit, ha kellően erős. A szerzők szerint a gyenge szabályozás „visszaüthet”, és akár veszélyesebb termékeket is előidézhet, mint amelyek a szabályozás hiányában születtek volna.
A tanulmányban a kutatók közgazdaságtani elméleteket és játékelméleti megközelítéseket alkalmazva egy elméleti modellt dolgoztak ki, amely azt vizsgálja, hogyan lehetne az AI-szabályozást a leghatékonyabban megtervezni. A modell egyik kulcsállítása, hogy a tényleges biztonság megteremtéséhez a fejlesztőcégeket kell megcélozni a szabályokkal, nem csupán azokat, amelyek az AI-t használják.
A szerzők logikája szerint ha a szabályozás elsősorban a felhasználó vállalatokra hárítja a felelősséget, akkor ez a fejlesztőket részben „felmenti” a kötelezettségek alól. Ennek következményeként a fejlesztők lazábban kezelhetik a biztonsági garanciák beépítését, ami végső soron csökkentheti az AI-termékek általános biztonságát.
A tanulmány megjelenése különösen időszerű, mivel az Egyesült Államokban éppen zajlik a vita arról, milyen szövetségi szabályokra van szükség az AI felett. A közpolitikai vitában két fő tábor bontakozott ki: az egyik a kevésbé szigorú, piacbarát megközelítést támogatja, amely lazább szövetségi korlátozásokat szorgalmaz, és amelynek nézetei részben összhangban állnak a Trump‑kormányzat szemléletével. Ennek a csoportnak az az érve, hogy a „felesleges korlátok” eltávolítása elősegíti az innováció gyorsaságát, és versenyelőnyt biztosít az Egyesült Államoknak Kínával szemben.
A másik oldal arra hívja fel a figyelmet, hogy a profitmotiváció miatt a vállalatok alábecsülhetik az alulszabályozott AI veszélyeit. A kockázatok között a tanulmány és a vita fókuszában többféle negatív hatás szerepel, a mentális egészség romlásától az AI által okozott potenciális munkanélküliségig.
A kutatók rámutatnak, hogy a biztonság és a profit nem feltétlenül zárják ki egymást. Szerintük a jól megtervezett, erős szabályozás mindkét célt szolgálhatja: növelheti az AI-termékek biztonságát, és emellett ösztönözheti az AI-t használó vállalatok számának és költési hajlandóságának növekedését.
A tanulmány a problémát a játékelmélet klasszikus fogolydilemma‑modelljeként értelmezi: két vagy több szereplőnek együtt kellene működnie a legjobb közös eredmény eléréséhez, de ha nem kooperálnak, az egyéni érdekek miatt gyengébb, részben alulteljesítő kimenetek jönnek létre. Ebben a keretben a döntéshozók választhatnak úgy, hogy együttműködnek az iparral a szabályozás kialakításában, vagy egyoldalúan lépnek, megőrizve rövid távú előnyeiket.
Összefoglalva: a tanulmány azt javasolja, hogy a szabályozók a fejlesztőcégekre irányuló, szigorúbb előírásokat részesítsék előnyben, mert csak így minimalizálható az AI potenciális káros hatása, és elkerülhető, hogy a gyenge jogszabályok paradox módon növeljék a veszélyeket.
Kapcsolódó megjegyzés
A hazai és nemzetközi sajtó – így a Gizmodo is – felhívta a figyelmet a tanulmányra, mivel az amerikai szabályozási vita közepén jelent meg, és közvetlenül kapcsolódik a jelenleg folyó közpolitikai döntésekhez.
