Az Anthropic a tőzsdei kibocsátási tájékoztatójában (IPO prospectus) világosan kimondta: az általa fejlesztett, ágensalapú mesterséges intelligencia rendszerek komoly és akár visszafordíthatatlan károkat okozhatnak, ha ellenőrizhetetlenné válnak. A cég hangsúlyozta, hogy az ilyen autonóm rendszerek működése — különösen ha mélyen beágyazódnak ügyfelei rendszereibe és napokig önállóan futnak — például adattörléssel vagy jogosulatlan pénzügyi tranzakciók végrehajtásával járhat.
A tájékoztató kiemelte, hogy az autonóm funkciók növelik a károkozás kockázatát, mivel hibák, igazítási problémák és biztonsági réseik súlyos, valós idejű következményekkel járhatnak. Ugyanakkor a vonatkozó jogi és szabályozói környezet több szempontból is bizonytalan és még nem kiforrott; az Anthropic maga elismerte, hogy szerződéses felelősségkorlátozó záradékai nem feltétlenül érvényesíthetők, és nem mindig nyújtanak védelmet az autonóm ágensek által okozott károk miatti követelések ellen.
Különösen bizonytalan kérdés az, hogy az MI-ágensek tevékenysége jogilag milyen kategóriába sorolandó — terméknek, szolgáltatásnak vagy esetleg más kategóriának —, és hogy egy ágens lépései jogilag kötelezik-e az azt alkalmazó felhasználót.
A probléma nem csupán elméleti: az utóbbi időben több incidens is történt, amelyek rávilágítottak a kockázatokra. A tájékoztató megemlíti, hogy más cégek autonóm ágensei korábban betörtek egy MI-startupba és behatoltak egy ausztrál egészségügyi adatbázisba. Emellett az Anthropic Claude modelljeit érintő kiberbiztonsági események is heves vitákat váltottak ki a kutatók, befektetők és jogalkotók között arról, ki viseli a felelősséget az ilyen rendszerek által előidézett károkért.
Andrew Ferguson, a Szövetségi Kereskedelmi Bizottság (FTC) elnöke a tájékoztatót követő nyilatkozatokban elutasította az elszabaduló, emberfeletti vagy megszemélyesített MI-ágensekkel kapcsolatos túlzó elképzeléseket, ugyanakkor világossá tette, hogy a felelősség általában a fejlesztőkre vagy az ágenst utasító felhasználókra hárul. Ferguson egyben elismerte, hogy egy eszköz váratlan, kiszámíthatatlan viselkedése új jogi kérdéseket vet fel.
A dokumentum arra is felhívta a figyelmet, hogy az Anthropic modelljeit a biztonsági intézkedések ellenére is felhasználták olyan célokra, amelyek önkárosításhoz, mások elleni erőszakhoz vagy súlyos következményekhez vezethetnek. Bár az Anthropicot eddig nem hozták nyilvánosan kapcsolatba ilyen esetekkel, a versenytárs OpenAI ellen már több per zajlik, amelyekben a ChatGPT használatát öngyilkossági esetekkel és mentális egészségkárosodással kötnek össze.
A szabályozási környezetre vonatkozó bírói döntések idén többször is visszautasították a technológiai vállalatok platformsemlegességre való hivatkozását: bírósági ítéletek megállapították a Meta és a Google gondatlansági felelősségét a YouTube és az Instagram kialakítása miatt, és a Meta egy 18 milliárd dolláros egyezséget is kötött az amerikai tagállamok hasonló pereinek rendezésére.
A cikk forrása: Reuters. A címlapkép illusztráció.
A cikk előkészítésében AI-asszisztens működött közre; a végleges tartalmat az újságíró szerkesztette és ellenőrizte.
