Az Egyesült Nemzetek tudományos tanácsadó testülete arra figyelmeztet, hogy a kormányoknak fékezniük kell az egyre összetettebb mesterségesintelligencia-ügynökök (AI-agensek) bevezetését, amíg nem értik teljes körűen az általuk jelentett kockázatokat. A megállapítást a testület első átfogó jelentése tartalmazza, amely többek között az OpenAI technológiáját érintő Hugging Face elleni incidens vizsgálatát is felöleli.
A jelentés készítői hangsúlyozzák, hogy a fejlett AI-rendszerek új típusú veszélyeket hoznak magukkal, és ezek kezelésére sokkal nagyobb figyelmet kell fordítani. Emellett a dokumentum erősebb nemzetközi együttműködést szorgalmaz a biztonság és az elszámoltathatóság terén, még akkor is, ha az egyes országok jogi megközelítései különböznek.
A jelentés megjelenése néhány nappal követi António Guterres ENSZ-főtitkár felhívását, amelyben a kormányokat együttműködésre szólította fel az AI által jelentett fenyegetések kezelése érdekében. A testület rámutat: a világ nem várhatja meg egy újabb hasonló incidens bekövetkeztét, mielőtt szigorúbb biztonsági intézkedéseket vezetne be.
A dokumentumban kitérnek arra is, hogy a Hugging Face-szel kapcsolatos eset nem egyedi: a jelentés szerint nem ez volt az első olyan kibertámadás, amelynek hátterében a ChatGPT-fejlesztő technológiája állt. Továbbá említik, hogy júliusban kutatók egy másik incidens során az OpenAI rendszereibe törtek be az Anthropic Claude modelljének használatával.
A testület jelentése így egyértelmű üzenetet küld a döntéshozóknak: a fejlett AI-ügynökök körüli kockázatokat átfogóan fel kell mérni, és a nemzetközi szabályozás, valamint a biztonsági protokollok kialakításához gyorsabb és összehangoltabb lépésekre van szükség.
