A Wall Street Journal beszámolója szerint tavaly nyáron világszerte több száz felhasználó fordult a ChatGPT-hez azzal a kérdéssel, hogyan lehet mérgeket vagy biológiai fegyvereket előállítani. A cikket nagy MI-fejlesztő cégeknél dolgozó jelenlegi és volt alkalmazottak, továbbá biológiai fegyverekkel foglalkozó kutatók és szakpolitikai tanácsadók információira alapozza.
A modellek válaszai és szakértői értékelés
Az érintett AI-modellek a Wall Street Journal forrásai szerint készségesen válaszoltak a konkrét lekérdezésekre; a cégek alkalmazottai azt állították, hogy a válaszok középiskolai szintre leegyszerűsítve is részletesen ismertették a módszereket. A lap felülvizsgáltatta a ChatGPT-válaszokat biológiai fegyverekkel és terrorizmussal foglalkozó szakértőkkel, akik közül néhányan „rettentően pontosnak” minősítették bizonyos válaszokat.
Vállalati lépések és jogi kötelezettségek
Az OpenAI a lap szerint letiltotta azokat a felhasználókat, akik ilyen témákat kérdeztek, de nem értesítette a hatóságokat. Jelenleg az Egyesült Államokban nincs olyan jogszabály, amely kötelezővé tenné az MI-cégek számára a hatóságok értesítését ilyen esetekben.
Más modellek és a kérdések motivációja
A probléma nem kizárólag a ChatGPT-re korlátozódik: a Wall Street Journal forrásai szerint felhasználók a Anthropic Claude-ját, a Google Gemini modelljét és Elon Musk Grok nevű rendszerét is használták hasonló kérdésekre. A források ugyanakkor rámutatnak, hogy nem mindig egyértelmű, hogy a lekérdezések tényleges rossz szándékú gyártási célzatból érkeztek-e, vagy pusztán a chatbotok képességeinek tesztelésére szolgáltak.
Kockázatok és potenciális jövőbeli veszélyek
Hamza Chaudhry, a Future of Life Institute nemzetbiztonsági politikáért felelős vezetője azt nyilatkozta a Wall Street Journalnak, hogy az ilyen típusú MI-lekérdezések magányos támadók számára segíthetik a célzottabb, viszonylag alacsonyabb halálozással járó biológiai támadások tervezését. Chaudhry szerint a következő években rosszindulatú csoportok már nagyobb léptékű támadások megtervezéséhez is használhatják a mesterséges intelligenciát, és a több erőforrással rendelkező terrorszervezetek számára az MI akár egyfajta „biológiai fegyver-szakértővé és tanácsadóvá” is válhat.
Nyílt modellek és hozzáférhetőség miatti aggodalmak
A cikk megjegyzi, hogy a kínai fejlesztők által publikált, nyílt hozzáférésű MI-modellek tovább növelik a kiberbiztonsági és biológiai kockázatokkal kapcsolatos aggodalmakat. Ezek a modellek olcsóbban és széles körben hozzáférhetők, valamint testre szabhatók, ami lehetőséget adhat a biztonsági korlátozások és védelmi mechanizmusok eltávolítására.
Vállalati dilemma: megelőzés vs. kutatás szabadsága
A világ vezető mesterségesintelligencia-fejlesztő vállalatai jelenleg azon dolgoznak, hogyan lehet csökkenteni a rosszindulatú felhasználók által okozott kár kockázatát úgy, hogy ne akadályozzák a jóhiszemű kutatási vagy oktatási célú lekérdezéseket. Ezt a feladatot bonyolítja, hogy a lekérdezések motivációja gyakran bizonytalan, és a szabályozási keretek egyes országokban még kialakulóban vannak.
