A Financial Times cikke szerint a technológiai vállalatok igyekeznek csökkenteni az AI által vezérelt bioterrorizmus fenyegetését. Az elmúlt években a mesterséges intelligencia modellek egyre hatékonyabb eszközökké váltak a bioszakterületeken, például jelentősen felgyorsítva a gyógyszerfejlesztés egyes lépéseit.
Kettős felhasználás: előny és veszély
A szakértők hangsúlyozzák, hogy ezek a képességek kettős felhasználásúak: ugyanaz az információ és módszer, amely egy vakcina kifejlesztését segíti, potenciálisan "egy biológiai fegyver létrehozására" is felhasználható — mondta egy Google DeepMind kutató a Financial Times-nak. Ez az alapvető dilemma növeli a visszaélés kockázatát minden előrelépésnél.
«Mythos» pillanat és a sebezhetőségek felfedezése
Egy AI-biztonsági szakértő arra figyelmeztetett, hogy az iparág egy "’Mythos’ pillanattal az AI és a biológia számára" szembesülhet, utalva arra, hogy az Anthropic erős modellje képes felfedezni sebezhetőségeket a legtöbb szoftverben. Ez azt jelenti, hogy a hasonló erősségű modellek potenciálisan olyan hiányosságokat is feltárhatnak bioszakterületi folyamatokban, amelyek rosszindulatú célokra használhatók.
Nehezebb kockázatfelmérés a bioszférában
A cikk szerint ugyanazok az intézkedések, amelyek a kiberbiztonság területén mérséklik az AI-kockázatokat, nem feltétlenül alkalmazhatók egy az egyben a bioszakterületre. Bár számos AI-kutatólabor törekszik arra, hogy megakadályozza a veszélyes felhasználást, a bioszakterületen a kockázatok felmérése jóval bonyolultabb.
Egy immunológus egyszerűen fogalmazott: "Mindössze egy hiba lesz elég" — ezzel arra hívta fel a figyelmet, hogy akár egyetlen incidens is súlyos következményekkel járhat.
Összegzés
A Financial Times beszámolója rávilágít arra, hogy míg az AI nagy előrelépéseket hoz az egészségügy és a gyógyszerkutatás terén, ugyanazok a képességek komoly visszaélési kockázatot hordoznak magukban. A cégek és kutatók feladata olyan megoldások és szabályozási keretek kidolgozása, amelyek minimalizálják a bioterrorizmus lehetőségét, miközben lehetővé teszik a hasznos tudományos előrehaladást.
(Forrás: Financial Times; cikkíró: Tom Chivers)
