Jacob Coxon, az Anthropic korábbi vezető biztonsági kutatója a BBC-nek nyilatkozva azt állította, hogy a cég munkatársai „komolyan megrémültek” a mesterséges intelligencia fejlődésének jelenlegi sebességétől és attól, milyen veszélyeket hordozhat az emberiség számára. Coxon korábban az OpenAI-nál is dolgozott; az Anthropicnál az AI-rendszerek betanításáért volt felelős.
Néhány nappal az interjú előtt Coxon elhagyta az Anthropicot. X-en (korábbi Twitter) közzétett bejegyzésében azt írta, hogy távozását az indokolja: szerinte a cég nem veszi kellő komolysággal a biztonság kérdését. A BBC-nek adott nyilatkozatában azt is kifejtette, hogy az OpenAI és az Anthropic szerinte „az önfejlesztő szuperintelligencia fejlesztéséért verseng”, és ez szerintük „az életünkkel játszik”.
„Úgy gondolom, hogy ha nem lassítjuk a jelenlegi fejlődési ütemet, nagy az esélye annak, hogy mindannyian meghalunk a közeljövőben” – mondta Coxon a BBC-nek. A kutató 27 éves.
Coxon párhuzamba állította a saját véleményét Dario Amodei, az Anthropic vezetőjének korábbi felhívásával. Amodei írásában a mesterséges intelligencia fejlesztésének lassítását javasolta, és azt javasolta, hogy az iparágra kiterjedő szabályozást vezessenek be, valamint független módon ellenőrizzék az AI-modellek fejlesztését. Ezzel a javaslattal egyaránt egyetértett Sam Altman, az OpenAI vezetője, és Elon Musk.
Coxon azt mondta a BBC-nek, hogy egyetért a szabályozás szükségességével, de szerinte ezt ki kellene terjeszteni a kínai fejlesztőcégekre is, hogy elkerülhető legyen „egy nemzetközi szintű verseny”. Hozzátette, hogy azok az emberek, akik ezeken a vállalatoknál dolgoznak, komolyan kérik a szabályozást, mert úgy érzik, versenyhelyzetbe kényszerültek, és félnek a következményektől.
A kutató szerint egyik legnehezebb kérdés annak megválaszolása, hogy miként nézne ki egy mesterséges intelligencia által okozott apokalipszis. Az Amodei által is felvázolt egyik kockázat az, hogy egy, a szuperkomputerek módjára működő „botraj” átveszi az internet irányítását. Coxon úgy véli, hogy ez a forgatókönyv akár fél éven belül, legkésőbb egy éven belül is bekövetkezhet.
Miért számít ez?
A történet azért jelentős, mert egy, az iparágban dolgozó vezető biztonsági szakember nyilvánosan aggodalmát fejezte ki, otthagyta a céget és konkrét időkeretet is megadott a legsúlyosabb kockázatokra. Emellett fontos, hogy a téma párhuzamba állítható az iparági szereplők — köztük Dario Amodei, Sam Altman és Elon Musk — nyitottabb azon megközelítéssel, hogy lassítani és függetlenül ellenőrizni kellene az erősebb AI-modellek fejlesztését.
Coxon nyilatkozata további kérdéseket vet fel a nemzetközi együttműködés szükségességéről, valamint arról, hogyan lehetne hatékonyan és egységesen szabályozni az AI-fejlesztést a különböző országok és vállalatok között.
Konkrét tények
- Jacob Coxon 27 éves, korábban az OpenAI-nál dolgozott, majd az Anthropicnál az AI-rendszerek betanításáért volt felelős.
- Néhány nappal a BBC-interjú előtt távozott az Anthropictól; X-bejegyzésében azt írta, hogy a cég nem veszi komolyan a biztonságot.
- Dario Amodei írásában a lassítást és független ellenőrzést javasolta; a javaslattal Sam Altman és Elon Musk is egyetértett.
- Coxon szerint a legsúlyosabb forgatókönyv, például az internetet átvevő „botraj”, akár fél éven belül, legkésőbb egy éven belül bekövetkezhet.
