Bryan Cantrill, a technológiai szakember, óvatos megközelítést javasolt az olyan kijelentésekkel kapcsolatban, miszerint a mesterséges intelligencia a következő évtized végére az emberiség kipusztulását okozhatja. A téma ismét a köztudatba kerül, miután Jacob Coxon, a korábbi Anthropic-alkalmazott Twitter-bejegyzésben állította, hogy sok Anthropic-kutató szerint „az AI megölhet minket mindannyiunkat a következő évtized végére”.
Cantrill válaszában saját fiatalkori hibáiból hozott példát: korábban ő maga is okozott indokolatlan pánikot kevésbé technikai beállítottságú társaiban, és ez a tapasztalat arra tanította, hogy ne ismételjük meg ugyanazt a hibát. Szerinte az efféle szenzációhajhász vagy túlzó állítások „nyíltan a tűzhelyre céloznak”, és mivel az AI jelentősége kétségtelen, nem meglepő, hogy ezek a narratívák a széles közönség figyelmét is megragadják.
Cantrill bírálata lényegében annak a módnak szólt, ahogyan a végzetes forgatókönyveket felvázolják: a legtöbb magyarázat képlékeny, jövőbe mutató feltételezéseken alapul. Jacob Coxon például említette a „kritikus infrastruktúra feltörését” és az „együtt kipusztuláshoz vezető biológiai fegyvereket”, de Cantrill rámutat, hogy Coxon nem szakértő sem a kritikus infrastruktúra, sem a biológiai fegyverek, sem pedig a kihalás témakörében. Ebből következik az a megfontolandó érv, hogy aki ilyen súlyos állítást tesz, annak kellő szakmai alátámasztással kell szolgálnia.
A közönség várhatóan nem érti a nagyméretű nyelvi modelleket (LLM-ek), a kritikus infrastruktúrát, a biológiai fegyvereket vagy a kihalástudomány részleteit — ezért Cantrill hangsúlyozza, hogy ez a magyarázó felelősség azoké, akik a súlyos kockázatot állítják. Saját bevallása szerint egykori hibája tanította meg neki: a szakterületi szakértők implicit módon a közbizalom birtokosai, és ezt a bizalmat nem szabad visszaélésre használni. Különösen fontos szerinte, hogy ha valaki vészjelzést ad, azt a lehető legnagyobb körültekintéssel tegye.
Cantrill a témáról bővebben beszélt az Oxide and Friends podcast egy részében, amelyben a jelen cikk szerzője is részt vett. A beszélgetésben Cantrill a 51:44-nél kezdődő részben ismertette kétségeit a biológiai fegyverekre vonatkozó aggodalmakkal kapcsolatban, és a 57:04-nél elhangzó gondolatot így foglalta össze: szerinte nagyon könnyű eluralkodni a félelmen, ha „kitalálunk” forgatókönyveket, és ezért szükség van arra, hogy biológusok vagy biológiai fegyverekkel foglalkozó szakemberek is mondjanak véleményt. Cantrill szerint a biológiai fegyverekkel kapcsolatos állítások sokszor a képzeletre hagynak túl sok teret, amit a félelem könnyen kitölthet.
Összefoglalva: Cantrill nem tagadja az AI kockázatait, de azt állítja, hogy a szakmai közösség felelőssége, hogy ne táplálja indokolatlanul a közvélemény félelmét. Konkrét, szakértői alátámasztás nélküli, apokaliptikus jellegű jóslatokat el kell kerülni, különösen akkor, amikor azok a közbizalomra és a laikus közönségre hatnak.
Kulcspontok
- Jacob Coxon, korábbi Anthropic-alkalmazott tweetjében azt állította, hogy sok Anthropic-kutató szerint az AI „lehetséges, hogy a következő évtized végére mindannyiunk halálát okozhatja”.
- Bryan Cantrill szerint az ilyen állítások rendszerint képlékeny, jövőbe mutató extrapolációkra épülnek, és gyakran hiányzik mögülük a témaspecifikus szakértelem vagy bizonyíték.
- Cantrill a felelősség hangsúlyozására hívja fel a szakértőket: ha vészhelyzetet vetnek fel, alapos, szakmai magyarázatot kell adniuk, és nem szabad pánikot kelteni alaptalanul.
- Részletesebb megjegyzései elhangzanak az Oxide and Friends podcast epizódjában, a 51:44–57:04 közötti időszakban.
Tags: AI, Anthropic, Bryan Cantrill, AI-etika
