Biztonság

Mesterséges intelligenciával generált szöveg

Az Anthropic vezetője a mesterséges intelligencia biztonságos fejlesztése mellett kötelezte el magát

Dario Amodei, az Anthropic vezérigazgatója a Nasdaq csütörtöki nyitócsengetése előtt a mesterséges intelligencia felelős fejlesztéséről beszélt.

Az Anthropic vezetője a mesterséges intelligencia biztonságos fejlesztése mellett kötelezte el magát

Az Anthropic vezérigazgatója, Dario Amodei a Nasdaq csütörtöki nyitása előtt tartott beszédében kijelentette: a vállalat a biztonsági szempontokhoz igazítja mesterségesintelligencia-rendszereinek tanítását és bevezetését. A vezérigazgató szerint a cég nem enged sem üzleti, sem politikai nyomásnak, és annyi időt szán a fejlesztésre, amennyi ahhoz szükséges, hogy megbizonyosodjon a rendszerek biztonságáról és emberi kontrolljáról. A forrás az Anthropic tőzsdei debütálását minden idők legnagyobb elsődleges részvénykibocsátásaként írta le.

Orvosi lehetőségek és személyes indíttatás

Amodei beszédét azzal kezdte, hogy az Anthropicot azért hozták létre, hogy a nagy teljesítményű technológia az emberiséget szolgálja. Elmondása szerint személyes indíttatása is volt: nővérével, Daniela Amodei Anthropic-társalapítóval elveszítették édesapjukat egy olyan betegség miatt, amely néhány évvel később gyógyíthatóvá vált. Pályáját biológusként kezdte, abban a reményben, hogy hozzájárulhat a gyógymódok gyorsabb megszületéséhez.

A vezérigazgató szerint az emberi tudás a világ nagy részén visszaszorította például a pestist, a himlőt és a gyermekbénulást, más betegségek terén azonban a haladás túl lassú. Úgy véli, a tudósok munkáját a mesterséges intelligencia felgyorsíthatja, többek között a fehérjék térszerkezetének kutatásában, a gyógyszertervezésben, a rákgenetikában és a klinikai vizsgálatok szervezésében. Állítása szerint a kutatók már használják az Anthropic Claude nevű rendszerét e területeken.

Amodei úgy fogalmazott, hogy egy kellően fejlett, emberekkel együttműködő MI akár egy évszázadnyi tudományos és orvosi haladást sűríthetne egy évtizedbe. Hangsúlyozta ugyanakkor, hogy egyelőre korai eredményekről van szó: a kísérletek és a klinikai vizsgálatok továbbra is időt igényelnek. Az orvosláson túl a gazdasági növekedést, a szegénység csökkentését, a demokratikus társadalmak védelmét és a mindennapi szolgáltatások javítását is lehetséges alkalmazási területként említette.

Biztonsági vállalások

A vezérigazgató beszélt az MI kockázatairól is, köztük az egyének vagy államok általi visszaélésről, a gazdasági zavarokról és arról, hogy az emberek elveszíthetik az ellenőrzést a rendszerek felett. Az Anthropic álláspontja szerint ezek a veszélyek megfelelő óvintézkedésekkel elkerülhetők.

Amodei szerint a vállalat tovább dolgozik a biológiai és kiberbiztonsági kockázatok elleni védelmen, a rendszerek emberi célokhoz igazításán, tesztelésén és működésük jobb megértésén. Hozzátette, hogy a legnehezebb biztonsági feladatok még hátravannak, ezért a cégnek a korábbinál is több figyelmet kell fordítania rendszerei többszöri ellenőrzésére.

Amodei korábban is figyelmeztetett a túl gyors fejlesztés veszélyeire. Szeptemberben olyan tervet vázolt fel, amelyben a vezető MI-vállalatok összehangolnák biztonsági szabványaikat, külső szervezetek értékelői pedig ellenőriznék a vállalások teljesítését. Sam Altman, az OpenAI vezérigazgatója, Demis Hassabis, a Google DeepMind vezetője és Elon Musk, az xAI tulajdonosa egyetértését fejezte ki az állásponttal, bár kevés konkrét vállalás született.

Daniela Amodei csütörtökön a CNBC-nek adott interjúban szintén hangsúlyozta, hogy a kockázatok valósak, miközben a technológiában rejlő lehetőségek is jelentősek. Szerinte az Anthropic alapításának egyik célja e kockázatok mérséklése volt, és a vállalat továbbra is elkötelezett a biztonság mellett.

Dario Amodei szerint a tőzsdei megjelenés erősebb pénzügyi helyzetbe hozza a céget. Azt is reméli, hogy az Anthropic példája más vállalatokat is biztonságos fejlesztésre ösztönöz: az általa felvázolt verseny célja nem csupán az, hogy egyetlen cég vezessen, hanem hogy az egész iparág jobban teljesítsen a biztonság terén.