Biztonság

Mesterséges intelligenciával generált szöveg

Az Anthropic biztonsági küszöböt jelzett a mesterséges intelligencia fejlesztésének gyorsulása miatt

Az Anthropic közlése szerint elért egy olyan biztonsági küszöböt, amely óvintézkedéseket tesz szükségessé a mesterséges intelligencia fejlődésének lehetséges felgyorsulása miatt.

Az Anthropic tájékoztatása szerint elért egy olyan biztonsági küszöböt, amely óvintézkedéseket tesz szükségessé a mesterséges intelligencia rekurzív önfejlesztésének lehetősége miatt. Ez utóbbi egy olyan elméleti állapotra utal, amelyben az AI képessé válik saját maga továbbfejlesztésére.

A Gizmodo a vállalat közlésére hivatkozva hangsúlyozta: a küszöb elérése nem jelenti azt, hogy az Anthropic eljutott a technológiai szingularitásig. A jelzés nem a jelenlegi rendszerekre, hanem a jövőbeli modellekre vonatkozik.

Változó megfogalmazás a benyújtott dokumentumban

Az Anthropic november 2-án benyújtott egy dokumentumot az Egyesült Államok Értékpapír- és Tőzsdefelügyeletéhez (Securities and Exchange Commission, SEC). Ebben azt közölte, hogy hamarosan elérheti a felelősségteljes skálázási irányelvében meghatározott, az AI-nak tulajdonítható, drámaian felgyorsult fejlődésre vonatkozó kritériumokat. Egy másik dokumentumában a vállalat arról is írt, hogy irányelvei a kockázatok nyomon követésére vonatkozó terveket tartalmaznak.

A SEC-hez benyújtott dokumentum november 10-i változatából ugyanakkor kikerült a drámaian felgyorsult fejlődésre vonatkozó rész. Az új megfogalmazás szerint a vállalat arra jutott, hogy elérte az irányelv szerinti küszöböt, amely akkor lép életbe, ha a fejlődés meghatározott mértékű gyorsulását észlelik vagy várják. A változtatás arra utal, hogy az ellenőrzéssel kapcsolatos irányelvek már életbe léptek.

A Gizmodo szerint a bejelentés nem egy hirtelen technológiai ugrást ír le, hanem egy olyan lehetőségre figyelmeztet, amely a jövőben következhet be. A jelzés nyomán az Anthropicnak felül kell vizsgálnia biztonsági előírásait, és szorosan nyomon kell követnie az általa fejlesztett mesterséges intelligencia működését.

Részvénykibocsátás

A forrás szerint a Claude fejlesztőjének részvényei iránti kereslet hatszorosa a rendelkezésre álló mennyiségnek. A tervezett, jövő heti részvénykibocsátással a vállalat több mint 90 milliárd dollárt vonhat be, ami a forrás szerint minden korábbinál nagyobb ilyen kibocsátás lehet.