Egy Anthropicnál dolgozó kutató a héten lemondott, és egy X-posztban azt állította, hogy a vállalat „egyenesen a saját magát fejlesztő szuperintelligencia felé rohan, és az életünkkel játszik”. A bejegyzést az Anthropic saját alignment (összehangolás) vezetője is aláírta, ahelyett hogy elhatárolódott volna tőle. Az üzenet a korábban az iparágban előforduló, pesszimista hangvételű AI-biztonsági figyelmeztetésekhez hasonló, de a feltehetően közelgő tőzsdei részvénykibocsátás (IPO) időzítése miatt más megvilágításba kerül.
Miért számít ez most?
A kutató és az alignment vezető nyilvános figyelmeztetése azért kap különös hangsúlyt, mert ha a vállalat IPO-ra készül, a befektetők és a szabályozók számára fontos lehet a cég biztonsági kultúrája és kockázatkezelése. A bejelentés nem részletezi technikai bizonyítékokkal a konkrét veszélyeket, azonban a figyelmeztetés szóhasználata — „önfejlesztő szuperintelligencia” és „az életünkkel játszunk” — komoly aggodalmat jelez az alkalmazottak egy részénél.
Többi témánk a TechCrunch Equity podcast legújabb adásában
A TechCrunch Equity podcast házigazdái — Kirsten Korosec, Anthony Ha és Sean O’Kane — a fentieken túl több más, a technológiai és befektetési környezetet alakító hírt vitattak meg:
-
Apple: A cég az új vezetés (CEO John Ternus nevéhez kapcsolódó) első nagy eseményén erősen az AI felé hajlott. Különösen az állandó jellegű, mindig bekapcsolt (always-on) funkciók, amelyeket az Apple Watch és az AirPods kapnak, lehetnek fontosabbak hosszabb távon, mint a szem előtt lévő újdonságok, például a hajtogatható iPhone.
-
Stokes Space: A startup 1 milliárd dolláros tőkebevonzását említették mint jelzést arra, hogy a hordozórakéta-piac hirtelen újra megnyílhat, miközben a SpaceX fokozatosan leállítja Falcon-rakétáinak egy részét.
-
Cognition: A kódolást segítő startupba befektetők 2 milliárd dollárt pumpáltak be, ami a cég 48 milliárd dolláros értékelésén alapul. A tranzakcióról a podcastban azt tárgyalták, hogy ez mennyire tükrözi a kockázati tőke befektetők azon hitét, hogy még jelentős növekedési tér maradt az AI-alapú kódolási megoldások piacán.
-
Úszó nukleáris reaktorok: 50 millió dolláros sorozat-előtti (seed) finanszírozást kapott egy projekt, amely úszó nukleáris reaktorokat fejleszt — részben azzal a céllal, hogy az AI-adatközpontok energiaigényét kielégítse.
Következtetések
A kutató lemondása és a nyilvános figyelmeztetés az Anthropicnál újra fókuszba helyezi az AI-biztonság és -összehangolás kérdését, különösen egy esetleges IPO fényében. Ugyanakkor a podcast rávilágít arra is, hogy az AI körüli befektetések, az energiaellátással kapcsolatos innovációk és a hardverfejlesztések párhuzamosan alakítják a technológiai térképet.
