Az Anthropic a hét elején benyújtott, frissített S‑1A dokumentumban (a társaság tőzsdei bejelentése) a pénzügyi adatok mellett egy figyelmeztető megjegyzést is elhelyezett: a cég szerint közel lehet ahhoz a ponthoz, amelyet recursív önfejlesztésnek (RSI) neveznek.
Mi az RSI? A recursív önfejlesztés azt az állapotot írja le, amikor egy MI annyira hatékonyan képes saját fejlesztésében részt venni, hogy az önmagától gyorsuló, drámai képességnövekedést eredményez. Egyesek számára ez a forgatókönyv lényegében kontrollvesztéssel és súlyos kockázattal járó fenyegetést jelent; mások szerint viszont éppen ez a technológiai ígéret forrása, hatalmas termelékenységi és tudományos lehetőségeket nyitva meg.
Mit állít az Anthropic a űrlapban?
A cég kockázati tényezőkről szóló részében azt közölte, hogy növekvő mértékben használ MI‑rendszereket saját kutatás‑fejlesztésének felgyorsítására, és ez a gyakorlat gyorsabb modellfejlődést eredményezhet, mint amilyen ütemben a megfelelő biztonsági, igazítási és védelmi intézkedéseket ki tudják dolgozni és bevezetni. Különösen hangsúlyozza:
- korábban előfordult, hogy új modellek képességnövekedését a cég nem ismerte fel időben;
- a jövőben előfordulhat, hogy a fejlesztési ütem hirtelen gyorsulását csak az esemény után észlelik;
- belső becsléseik és a jövőre vonatkozó várakozásaik alapján lehetséges, hogy hamarosan elérhetik a Responsible Scaling Policy („az MI‑hoz köthető drámai felgyorsulás”) definíciója szerinti küszöböt.
Ugyanakkor az Anthropic világossá tette: eddig egyetlen jelenlegi modelljét sem minősítették úgy, hogy az már átlépte volna ezt a határt, és továbbra is értékelik az alapul szolgáló adatokat.
Emberi felügyelet ígérete és a Responsible Scaling Policy
A cég azt is rögzíti, hogy a közeljövőben nem számít arra, hogy Claude‑t (Anthropic nyelvi modelljét) biztonságosan lehetne teljesen autonóm módon alkalmazni a következő generációs frontier modellek tervezésére és építésére emberi felügyelet vagy megértés nélkül. Ennek megfelelően tervezik a Responsible Scaling Policy frissítését, hogy az emberi irányítást fenntartsák a frontier modellek fejlesztésénél.
Szkeptikus megjegyzések és gyakorlati következmények
A dokumentumra kritikusok rámutathatnak, hogy egy S‑1 egyszerre nyilvános tájékoztatás és marketingeszköz is, ezért az állítás, miszerint a cég közel áll egy önmagát fejlesztő modell létrehozásához, egyesek szerint promóciós célt is szolgálhat. Mindazonáltal az Anthropic‑hoz köthető Claude képességei — különösen a programozás, matematika és kiberbiztonság terén — az idei évben jelentős előrelépést mutattak.
Ha a vállalat maga is úgy értékeli, hogy az RSI lehetősége közel van, akkor ez arra int, hogy a fejlesztőknek, szabályozóknak és a közvéleménynek érdemes erre reagálni: a technológia potenciális előnyeinek maximalizálása mellett kezelni kell a biztonsági és irányítási kockázatokat is.
Összegzés
Anthropic a frissített S‑1A‑ban nyíltan beszél arról a lehetőségről, hogy az MI‑alapú R&D következtében olyan gyors fejlődési ütem állhat be, amely meghaladja a jelenlegi biztonsági intézkedések fejlesztési sebességét. Ugyan egyik modelljüket sem minősítették még RSI‑t elérőnek, a cég felelősségteljes skálázási politikájának frissítését tervezi, és fenntartja az emberi szereplők részvételét a fejlesztési folyamatban.
