Az Anthropic bejelentette, hogy Claude nevű chatbotjuk a vállalat kutatás‑fejlesztési (K+F) feladatainak 26 százalékában töltött be vezető szerepet. A cég közlése szerint ez az arány néhány hónap alatt emelkedett 0-ról 26 százalékra, ami a The Washington Post beszámolója szerint azt jelzi, hogy gyorsan közelítünk az önfejlesztő jellegű rendszerek felé.
Mit jelent ez a gyakorlatban?
Az Anthropic szerint a Claude nem működik teljesen autonóm módon: nincs olyan pontja, amely emberi közreműködés nélkül készülne. A vállalat részletezte, hogy a K+F‑feladatok felülvizsgálata során Claude az idő 26 százalékában vezette a munkálatokat úgy, hogy az emberek megfigyelő szerepet töltöttek be és iránymutatást adtak. Februárban ez az arány még 0 százalék volt.
A cég szóvivői és vezetői hangsúlyozták, hogy a jelenlegi működés nem egyenlő a teljes autonómiával, ugyanakkor a gyors növekedés rámutat a „rekurzív önfejlesztés” lehetőségére — arra a folyamra, amelyben egy AI egyre önállóbban képes javítani saját képességein.
Biztonsági aggodalmak és iparági reakció
Dario Amodei, az Anthropic vezérigazgatója nemrégiben felszólította a nagyobb AI‑cégeket, hogy egyeztessenek a technológia fejlesztésének lassításáról, hogy időt nyerjenek a megfelelő biztonsági korlátok kialakítására. A javaslatot több nyugati rivális is támogatta; ugyanakkor Donald Trump élesen bírálta az ötletet, míg Peking azt állítja, hogy az egész kezdeményezés célja Kína visszaszorítása.
Amodei és más szakemberek felhívták a figyelmet arra, hogy ha a rekurzív önfejlesztési folyamat megvalósul, az emberek számára nehezebbé válhat az AI rendszerek megértése és ellenőrzése. Az Anthropic azonban nem adott becslést arra vonatkozóan, hogy mennyire valószínűnek tartja ennek a folyamatnak a bekövetkezését.
Műszaki erőforrások és ügynökök
A cég közölte, hogy mintegy 30 000 AI‑ügynököt üzemeltet, amelyek kutatási és mérnöki munkákat végeznek. Emellett az Anthropic elmondása szerint a közelmúltban a kutatás‑fejlesztésre fordított számítási kapacitásuk 6 százalékát irányították át kifejezetten biztonsági munkákra.
Miért számít ez?
A Claude részvétele a K+F‑feladatokban arra világít rá, hogy az AI‑rendszerek képességei nemcsak a felhasználói feladatok automatizálására terjednek ki, hanem maguk a fejlesztési folyamatok támogatására és részleges vezetésére is. Ez a dinamika gyorsítja a technológia fejlődését, ugyanakkor új kérdéseket vet fel a felügyelet, az átláthatóság és a biztonsági garanciák szükségessége kapcsán.
Az Anthropic hangsúlyozza a továbbra is fennálló emberi felügyeletet, és közli a számokra vonatkozó adatokat, de nem adott részletes értékelést arról, milyen kockázati szcenáriókat tart valószínűnek a jövőben.
