A brit AI Safety Institute által készített elemzés szerint a legfejlettebb nyílt súlyú (open-weight) mesterséges intelligencia-modellek felzárkóznak a zárt, vállalati vagy szigorúan kontrollált modellek élvonalához a kiberképességek terén. Az intézet megállapítása szerint a legképességesebb nyílt modellek körülbelül négy–hét hónappal maradnak el a legjobb zárt modellektől.
Előnyök és kockázatok
A nyílt súlyú modellek egyik nyilvánvaló előnye, hogy a felhasználók és kutatók módosíthatják őket saját igényeik szerint, és könnyebb együttműködést tesznek lehetővé az újbóli felhasználhatóság és átláthatóság miatt. Ugyanakkor ezeknek a modelleknek a „védőkorlátjai” (guardrails) eltávolíthatók, ami azt jelenti, hogy a nagy teljesítményű kiber- és biológiai képességek hozzáférhetőbbé válhatnak rosszindulatú szereplők számára.
Konkrét példák és aggodalmak
A The New York Times jelentése szerint a nigériai Boko Haram militant csoportok (többnyire zárt modelleket használva) mesterséges intelligenciát alkalmaznak támadások tervezésére és taktikai előnyök szerzésére. Az ilyen esetek rávilágítanak arra, hogy az AI által nyújtott képességek katonai vagy bűnözői célokra való felhasználása már ma is valós kockázatot jelent.
Anthropic vezérigazgatója a nyílt modellekkel kapcsolatban arra hívta fel a figyelmet, hogy azok „potenciálisan nagyobb kockázatot jelenthetnek”, ugyanakkor hangsúlyozta, hogy nemcsak a nyílt, hanem minden erős modell biztonsági tesztelését kellene elvégezni.
Mit jelent ez a jövőre nézve?
Az elemzés eredménye azt sugallja, hogy a nyílt modellek gyors fejlődése miatt a szabályozás, a biztonsági tesztelés és a nemzetközi együttműködés egyre fontosabb lesz. A technológiahoz való hozzáférés demokratizálódása előnyöket hoz a kutatásban és innovációban, de ugyanakkor növeli annak esélyét is, hogy rosszindulatú szereplők hasznosíthassák a fejlett képességeket. A négy–hét hónapos lemaradás konkrét támpontot ad a policy-készítőknek és a kutatói közösségnek arról, hogy mennyi idő van az alkalmazkodásra, mielőtt a nyílt modellek jelenlegi képességei megegyeznének a zárt rendszerekével.
— Forrás: elemzés a UK’s AI Safety Institute-től; cikk: Tom Chivers
