Az AI-rendszerek egyre önállóbban tudnak dolgozni, miközben kormányok, vállalatok és kutatók még mindig a megfelelő felügyeleti megoldásokat keresik. A This Week in AI podcast legutóbbi adásában a szerkesztők áttekintették az Egyesült Államokban zajló AI-kormányzati vitákat, az új „frontvonal” modelleket, a tartósan működő ügynököket (persistent agents), a világmodellek fejlesztését, valamint a mesterséges intelligencia gyakorlati alkalmazásait az egészségügyben és katasztrófahelyzetekben.
Az önszabályozás korlátai és jogi vizsgálatok
A Trump-kormányzat bejelentett egy önkéntes megállapodást több nagy AI-vállalattal, amely belső biztonsági ellenőrzéseket, külső auditokat és független igazgatósági felülvizsgálatot ír elő. Mivel ez a megállapodás nem rendelkezik jogi végrehajtási mechanizmussal, felmerül a szokásos kérdés: meddig működhet a vállalati önszabályozás akkor, amikor egyre hatékonyabb rendszereket fejlesztenek.
Paralel módon kormányzati szervek is próbára teszik a meglévő jogi eszközök hatókörét. A Federal Trade Commission (FTC) vizsgálatot indított OpenAI, Anthropic és más AI-vállalatok ügyében, elsősorban a fogyasztókat érintő kockázatok miatt. Az ilyen ügyek segíthetnek eldönteni, hogy a jelenlegi fogyasztóvédelmi szabályok elegendők-e, vagy szükség lesz-e specializált, AI-ra szabott szabályozásra.
A technikai vezetők számára a szabályozás határozza meg, hogyan értékelnek modelleket, dokumentálják a kockázatokat, kezelik a hozzáférést és választanak beszállítókat. Ahogy az AI mélyebben beépül az üzleti folyamatokba, olyan kormányzati gyakorlatokra lesz szükség, amelyek megfelelnek a külső felülvizsgálatnak.
Hosszabb ideig és nagyobb önállósággal dolgozó rendszerek
OpenAI bemutatta a Dots nevű „proaktív asszisztenst”, amelynek célja a kontextus megőrzése, több alkalmazás átívelő működés, több cél követése és önálló cselekvés. Ahhoz, hogy megvárás nélkül végezhesse a feladatokat, a Dotsnak folyamatos hozzáférésre van szüksége a különböző alkalmazásokhoz és adatokhoz. Ez megnöveli az ügynök által elérhető személyes adatok mennyiségét, és növeli a hibák vagy visszaélések kockázatát.
A Google is bővíti azt, hogy egy modell mennyi ideig dolgozhat egy feladaton: a vállalat szerint a Gemini 4 Argon képes akár egymillió kimeneti token előállítására egyetlen válaszban, ami messze meghaladja a jelenlegi frontvonal-modellek tipikus kimeneti korlátait. A cél az, hogy a modell hosszabb, több lépésből álló munkát kísérjen végig, például terjedelmes kódolási feladatokat vagy pénzügyi és jogi elemzéseket.
A hosszabb ideig futó modellek és a tartós ügynökök nem pontosan ugyanazok, de mindkettő lehetővé teszi, hogy az AI több munkát fejezzen be anélkül, hogy a vezérlést visszaadná egy embernek.
Világmodellek és fizikai környezetek megértése
Ahogy az ügynökök egyre önállóbban cselekszenek, fontos, hogy előre felmérjék tetteik következményeit. Ez különösen lényeges, amikor az AI a szoftveren túl a fizikai világban kezd el beavatkozni. A világmodellek (world models) célja az, hogy megtanítsák a rendszereket a környezetek működésére, beleértve az okozati összefüggéseket is, ezért sok kutató a robotika és a fizikai AI építőköveinek tekinti őket.
Példák: World Labs — amelyet nemrégiben felvásárolt az AMD — térbeli intelligenciamodelleket fejleszt interaktív 3D környezetekhez. A brit startup Worldmodeldata közel egymillió órányi videojáték-adatot licencelt, amelyhez játékosok cselekvései vannak társítva. Kutatók az NVIDIA-tól, az MIT-től és az Oxfordtól bemutatták a Physis-Lang nevű megközelítést, amely fizikai ok-okozati leírásokat használ arra, hogy a videomodellek megtanulják, miért történnek események. A kutatók továbbra sem tudják, melyik tanítási megközelítés lesz a leghatékonyabb, ezért többféle adattípust és modelltervezést tesztelnek.
AI támogatása magas kockázatú feladatokban
Egyes fejlesztések már most segítik az embereket magas kockázatú helyzetekben. Anthropic Claude nevű modelljét használják a Kongói Demokratikus Köztársaságban zajló ebola-kitörésre reagáló csapatok napi jelentéseinek rendszerezésére, előrejelzési modellek összehasonlítására, genomikai adatok elemzésére és vakcina-kutatás támogatására.
Más példák: kutatók spanyol nyelvű beszédmodellet fejlesztettek, amely később segíthet felgyorsult biológiai öregedés és demencia korai jeleinek azonosításában. A Mayo Clinic kutatói olyan modellt építettek, amely évekig a diagnózis előtt azonosít mintázatokat, amelyek a hasnyálmirigy-rák kockázatának emelkedésével kapcsolatosak. A nepáli súlyos áradások után helyi csapatok AI-t használtak eltűnt személyek jelentéseinek és a sérültek listáinak egymáshoz rendelésére, illetve műholdfelvételek alapján az épületek károsodásának feltérképezésére.
E példák együtt azt mutatják, hogy az AI segítheti a komplex információk gyorsabb feldolgozását és ezáltal életet menthet, miközben a végső döntésekért továbbra is képzett szakértők felelnek.
Következő lépések: hozzáférés és elszámoltathatóság
Amint az AI több munkát vállal el és magasabb kockázatú területekre lép be, a szervezeteknek világosabb válaszokra lesz szükségük a hozzáférés és az elszámoltathatóság kérdéseiben. Dönteniük kell arról is, hogy hol marad nélkülözhetetlen az emberi ítélőképesség, miközben a rendszerek egyre inkább képesekké válnak.
A This Week in AI podcast következő adásában a műsor házigazdái további híreket, kérdéseket és fejleményeket vitatnak meg az AI-korszak alakulásáról. Az epizódok hetente jelennek meg, és elérhetők többek között a YouTube-on, a Spotify-on és az Apple platformján.
