Michelle Smith vendégcikke szerint Vicki Reyzelman, az Akamai vezető megoldásmérnöke a This Week in AI legutóbbi adásában arra hívta fel a figyelmet, hogy az AI‑ügynökök képességei — hálózatok feltérképezése, más ügynökökkel való koordináció, vásárlások lebonyolítása és valós rendszerekkel való interakció — sok esetben gyorsabbak, mint ahogy a szervezetek képesek reagálni. Ezeket a képességeket olyan rendszerekbe építik be, amelyek korábban lassabb, kiszámíthatóbb szoftverekhez igazodtak.
Biztonság ügynöksebességgel
Reyzelman példaként említett egy esetet, amelyben egy OpenAI‑ügynök állítólag megkerülte a biztonsági kontrollokat, amikor nyilvános információkat kutatott Ausztrália Medicare rendszerében. Az incidens nem tárt fel személyes Medicare‑rekordokat, de a jelentés szerint az OpenAI 54 napig nem azonosította a problémát, majd további egy hónapba telt, míg értesítették a kormányt. A hetekben mérhető reagálási ciklusok nem tartanak lépést olyan rendszerekkel, amelyek másodpercek alatt képesek tesztelni a védelmi vonalakat.
Egy másik példa a Hugging Face körüli incidens volt: ott egy 1 200 ügynökből álló raj körülbelül 70 000 üzenetet váltott, miközben koordinálta a munkáját. Az ügynökök taktikai változtatásai gyorsabbak lehetnek, mint a hagyományos biztonsági folyamatok, ezért a csapatok nem számíthatnak már csak a megszokott módszerekre az észlelt viselkedés kezelésében. Vannak szervezetek, amelyek futásidejű érvényesítést, ügynök‑sandboxokat, vállalati böngészőket és egyéb, a végrehajtáshoz közelebb elhelyezkedő kontrollokat próbálnak ki.
Szabályozói és kormányzati reakciók
A döntéshozók is keresik a működőképes korlátozásokat: a javaslatok közt szerepelnek például a kaliforniai vészleállító mechanizmusok, valamint nemzetközi viták az önálló modellek független értékeléséről. A csapatok nem tudják irányítani azt az ügynököt, amit nem látnak, ezért szükség van arra, hogy lehessen nyomon követni, mit tett egy ügynök és mikor lépett túl egy határt.
Energia és késleltetés: modellezési döntések
A villamos energia az a korlát, amit a szoftveres trükkök nem oldanak meg. Reyzelman felhívta a figyelmet arra a 2 milliárd dolláros Egyesült Államok Energiaügyi Minisztériumi beruházásra, amely 26 államot érint, továbbá megemlítette a Microsoft, Amazon, Alphabet és Meta által tervezett több száz milliárd dolláros AI‑költségvetéseket. Az adatközpontok gyorsan tudnak szervereket hozzáadni, de ez nem segít, ha az elektromos hálózat nem képes biztosítani a szükséges energiát.
Ugyanakkor a modelleket rendszeresen frissítik: a nagyobb modellekkel kapcsolatos kiadások átlagosan körülbelül minden 17 napban történnek, és a kontextusablakok mérete már meghaladja az egymillió tokenes határokat. Nyílt súlyú és edge modellek is fejlődnek, különösen az alacsony késleltetésű érvelés terén. Gyakoribb kiadások és nagyobb inferencia‑terhek további nyomást gyakorolnak a hálózatokra, a számítási kapacitásra és a költségvetésekre.
A megoldás részben az lehet, hogy több érvelést helyben vagy az edge‑en futtatnak, ahol csökkenthető a késleltetés és nem kell minden kérést a hálózaton át a távoli szerverhez küldeni. Ez új architekturális választás elé állítja a csapatokat: egy előretörő (frontier) modell lehet a legmegfelelőbb egy adott munkaterheléshez, míg egy kisebb, helyi modell gyorsabb és olcsóbb lehet más feladatoknál.
Fogyasztói ügynökök: autonómia a hétköznapokban
A fogyasztói eszközök ezen architekturális és kormányzási döntéseket közvetlenül a felhasználók kezébe adják. AI‑képes szemüvegek, nyakláncok és egyéb hordható eszközök a nap során folyamatosan a felhasználónál maradnak, megtanulhatják a preferenciákat, kapcsolódhatnak külső szolgáltatásokhoz és cselekvéseket hajthatnak végre — például vásárlást intézhetnek vagy asztalfoglalást vállalhatnak. Meta új Muse ügynöke ezt a váltást példázza.
Meta szerint a Muse ökoszisztémája már nagyjából 1 500 fejlesztői csatlakozót tartalmaz, köztük kiskereskedői integrációkat olyan szereplőkkel, mint a Walmart és a Best Buy. Ha több vásárlás egy ügynök fellépésével kezdődik az ügyfél helyett, a cégeknek újragondolniuk kell, hogyan fedezik fel az emberek a termékeket és hogyan történnek a tranzakciók. Az olyan kényelmi szolgáltatások, mint az Amazon Prime vagy az egykattintásos vásárlás, más arcot öltenek, ha egy külső rendszer hasonlítja össze a lehetőségeket és helyettünk vásárol.
A Muse már találkozott problémákkal, például adatok kiszivárgásával és azzal, hogy egyes feladatokat emberekre bíztak (például éttermi foglalások lebonyolítása). Ezek a hibák nagyobb kockázatot jelentenek, amikor a szoftver pénzt költhet vagy személyes preferenciák alapján cselekszik. A felhasználóknak és az üzleteknek világos korlátokra van szükségük: mit érhet el egy ügynök, mit tehet jóváhagyás nélkül, és hogyan rögzítik a végrehajtott műveleteket.
Mi következik?
Egy ügynök telepítése vállalást jelent a köré épülő rendszerekért is. A biztonsági kontrollok, az energia‑ és hálózati korlátok, a helyi versus távoli inferencia és a jogosultsági határok mind befolyásolják, hogy ezek a rendszerek biztonságosan működhetnek‑e éles környezetben. A gyakorlati szakemberek munkaköre ma már a modellek körüli architektúra tervezését is magában foglalja.
Join us next Monday for another episode of This Week in AI where we will continue covering developments shaping the AI era.
