A modern, autonóm AI-ügynökök héten ismét a figyelem középpontjába kerültek: rövid idő alatt lezajló biztonsági incidensek, valamint új eszközök jelentek meg, amelyek képesek vásárolni, tranzakciókat kezelni és tudományos kutatásokat koordinálni. Vicki Reyzelman, az Akamai házigazdája a This Week in AI legutóbbi epizódjában azt vizsgálta, hogy ezek a fejlemények miként tesztelik a meglévő biztonsági gyakorlatokat, és milyen lehetőségeket teremtenek vállalatok és kutatók számára.
Biztonsági incidensek és a hagyományos védelem korlátai
Az AI megváltoztatja, ahogyan a támadók sérülékenységeket találnak és kihasználnak. Egy ellátási lánc támadás, amely az ARTEX nevű, nyílt forráskódú, agentikus AI-penetrációs tesztelő keretrendszert használta, több mint 2 250 Microsoft 365 bérlőt tett elérhetővé egy ConnectWise-kompromittáláson keresztül. Az eset rávilágított az OAuth-hitelesítés és a hagyományos identitásvédelmi módszerek korlátaira, különösen amikor autonóm ügynökök vállalati rendszerekhez férnek hozzá.
Egy azonnali, súlyos veszélyt a PHP2Shell jelentette: két, a CVSS súlyossági skálán 9,2-es besorolást kapott sebezhetőség, amelyek lehetővé tehetik kódfuttatást sebezhető webkiszolgálókon autentikáció nélkül. Az Egyesült Államok Cybersecurity and Infrastructure Security Agency (CISA) az október 21-i közzétételt követően haladéktalan javítást sürgetett. Emellett kutatók dokumentálták, hogy támadók AI-ügynököket használtak jelszóhash-ek és többfaktoros hitelesítési titkok megszerzésére egy európai kormányzati rendszerből kevesebb mint két óra alatt.
A gyors kihasználás miatt a szervezeteknek alig marad idejük a nyomozásra és reagálásra, különösen a korlátozott biztonsági erőforrásokkal rendelkező kisebb cégeknek. A biztonsági csapatoknak már nem elég a manuális felülvizsgálat: szükség van automatizált észlelésre és reagálásra, szigorúbb hozzáférés-kezelésre és hálózati szeparálásra, hogy korlátozzák, mit érhetnek el a kompromittálódott ügynökök. Ugyanakkor az autonóm ügynökök monitorozása önmagában is kihívást jelent.
A METR és a Redwood Research kutatói gyengeségeket találtak OpenAI korábbi belső monitorozórendszerében; egyes hibák lehetővé tehették, hogy százai ügynök-akciók rejtve maradjanak. OpenAI szerint a gyártásban működő védelmeket érintő sérülékenységeket már javították, de a kutatók nem értékelték függetlenül ezeket a változtatásokat.
A biztonsági vita a technikai védelmi intézkedéseken túl is szélesedik: Anthropic javasolt szövetségi AI-biztonsági jogszabályokat, miközben a Google DeepMind alkalmazottai lemondtak a vállalat katonai AI-tevékenysége miatti aggályok miatt. Mindkét fejlemény azt mutatja, hogy növekvő nyomás nehezedik az AI-vállalatokra a fejlesztési és alkalmazási szabályok tisztázása érdekében.
Üzleti átállás: ügynökvezérelt vásárlás és felügyeleti modellek
A kiskereskedelem eltérően reagál az autonóm vásárlóügynökökre. A Walmart bevezette az Agent Gateway-t, amely engedélyezett ügynökök számára teszi lehetővé a vásárlást ügyfél által megadott költési keretek és jóváhagyási feltételek betartásával. Ezzel szemben az Amazon korlátozta bizonyos harmadik féltől származó vásárlóügynökök hozzáférését, és bankok, köztük a Morgan Stanley és a Bank of America is szűkítik az ügynökök ügyfélszámlákhoz való hozzáférését.
A vita túlmutat a biztonságon: azok a kiskereskedők, amelyek hirdetésből és termékajánlásokból élnek, érdekeltek abban, hogy a vásárlókat saját felületeiken tartsák. Ahogy egyre több vásárlás ügynökökön keresztül indul, a cégeknek újragondolniuk kell, hogyan tartják fenn az ügyfélkapcsolatokat.
Anthropic más felügyeleti megközelítést tesztel: Claude automatikus módja (auto mode) alapértelmezetté válik a Pro, Max és Team felhasználók számára, ami automatizált ellenőrzéseket futtat a rutinszerű műveletek jóváhagyására és a kockázatos lépések blokkolására. Anthropic emellett hozzájárult az Agent Skills formátumhoz az Agentic AI Foundation keretében, amely a Linux Foundation alatt működik. Több mint 70 platform fogadta el a szabványt, és több mint egymillió skill került publikálásra. A megosztott formátumok megkönnyíthetik a munkafolyamatok újrafelhasználását különböző termékek között, de a szervezeteknek továbbra is ellenőrizniük kell, milyen műveleteket hajthatnak végre ezek a munkafolyamatok.
Infrastruktúraigények és az energia korlátai
Az ügynökök terjedése több számítási kapacitást és elektromos energiát igényel. Beszéltünk az NVIDIA 164,5 milliárd dolláros elköteleződéseiről és garanciáiról, amelyek AI-adatközpontokat támogatnak, köztük egy ohioi campus-ról, amelyet az SB Energy épít az OpenAI számára. Az energiahiány azonban késleltet más projekteket: egy tervezett adatközpont Essexben elakadt, mert a hálózati szolgáltatók csak a 2030-as évekig tudtak biztosítani elegendő elektromos kapacitást.
Eközben az Amazon támogat egy 960 megawattos nukleáris projektet, és a Brookfield valamint a NextEra egy 100 milliárd dolláros AI-központ létrehozását tervezi egy korábbi nukleáris helyszínen Kentuckyban. Ugyanakkor a pénz és a chipek önmagukban nem oldják meg az AI-infrastruktúra korlátait, amikor az áramtermelés és a hálózati kapacitás bővítése éveket vesz igénybe.
Gyorsabb kutatás, de a validálás időigényes marad
Az egészségügy azt mutatta, hogy az AI képes felgyorsítani a felfedezést, de a klinikai ellenőrzés továbbra is szükséges. Egy vizsgálat szerint a Microsoft MAI Diagnostic Orchestrator 83,2%-ban helyesen diagnosztizált nehéz orvosi eseteket, míg az általános beosztású orvosok eredménye 36,1% volt. A vizsgálat nem hasonlította össze szakorvosokkal, és a rendszernek továbbra is klinikai validáláson kell átesnie; mindazonáltal arra utal, hogy az AI segítheti az orvosokat a nehezen felderíthető esetek vizsgálatában.
A gyógyszerfejlesztés is profitálhat az ügynököktől. Az OpenAI bejelentette az Orchestra Bio felvásárlását, amely a gyógyszerfejlesztési munkafolyamatokat koordináló platform; az OpenAI tervezi ennek integrálását Rosalind nevű élettudományi kutatóeszközeivel. Ez elősegítheti a kutatók hatékonyabb kísérletszervezését és együttműködését egy olyan fejlesztési folyamatban, amely tipikusan 10–15 évet vesz igénybe a felfedezéstől a jóváhagyásig.
Egy Anthropic-proteintervezési kísérlet konkrét példát adott arra, hogyan gyorsítható a korai szakasz. 64 óra alatt egy Anthropic-modell 318 484 jelölt fehérje-designt generált, amelyek skorpiómérget céloztak. Az Adaptyv Bio és a Twist Bioscience kutatói közül 211 tervet teszteltek, és 17 ilyen fehérjét azonosítottak, amelyek kötődtek a toxinokhoz. A kutatók még nem igazolták, hogy ezek a fehérjék semlegesítik-e a mérget, de a kísérlet megmutatta, hogy az AI gyorsan képes szűkíteni a hatalmas keresési teret, mielőtt a költségesebb laboratóriumi vizsgálatok megkezdődnének.
Következő lépések
A This Week in AI következő epizódja 2026. november 2-án jelenik meg, és további fejleményeket tárgyal az AI-kutatás és alkalmazások terén. A korábbi epizódok elérhetők YouTube-on, Spotify-on, Apple-en, vagy a podcastokat hostoló szolgáltatóknál.
