Biztonság

Mesterséges intelligenciával generált szöveg

DeepSeek megnyitja az ügynök-hártyát, miközben az ügynökök belső működése egyre kevésbé átlátható

A főszereplő a DeepSeek és az ügynökök köré épülő infrastruktúra, amely most nyílt forráskódúvá tette az úgynevezett „harness” réteget.

DeepSeek megnyitja az ügynök-hártyát, miközben az ügynökök belső működése egyre kevésbé átlátható

DeepSeek az elmúlt napokban nyilvánossá tette az úgynevezett agent harness réteget: egy moduláris rendszert, amely a modellek köré épített eszközöket, memóriát, végrehajtást, sandboxot, tárhelyet és akár ideiglenes plugineket is kezeli. A szoftver MIT licenc alatt érhető el, és az elképzelés központi gondolata az, hogy „minden plugin lehet”.

A DeepSeek Harness lehetővé teszi, hogy az ügynökök által használt komponensek modulárisan, pluginként jelenjenek meg: a szolgáltató, a tároló, a végrehajtó réteg mind cserélhető elemmé válik. Érdekes újítás, hogy ha az ügynöknek hiányzik egy képesség, ideiglenes plugint hozhat létre, használhatja, majd eltávolíthatja azt — ezzel a rendszer önmagát kiegészítő ciklusa kezdeti formában megjelenik. Bár az önfejlődő hurkot még nem tekinthetjük késznek, az architektúra azt jelzi, hogy a következő versenyelőny modularitás és nyitottság irányába tolódhat el.

Titkok a „rejtett gondolatmenetben” — kutatók találtak jelszavakat és kulcsokat

Párhuzamosan a DeepSeek bejelentésével kutatók arról számoltak be, hogy az ügynökök közötti, titkosítottnak gondolt „reasoning blocks” (gondolatnyomok) olyan információkat tartalmazhatnak, amelyek érzékeny adatokhoz vezetnek. Bár a blokkok titkosítottnak tűnnek, a kutatók módszert találtak bizonyos részeik visszaállítására anélkül, hogy magát a titkosítást feltörnénk.

Nyilvános ügynök-logok elemzése során jelszavakat, API-kulcsokat, hozzáférési tokeneket és személyes információkat találtak olyan reasoning blokkokban, amelyek a látható beszélgetésben nem szerepeltek. Emellett ezek a blokkok utasításokat is hordozhattak, amelyek későbbi lépésekre hatva módosították az ügynök viselkedését — tehát a rejtett gondolatmenet nem csupán múltbéli események rögzítése lehet, hanem aktív hatóelem a jövőbeni döntésekben is.

Méretezés és a megfigyelhetőség rétege

A skálázás kérdése új dimenziót ad a problémának. Simile AI, amely a Stanford által készített 25 ügynökből álló Smallville kísérletére épül, jelenleg 2 milliárd dolláros értékeltséggel bír, és a hosszú távú célja végül a nyolc milliárd ember szimulálása. A Smallville kísérletben 25 karakter élt, emlékezett, tervezett és kapcsolatokat alakított ki egy szimulált városban; a Simile csapata ezt a kutatási irányt üzleti termékké alakította.

A Simile átmenetében fontos lépés volt, hogy a fejlesztők nem fiktív adatokra hagyatkoztak: az ügynököket kétórás interjúk alapján modellezték 1 052 valódi személyből, majd a kutatást kibővítették 2,9 millió válasszal, amelyeket 400 491 résztvevő szolgáltatott 210 szociálpszichológiai kísérletben. A vállalat azon számít, hogy szintetikus populációk használatával a cégek hatékonyabban tesztelhetnek termékeket, árakat, üzeneteket és politikákat valós emberek bevonása előtt.

Ahogy az ügynökök komplex rendszerekké válnak — több eszközhívással, memóriakezeléssel és ügynökök közti feladatkiosztással — a hagyományos, bemenet-kimenet alapú monitorozás nem elegendő. Ha valami elromlik, meg kell érteni, hogy hol történt a hiba: a modelltől, az adathíváson át, a memórián vagy az infrastruktúrán. Emiatt az ügynök-megfigyelhetőség önálló rétegként jelenik meg a tech-stackben.

Nyílt forrású eszközök és megfigyelés

A cikk említése szerint 2026-ra több, nyílt forrású megoldás is elérhető az ügynökök viselkedésének és infraállapotának vizsgálatára. Ilyen eszközök például a Langfuse és AgentOps, valamint általános megfigyelési eszközök, mint az OpenTelemetry, Prometheus és Grafana. Ezek segítségével részletesebben lehet követni, hogy az ügynök mikor és milyen komponenseket hívott meg, és hol keletkezett a hiba.

Rövid visszatekintés: mi az a LoRA?

A LoRA (Low-Rank Adaptation) a nagyméretű nyelvi modellek finomhangolásának könnyített módja: ahelyett, hogy az egész modellt módosítanánk, a fő modell lefagyasztásával csak kis, alacsony rangú mátrixokat tanítunk, amelyek a feladathoz szükséges változtatásokat rögzítik. Ez olcsóbb, memóriahatékonyabb megoldás, és könnyebb váltani különböző feladatok között; a megtanult mátrixok vissza is integrálhatók a modellbe anélkül, hogy növelnék az inference késleltetését.

Összegzés

A DeepSeek által nyíltan közreadott harness réteg és a kutatók által felfedezett, rejtett, de információt tartalmazó reasoning-blokkok együtt világítanak rá: az ügynökök fölé épített infrastruktúra egyszerre válik hatékonyabbá és nehezebben ellenőrizhetővé. Amint a rendszerek nagyobbak és önállóbbak lesznek — ahogy a Simile AI ambíciói is mutatják —, a megfigyelhetőség, nyomon követhetőség és biztonság kulcsfontosságú réteggé lép elő a fejlesztési veremben.