Agentikus mesterséges intelligencia (AI) jelentősen növeli az IT- és biztonsági csapatok hatékonyságát, ugyanakkor felszámolja azokat a rutinszerű feladatokat, amelyek eddig az üzemeltető szakemberek képzését szolgálták. A Splunk, egy Cisco Company által bemutatott nézet szerint ez nem csak architektúra- vagy automatizációs kérdés: a következő szakértői nemzedék kinevelése most egyszerre munkaerő-tervezési és rendszerszervezési feladat.
Miért volt fontos a juniormunka?
Az elmúlt évtizedekben a SecOps elemzők, a SRE-k és a NetOps mérnökök pályafutása gyakran ismétléseken és rutinszerű, unalmas feladatokon keresztül épült: hamis riasztások kiválogatása, dashboardok böngészése a kontextusért, éjszakai logolvasás, amely sokszor ártalmatlannak bizonyult. Bár ez a munka fárasztó és leterhelő volt, ez szolgált „iniciációként”: a sok ezer óra expozíció és hibás döntés adta meg azt az intuíciót, amely szükségessé vált valódi incidensek esetén.
Az agentikus AI most ezeket a betanulási lehetőségeket automatizálja. Ez nem feltétlenül indok a lassításra: a monoton feladatok kiváltása csökkenti a költséget és a kiégést. Ugyanakkor, ha megszűnik az a tapasztalatszerző kör, amely korábban létrehozta a mély szakértelmet, a szervezeteknek valami jobbat kell kínálniuk a helyébe.
Szabályozott környezet és a felelősség üresedése
Szabályozott környezetekben (például SOX, PCI DSS, HIPAA, NIS2 által érintettek) a humán ítélet lánca a kontrollok része. Az auditorok nem a modelleket kérdezik; embereket kérdeznek, akik el tudják magyarázni, miért hozott a rendszer egy döntést, és hogy megfelelő kontrollok voltak-e jelen.
Ha azoknak a szakembereknek a száma, akik ezt el tudják magyarázni, csökken, a kockázat nem feltétlenül jelenik meg azonnal az üzleti műveletek szintjén — a dashboardok továbbra is „zöldek” maradhatnak —, de a szervezeti memória elkezd kifakulni. Ez tehát nem csupán eszközprobléma, hanem munkaerő-fejlesztési és tervezési kihívás is.
Emberi szakértelem kiépítése az AI felügyeletéhez
Amikor az ügynökök átvesznek részeket a döntéshozatalból, az embereknek más típusú kormányzói szerepbe kell lépniük. Az agentikus rendszerek felügyelete automatizált védőkorlátok megvalósítását igényli, amelyek alkalmazkodnak a nem-determinisztikus ügynökviselkedéshez, és garantálják, hogy az ügynökök váratlan körülmények között is megfelelően viselkedjenek. Szükség van olyan lépcsőzetes felszólítási kritériumokra, amelyek felismerik a valódi anomáliákat anélkül, hogy az embereket túlterhelnék.
A gépi döntések felülvizsgálatára szolgáló dinamikus eszközök és folyamatok segítenek a drift, a torzítás és a következtetési hibák feltárásában — olyan hibák, amelyeket egyedi esetek önmagukban nem volna képesek megmutatni. Ezeknek az eltéréseknek a kiértékeléséhez olyan ítélőképesség szükséges, amelyet évek alatt szerzett tapasztalat támaszt alá. Ezért a munkaerő-fejlesztés és az architektúra tervezése gyakorlatilag ugyanaz a kérdés.
Az emberi képességek építésének gyakorlati elemei
A Splunk által felvázolt megközelítés szerint az olyan agentikus rendszerek a leghasznosabbak, amelyek nemcsak feladatokat automatizálnak, hanem aktívan fejlesztik az emberi szakértelmet. Négy konkrét képesség különösen fontos:
- Érvelés és adatszármaztatás láthatóvá tétele
- Minden ügynöki ajánlás legyen visszakövethető: milyen adatokon alapult, milyen logika vezette, és honnan származtak a bemenetek. A döntések mögötti érvelés láthatósága segíti az operátorok bizalmának és ítélőképességének fejlődését.
- Jogkörök rétegzése bizalmi szint és hatás szerint
- Ismert, alacsony kockázatú minták autonóm módon kezelhetők; újszerű vagy nagy hatású műveletek alapértelmezés szerint emelkedjenek emberi felülvizsgálatra. A határok explicit módon legyenek konfigurálhatók azok által a csapatok által, amelyek viselik a következményeket.
- Eltéréseket korrekciós jelzésként kezelni
- Ha egy tapasztalt mérnök felülbírál egy ügynököt, annak nem pusztán nézeteltérésnek kell lennie: az emberi beavatkozás olyan finom ítéleteket hordozhat, amelyeket a modell nem ismert. Az olyan rendszerek, amelyek regisztrálják a felülbírálást, de figyelmen kívül hagyják az indoklást, elveszítik a tanulás lehetőségét.
- Megoldásokat kereszt-domain tudásként rögzíteni
- Egy incidens megoldása ritkán marad egyetlen terület problémája: egy SecOps incidens feltárhat ITOps gyengeséget, egy hálózati hiba üzleti hatást. Ha a megoldás csak egy zárt jegyben marad, a következő csapatnál ismét nulláról kell kezdeni. A megoldásoknak át kell kelniük a domain-határokon.
Ezek nem csak elvárások: mérhető termékfunkcionalitások. A vezetőknek értékelniük kell, hol jelennek meg ezek a képességek az agentikus rendszerekben, mi történik, ha hibásak, és javul-e az operátori készség a bevezetés után.
Az, hogy az ember és az AI egyszerre skálázódjon, lesz a következő versenyelőny
A gyakorlati, megbízható és nagy léptékben működő AI-rendszerek kritikus tervezési pontja az, hogy mélyen együttműködjenek és felhatalmazzák az emberi operátorokat. Az agentikus korszak nem az emberek helyettesítéséről szól, hanem arról, hogy újratervezzük a rendszereket úgy, hogy a gépi sebesség és skála mellett az emberi szakértelem is növekedjen.
Ez az eredmény csak ott valósul meg, ahol a vezetők az operátorok fejlesztését prioritásnak tekintik. Az agentikus rendszereknek szándékosan úgy kell viselkedniük, hogy láthatóvá tegyék a gondolkodást, rögzítsék a tanulást, és visszairányítsák a munkát emberekhez olyan módon, amely karriert és képességet épít, nem pedig erodál.
Az ügynökök egyre gyorsabbak és okosabbak lesznek. Az, hogy az őket kísérő operátorok képesek-e lépést tartani és párhuzamosan fejlődni, eldönti, hogy a következő tíz év digitális ellenállóképességét a szervezetek birtokolják-e, vagy csupán egyre szűkülő szakértői körből „bérelik”.
Tudjon meg többet
A Cisco Data Fabric, a Splunk Platform támogatásával, olyan megoldásokat kínál, amelyek segítik a csapatokat az agentikus műveletek felgyorsításában. Kamal Hathi, a Splunk, a Cisco Company alelnöke és ügyvezető igazgatója ezen nézeteket képviseli.
Ez a cikk a Splunk által támogatott tartalomként jelent meg.
