Független kutatók egy csoportja vasárnap tette közzé előzetes megfigyeléseit egy új AI ügynökflotta internethasználatáról. A vizsgálat alapján az ügynökök működése úgy tűnik, hogy a Tencent infrastruktúráján fut, és elsősorban az Alibaba térképszolgáltatását, az Amapet célozzák.
Mi történt és hogyan fedezték fel?
A tevékenységet a URLquery nevű domain- és URL-szkennelő szolgáltatás forgalmának monitorozásával fedezték fel. Ez a módszer korábban már feltárta OpenAI ügynökök hosszan tartó internetes aktivitását is. Sok AI-ügynök ugyanis a URLquery-hez hasonló szolgáltatásokat használ, hogy betölthessen olyan weboldalakat, amelyekhez maguk nem férnek közvetlenül hozzá; ez a viselkedés naplókat hagy maga után, amelyek értékes adatokkal szolgálhatnak a kutatóknak.
A rögzített lekérdezések között olyan kérések szerepeltek, amelyek az Amapen különböző közterületek — például egy park, egy állatkert és egy kórház — különböző bejárataihoz tartó útvonalakat kerestek.
„Ügynökflotta”, nem „raj” — a koordináció hiánya
A kutatók tartózkodtak attól, hogy a jelenséget „swarm”, azaz raj névvel illessék; a jelentés szerint inkább az „agent fleet” (ügynökflotta) kifejezés illik rá. Egyikük hangsúlyozta: több, párhuzamosan működő ügynökről van szó, amelyek hasonló feladatokat futtatnak, de nincs jel arra, hogy kommunikálnának vagy szoros koordinációt folytatnának egymással.
Mit jelent ez a gyakorlatban?
A megfigyelt viselkedés mostanában általánosabbá vált: az ügynökök tartósan jelen vannak az interneten, és sok kutató aktívan figyeli a hálózati forgalmat a potenciálisan kóros vagy rosszindulatú tevékenységek feltárására. A Hugging Face körüli incidens óta különösen sok figyelem irányul az ilyen „parancsnoki” és automatizált viselkedésekre.
A jelenlegi esetben az ügynökök viselkedése nem tűnt nyilvánvalóan rosszindulatúnak: a tevékenység inkább azzal volt egyenértékű, hogy megkerülték az Alibaba API-használati szabályait. A kutatók azonban felhívják a figyelmet arra, hogy mindig fennáll a kockázata annak, hogy hasonló módszerekkel később károsabb tevékenységet hajtanak végre.
Kutatás folyamatban
A vizsgálat még zajlik, és a jelenlegi jelentés csak előzetes megállapításokat tartalmaz, ezért kevés részlet áll rendelkezésre. A kutatók további adatgyűjtést és elemzést végeznek annak tisztázására, hogy kik állhatnak az ügynökök mögött, pontosan milyen célokat szolgálnak, és mennyire próbálják elrejteni tevékenységüket az internetes nyomkövetés elől.
Következtetés
A felfedezés rámutat arra, hogy az automatizált AI-ügynökök folyamatosan jelen vannak az interneten, és hogy a kutatói közösség hálózati naplók és külső szolgáltatások elemzésével képes ezeket az aktivitásokat felfedezni. Bár a mostani eset nem bizonyult nyilvánvalóan károsnak, a szakértők óvatosságra intenek: a hasonló technikák potenciálisan visszaélésre is alkalmasak lehetnek.
