Bill Swearingen az elmúlt évben többször ismételte ugyanazt a kísérletet azzal a céllal, hogy olyan számítógéppel generált mintákat állítson elő, amelyek megakadályozhatják az Egyesült Államok utcáira telepített, széles körben használt felügyeleti kamerák és rendszerek objektumfelismerését.
Swearingen azt mondja, hogy nagyjából 31 millió teszt után képes most mintákat on-demand előállítani, amelyek ruházatra vagy tárgyakra nyomtatva megakadályozzák, hogy a legelterjedtebb rendszerek — például rendszámtábla-leolvasók és felügyeleti kamerák — felismerjék a mintával takart személyt vagy járművet.
Mi ez a projekt és miért számít
A projekt noRecognition néven fut. A célja nem az, hogy megakadályozza a kamerák általános felvételkészítését, hanem hogy összezavarja a detekciós algoritmusokat, így a képen szereplő személyek, arcok vagy járművek nem váltanak ki riasztást vagy nem kerülnek kiválasztásra automatikus keresésekhez. Swearingen szerint ez ismét „tűt csinál a szénakazalból” — a minta takarásában lévő személy csak akkor lesz észrevehető, ha valaki pontosan tudja, hol keresse.
Swearingen a TechCrunchnak azt mondta: „A magánélet alapvető jog.” Mintáinak célja, hogy lehetővé tegye az emberek számára, hogy „lemondjanak a követésről”.
A fejlesztés menete
Swearingen Kansas Cityből beszélt, ahol társalapítója a SecKC nevű kiberbiztonsági meet-upnak. Elmondta, hogy városát sűrűn borítják felügyeleti kamerák, sokszor csak néhány méterre egymástól, és vele együtt sokan mások sem kértek beleegyezést abba, hogy megfigyeljék őket — ugyanúgy, ahogy nem kért beleegyezést a kormány, hogy a jogosítványát arcfelismeréshez használják.
Az elmúlt években több művészeti kezdeményezés és ruházati márka próbált már eleget tenni az arcfelismerés elleni ellentevékenységnek, és egyes szemüveggyártók is csatlakoztak ehhez a trendhez. Swearingen azt mondja, kutatása épít ezekre az előzményekre, amelyek bizonyították, hogy a kameradetektálás bizonyos esetekben megzavarható.
Kezdetben Swearingen nyílt forrású videódetekciós algoritmusokat győzött le egymás után egy koncepciópróbáló laborban. Az év során nagyobb számítási kapacitás bevonásával skálázta a vizsgálatokat, és a közösségtől kapott hardveres segítségnek is említést tett.
A rendszer végül megerősítéses tanuláson (reinforcement learning) alapuló modellé fejlődött: egy önálló rendszer, amely megtanulta, mely minták működnek és melyek nem a tesztelt kamerarendszerek ellen. Egyszerűen fogalmazva Swearingen azt mondta, hogy modelljét gyakorlatilag „megfejtette, hogyan fessen”. Amikor egy minta észlelésre került, a modell újrapróbálkozott, ismét és ismét, amíg sikeresen nem verte meg többször egyszerre több algoritmust.
A modell hamar megtalálta a „tökéletes recepteket” olyan mintákra, amelyek képesek voltak legyőzni az általa tesztelt 11 nyílt forráskódú detekciós algoritmust, köztük olyan szoftvereket, amelyek a Flock rendszámtábla-leolvasókat, az Axon testre szerelt kamerákat és egyes Clearview AI-t futtató kamerákat hajtják.
Swearingen szerint a modell most már percenként készít új mintákat, minden újabb sorozat matematikailag jobb az előzőnél.
Nyilvános teszt: Def Con, Las Vegas
Pénteken, a Def Con kiberbiztonsági konferencián Las Vegasban Swearingen bemutatta első terepi tesztjét. A Donut Media segítségével egy 2009-es Toyota Yaris karosszériáját egy Swearingen-minta szerint borították be, hogy megnézzék, észleli-e a Flock kamera a járművet. Swearingen azt mondta: „Bizonyítottuk, hogy hatékony volt”, bár a kerekek külön kihívást jelentettek. A demo videóját a Donut Media szerint a következő hetekben teszik közzé.
A sikeres bemutató azt jelzi, hogy a nyilvános terekben használt algoritmikus detekció elkerülése lehetséges. Swearingen a következő lépésnek azt nevezte, hogy a mintákat olyan emberek kezébe juttassa, akik használni szeretnék azokat.
Terjesztés és óvatosság
A noRecognition projekt közösségi finanszírozási kampányt is indított, amely korai árucikkek, például pólók és pulóverek értékesítésével kíván forrást gyűjteni; később jöhetnek mintával nyomtatott autóborítások is. Swearingen azt mondta, hogy a cél minőségi, távolról is működő, és esztétikailag is elfogadható minták előállítása.
Ugyanakkor Swearingen megjegyezte, hogy legerősebb mintáit nem teszi közzé az interneten, hogy a kamera- és szoftvergyártók ne tudják könnyen ellensúlyozni azokat. A fejlesztés azonban nem ért véget: a modellek továbbra is új mintákat állítanak elő. „Minden kudarc javítja a modellemet, így [a minták] egyre jobbak lesznek” — tette hozzá.
A Def Conon készült fotón a 2009-es Toyota Yaris látható, amelyet Swearingen mintája borít, a kísérlet részeként, hogy megvizsgálják: a minta képes-e legyőzni a felügyeleti kameradetektálást.
