A Google DeepMind és a Government Technology Agency of Singapore (GovTech) közösen fejlesztett egy, a telefonon futó csalásészlelő modellt, amelynek célja a helyi felhasználók védelme anélkül, hogy sérülnének a személyes beszélgetések titkai. A projekt a National AI Partnership keretében valósult meg, és a fejlesztést a Singapore International Cyber Week (SICW 2026) rendezvényen mutatták be.
Miért volt szükség rá?
Szingapúrban a bejelentett bűncselekmények több mint felét csalások teszik ki, és 2019 óta a károk meghaladják a 4 milliárd szingapúri dollárt (S$4 milliárd). A megtévesztési módszerek eltolódtak az egyszerű adathalászat felől a kifinomultabb szociális mérnökség irányába: mostanra az ilyen személyes manipulációk adják a veszteségek akár 80%-át. Ezek a trendek sürgetővé tették a helyi, hatékony és adatvédő megoldások kifejlesztését.
Hogyan működik a megoldás?
A fejlesztés középpontjában egy olyan könnyű, mobilon futtatható modell áll, amelyet a Google DeepMind Gemma nevű alapmodelljének helyi finomhangolásával alakítottak ki. A finomhangoláshoz használt példák helyi scam-történetekre épültek: közintézmények, bankok és ismert helyi szereplők megszemélyesítéseitől kezdve a regionálisan elterjedt csalási sémákig, hogy a modell meg tudja különböztetni a banális beszélgetést a valódi manipulációtól.
A modell a feldolgozást a készüléken végzi, ellentétben a hagyományos, szerveroldali üzenetszkenneléssel. Mivel sok üzenetküldő alkalmazás végponttól végpontig terjedő titkosítást használ, a beszélgetések központi vizsgálata nem lehetséges vagy nem kívánatos. A megoldás ezeket a vizsgálatokat „az élre” hozza: a készüléken futó elemzés gyorsan felismeri a manipulációs mintákat, és valós idejű figyelmeztetést ad a felhasználónak, mielőtt pénzt vagy bejelentkezési adatokat adna meg.
Technikai felépítés és erőforráshatékonyság
A mobileszközökön futó összetett osztályozó megvalósítása energiagazdaságos megoldásokat igényel. A rendszer kétlépcsős csővezetéssel működik:
-
- lépcső: Egy könnyű, hatékony elsődleges szűrő elemzi bejövő üzeneteket kis energiafelhasználással, hogy elkapja a potenciális fenyegetéseket.
-
- lépcső: Ha a szűrő gyanús mintát talál, a finomhangolt Gemma-modell egy nagyobb beszélgetési kontextus alapján alaposabb értékelést végez a riasztás megerősítése vagy téves riasztás elvetése érdekében.
Amikor a rendszer manipulációs mintát azonosít, a felhasználó készülékén azonnali figyelmeztetés jelenik meg, amely óvatosságra int a bizalmas információk vagy pénz átadásával kapcsolatban.
Kormányzati felügyelet és adatkezelés
A fejlesztés során szigorú kormányzati irányelvek és garanciák érvényesültek:
- Szuverén tesztkörnyezet (Sovereign Sandbox): a finomhangolást a GovTech által kezelt és karbantartott Google Cloud Platform környezetben végezték, így a tanulási folyamat elszigetelt volt.
- Nincs állampolgári adat a tanításban: a modell finomhangolásához nem használtak privát vagy személyazonosításra alkalmas adatokat; az adattörzset anonimizált csalásbejelentések és hírszerzési források képezték.
- Terheléses tesztek: a modellt szintetikus párbeszédeken és helyi korpuszokon is kipróbálták, hogy lefedje a különböző csaláskategóriákat és az evolúcióban lévő megszemélyesítési taktikákat.
Miért számít ez?
A projekt azt mutatja be, hogy lehetséges a felhasználói védelem és a beszélgetések titkosítása közötti egyensúly fenntartása azáltal, hogy a veszélyfelismerés a felhasználó eszközén történik. A megoldás modellezési és kormányzati együttműködést is példáz, amely lehetőséget ad az üzenetküldő szolgáltatóknak és operációs rendszer gyártóknak, hogy helyben, a felhasználói eszközön integrálják az ilyen könnyű modelleket, és ezzel csökkentsék a csalási károkat anélkül, hogy feláldoznák a magánszféra védelmét.
