- július 30-án a Google egy új funkciót kapcsolt be a Google Earthben: a Nano Banana 2 képgenerátort összekötötte a műholdképes felülettel, így bárki beírhatott egy leírást, és az AI a valós műholdfelvételek felett „festve” megjelenítette a kért elemeket. A Google a funkciót várostervezési és történeti illusztrációs célokra mutatta be.
Mit bizonyítottak a kutatók
Az OSINT-kutató Henk van Ess néhány egyszerű, normál prompttal — jailbreakek vagy trükkök alkalmazása nélkül — olyan kontrasztos hamis jeleneteket hozott létre, mint egy nem létező nukleáris létesítmény Irán területén, egy bombakráter egy gázai kórház mellett, valamint menekültek a mexikói–amerikai határnál. A beszámolók szerint a rendszer nem utasított vissza ezekre a kérésekre.
Google reagálása
A cég a funkciót kevesebb mint egy nap alatt visszavonta.
Miért számít ez
A Google Earth az elmúlt húsz évben gyakran a „valóság mércéjeként” szolgált: újságírók, emberi jogi csoportok és bíróságok használták hiteles vizuális forrásként, és a platform segített leleplezni hamis állításokat például műholdfelvételek manipulációjával kapcsolatban. Az, hogy ugyanazt a platformot most arra lehet használni, hogy a valós műholdképek fölé mesterségesen hozzáadott, de valós környezetben elhelyezett hamis tartalmakat gyártsanak, csökkenti a meglévő bizalmat: a hamis objektumok mögötti földrajzi környezet és megvilágítás „valódi”, mert a Google műholdképe az alap, így a hamisítás könnyebben elfogadhatónak tűnhet.
Következmények és aggályok
- Hitelességvesztés: szolgáltatások és vizsgálatok, amelyek a Google Earthet tényellenőrzésre használták, most nehezebben állíthatják biztosra, hogy a képek nem manipuláltak.
- Alkalmazási kockázat: egy valós létesítmény eltüntetése korábban állami erőfeszítést igényelt; ezzel szemben egy hamis létesítmény „megalkotása” most egyetlen leírást vesz igénybe.
- Gyors letiltás, de rövid életű: a funkció kevesebb mint 24 órát volt elérhető, de a demonstrált sérülékenység már megmutatta a problémát.
Összefoglalás
A Google rövid időre olyan eszközt adott közvetlenül a Google Earth felületére, amely egyszerű promptokból képes volt képi elemeket ráfesteni valós műholdfelvételekre. Henk van Ess gyors tesztjei hamis infrastruktúrát és eseményeket hoztak létre, mire Google eltávolította a funkciót kevesebb mint egy nap alatt. Az eset rávilágít arra, hogy a műholdas vizuális források hitelessége új típusú kockázatokkal néz szembe, ha generatív AI közvetlenül manipulálhatja a valós képanyag fölötti megjelenítést.
