Google csütörtökön egy új funkciót vezetett be a Google Earth térképalapú alkalmazásban, amely lehetővé tette a Nano Banana 2 nevű mesterséges intelligencia alapú képgenerátor használatát műholdfelvételek fölé helyezett képek létrehozásához. A vállalat szerint a cél az volt, hogy kreatív módon lehessen bánni a földrajzi tartalmakkal.
A bemutatást gyorsan kritikák követték: ellenzők rámutattak, hogy a prompt-alapú eszköz, amely lényegében bármilyen képet szuperponálhatóvá tett a valós térképi megjelenítéseken, felhasználható lehet félrevezető tartalom előállítására és terjesztésére. Egy BBC-s újságíró cinikusan meg is jegyezte csütörtökön, hogy aligha létezik mód arra, hogy a Google Earth ilyen jellegű új AI-képgenerálási funkcióját ne lehessen visszaélésre használni – különösen mivel a Google Earth gyakran támaszkodik a kutatók és újságírók vizuális bizonyítékként használt megbízható forrásként.
A bevezetést követően, mindössze egy nappal később, a Google visszavonta a funkciót. A vállalat közleménye szerint „láttunk geospaciális szakembereket, akik a funkciót különböző hasznos célokra használták, ugyanakkor olyan felhasználói megosztásokat is észleltünk, amelyek generált képek képernyőképeit mutatták – és ezek úgy tűntek, hogy sérthetik a szabályzatunkat”.
„Visszavonjuk ezt a funkciót a Google Earthben, miközben dolgozunk erősebb védőkorlátok bevezetésén” – tette hozzá a vállalat.
Fontos megjegyezni, hogy az AI korában a weben található képek általánosságban is könnyen manipulálhatók. Már nem szükséges profi Photoshop-tudás a félig hitelesnek tűnő dezinformáció előállításához: elég hozzáférni egy AI-képgenerátorhoz, amilyet a Google is kínál, ugyanúgy mint más mesterséges intelligenciával foglalkozó cégek.
Miért számít ez
A Google Earthhez hasonló platformok különösen érzékenyek a vizuális források hitelességére, mert újságírók, kutatók és döntéshozók gyakran támaszkodnak rájuk helyi események vagy földrajzi jelenségek dokumentálásához. Az ilyen funkciók gyors visszavonása rávilágít az AI-alkalmazások bevezetésének kockázataira és arra, hogy a fejlesztőknek előre megfontolt védelmi mechanizmusokat kell kialakítaniuk, mielőtt széles körben elérhetővé teszik azokat.
