A mesterséges intelligencia (MI) fejlesztéséhez és működtetéséhez elengedhetetlen adathasználat kapcsán egyre hangsúlyosabbá válik a „black box” jelenség: az a helyzet, amikor a rendszer bemeneti és kimeneti viselkedése ismert, de a kettő közötti, döntést eredményező belső folyamatok a külső szemlélő számára nem átláthatók. Ez a jelenség nem csupán technikai kérdés; jelentős jogi következményekkel jár, különösen az Európai Unió adatvédelmi szabályai — így az (EU) 2016/679 rendelet (GDPR) — és az EU mesterséges intelligenciára vonatkozó rendelete, az (EU) 2024/1689 (a továbbiakban: MI Rendelet) fényében.
Kultúr- és irodalmi példák: Blade Runner, Turing, Dune
A vita szemléltetésére használták Ridley Scott 1982-es filmklasszikusát, a Blade Runnert és Philip K. Dick Álmodnak-e az androidok elektronikus bárányokkal című regényét: ezekben a Void‑Kampff teszt példája arra mutat rá, hogyan próbálnak megkülönböztetni embereket és emberhez hasonló androidokat fiziológiai reakciók — pulzus, légzés, pupillatágulás, bőrpír — alapján. A Void‑Kampff teszt történeti inspirációja részben Alan Turing Turing‑tesztje.
Frank Herbert Dűne-regényciklusa az emberi szabadság és a „gondolkodó gépek” elleni küzdelem történetén keresztül mutatja be a ki nem ismerhetőség következményeit: a regényekben az Omnius nevű kollektív mesterséges szuperintelligencia mindentudó előrejelző képességei vezettek oda, hogy az emberiség tiltást fogadjon el a gépek emberi elme szerinti megalkotására vonatkozóan. E példák érthető módon rávilágítanak a black box kontrollálhatatlanságából fakadó kockázatokra.
Mi számít MI‑nek az EU szemléletében?
Az MI Rendelet (3. cikk) meghatározása szerint az MI olyan gépi alapú rendszereket foglal magában, amelyek következtetési képességgel rendelkeznek, bemeneti adatokból modelleket vagy algoritmusokat képeznek, és kimenetek — például előrejelzések, tartalom, ajánlások vagy döntések — előállítására alkalmasak. E definíció mentén a kulturális példákban szereplő „androidok” is megfelelhetnek annak, hiszen autonóm viselkedést mutatnak, bemeneti ingerekre építenek és a környezetre ható kimeneteket generálnak.
Miért probléma a black box az adatvédelem szempontjából?
A black box hatása kettős. Egyrészt akadályozza az MI működésének, döntéseinek és tanulási folyamatainak átlátható bemutatását az érintettek és gyakran a fejlesztők számára is. Másrészt az MI‑képzéshez rendszerint személyes adatok is szükségesek, így a belső működés átláthatatlansága közvetlenül ütközhet a GDPR alapelveivel: az átláthatóság, a célhoz kötöttség, az egyértelmű és jogszerű cél meghatározása, valamint az érintettek megfelelő tájékoztatása elvárásokkal.
A cél meghatározásának jogi nehézségei
A GDPR szerint az adatkezelés célja egyszerre kell, hogy legyen meghatározott, egyértelmű és jogszerű. Az MI tanítása esetében mindhárom követelmény teljesítése nehézségekbe ütközhet:
-
"Meghatározott": gyakori gyakorlat, hogy a begyűjtött adatkészleteket nem egyszeri, hanem folyamatos vagy későbbi további fejlesztési célokra használják fel. Amikor a jövőbeli felhasználási módok vagy a későbbi rendszerek pontos jellemzői nem határozhatók meg előre, kérdéses, hogy a cél valóban „meghatározottnak” tekinthető‑e.
-
"Egyértelmű": ha a cél nem elég konkrét, az érintettek számára a tájékoztatás sem lesz világos. Az Európai Adatvédelmi Testület (korábbi 29‑es Munkacsoport) iránymutatása kifejezetten példákat hoz a túl általános tájékoztatásra („személyes adatait új szolgáltatások fejlesztésére használhatjuk”), és azt hangsúlyozza, hogy összetett vagy technikai adatkezelés esetén az érintetteknek előre látnia kell a kezelés következményeit.
-
"Jogszerű": problémát jelent, hogy az MI tanítása más jogterületekkel is érintkezhet. Ha később kiderül, hogy az MI alkalmazása jogsértő (például a létrehozott tartalom manipulációs, vagy jogszabályokat sért), felmerülhet, hogy maga a tanításhoz használt adatkezelés is jogellenes céllal történt, s ennek jogkövetkezményeit bonyolult bizonyítani vagy elválasztani.
Átláthatóság mindkét szabályrendszerben alapelv
Mind a GDPR, mind az MI Rendelet kitüntetett helyen tárgyalja az átláthatóságot. Az MI Rendelet sorolja azokat az etikai elveket, amelyek között szerepel az átláthatóság, a magánélet védelme és adatkormányzás, az elszámoltathatóság, valamint az emberi cselekvőképesség és felügyelet. A szabályozási rendezés célja párhuzamosan biztosítani a technológiai innovációt és az etikus, megbízható működést.
Következtetések és a sorozat további témái
A black box jelenség — amely egyszerre technikai, jogi és társadalmi probléma — megnehezíti az MI fejlesztésének és alkalmazásának GDPR‑kompatibilitását. A célok pontos meghatározása, a felhasználói tájékoztatás egyértelműsége és a jogszerűség értékelése mind kritikus kérdések, amelyekre a gyakorlatnak és a hatósági, bírósági értelmezéseknek egyaránt választ kell adniuk a következő időszakban. A jelen írás egy cikksorozat bevezető része: a folytatásban részletesebben tárgyaljuk majd az MI tanításával kapcsolatos adatvédelmi aggályokat és az éles üzem során felmerülő adatkezelési kihívásokat.
