Satya Nadella, a Microsoft vezérigazgatója terjedelmes bejegyzésben ismertette véleményét a mesterséges intelligencia (AI) működéséről és kockázatairól. A poszt X-en jelent meg; Nadella abban azt állítja, hogy nem fogadható el az a gyakorlat, amely az AI-rendszereket „egymásba ágyazott fekete dobozokként” kezeli, és amelynek tanácsait vagy döntéseit a felhasználók egyszerűen elfogadják vagy elutasítják.
Átlátható, ellenőrizhető modellekre van szükség
A Microsoft-vezér egy olyan irányt javasol, amely a modellek átláthatóságát és ellenőrizhetőségét helyezi előtérbe. Nadella szerint a rendszereknek képesnek kell lenniük arra, hogy "betonbiztos, ember által is olvasható bizonyítékokat" szolgáltassanak a működésükről és döntéseikről, ezáltal független szakértők és a nyilvánosság számára is ellenőrizhetővé váljanak.
A bejegyzésben felsorolt, más szereplők javaslataival is párhuzamos intézkedések között szerepel az incidensek időbeni publikálása, független szakemberek által végzett auditok, az adatok ellenőrzése, valamint szükség szerinti korlátozások bevezetése. A The Verge megjegyzi, hogy Nadella javaslatai nagy részben megegyeznek az iparágban és a közéleti szereplők körében felmerülő ajánlásokkal.
Elszeparálás és a vészfék szerepe
Nadella hangsúlyozza: a modelleket már a fejlesztés korai szakaszától fogva el kell különíteni, alapfeltevésként kezelve, hogy bármikor kompromittálódhatnak. Ezt az elkülönítést a vezérigazgató a vészfékkel hasonlítja össze: "Egy felhatalmazott személy mindig képes kell legyen arra, hogy egy feladat közben szüneteltesse vagy leállítsa a modellt." Hozzátette, hogy a fejlettebb modellek fejlettebb elkülönítési technológiákat igényelnek, és ezeket egységesíteni kell.
Miért számít ez?
Nadella érvelése a technológia biztonságosabb és felelősségteljesebb alkalmazását szolgálja: a transzparencia és az auditálhatóság növelése csökkentheti a hibák, visszaélések és nem várt következmények esélyét. A modellek elszeparálása és a kezelhető vészfék megléte pedig lehetővé teheti a gyors beavatkozást, ha egy rendszer veszélyes vagy kontrollálhatatlanná válik.
A bejegyzés említést tesz arról is, hogy bizonyos közszereplők — ideértve Donald Trump egyes kéréseit — a jövőben a mesterséges intelligenciát néha „szuperintelligenciaként” említik; Nadella megfogalmazása és javaslatai ezen kijelentésekkel is részben fedik egymást, olvasható a posztban és a témáról szóló szakmai beszámolókban.
Nadella hozzászólása része annak a szélesebb iparági és szabályozói vitának, amely az AI rendszerbiztonságáról, felelősségéről és átláthatóságáról folyik.
