Microsoft vezérigazgatója, Satya Nadella a hétvégi posztjában azt javasolta, hogy lépjenek hátra és értékeljék újra az mesterséges intelligencia (MI) „bizalmi architektúráját”. A megjegyzését szombat reggel tette közzé az X közösségi oldalon.
A fő javaslatok
Nadella azt írta, hogy nem kezelhetjük a „Super Intelligence”-t — a kommunikációjában használt kifejezést — egymásba ágyazott fekete dobozok sorozataként, és egyszerűen nem fogadhatjuk el vagy utasíthatjuk el automatikusan a rendszerek ajánlásait, válaszait és műveleteit. Ennek megfelelően néhány kulcspontot fogalmazott meg:
- A modellt el kell választani attól a „hámrendszertől” (harness), amely összehangolja és vezérli a működését.
- A kontrollokat és védőmechanizmusokat külsőleg kell elhelyezni, tehát az irányító réteg ne legyen teljesen beágyazva a modell belsejébe.
- Minden jelentős modellműveletet dokumentálni kell úgynevezett sértetlen, ember által olvasható bizonyíték formájában ("tamper-proof human readable evidence").
- A rendszereknek lehetővé kell tenniük, hogy egy arra jogosult személy bármikor képes legyen „szüneteltetni vagy leállítani a modellt munka közben”.
Nadella ezt úgy magyarázta, hogy a modelleket biztonsági szempontból feltételezni kell, hogy kompromittáltak lehetnek, és ennek megfelelően már a tervezés kezdetén tartani és korlátozni kell őket: „Gondolj rá úgy, mint egy vészfékre.”
Miért fontos most ez a vita?
Nadella megjegyzései egybeesnek azzal, hogy az iparág vezető AI vállalatai egyre több olyan eseményt ismernek el, amikor úgy tűnt, elvesztették az irányítást modelleik felett. Emellett aktuális kontextus, hogy Anthropic vezérigazgatója, Dario Amodei, nemrég nyilvánosságra hozott egy tervet az óvatosabb AI-fejlesztésről.
Következmények és szempontrendszer
A javasolt megközelítés technikai és szervezeti változtatásokat jelentene: elválasztani a modell belső működését a külső vezérlőrétegtől, gondoskodni hiteles, módosíthatatlan naplózásról, és beépíthető emberi felügyeleti lehetőségekről, amelyek szükség esetén megállítják a modellt. Nadella álláspontja arra reflektál, hogy az AI rendszerek növekvő képességei mellett erősebb, átláthatóbb és gyorsan alkalmazható vészintézkedésekre van szükség.
Rövid összegzés
Satya Nadella szerint az AI-biztonság érdekében el kell különíteni a modelleket a működtető rétegtől, külső kontrollokkal és sértetlen ember által olvasható nyilvántartásokkal kell kiegészíteni őket, valamint biztosítani kell egy jogosult személy sürgősségi leállítási lehetőségét. A megközelítés célja a modellek kezdeti „tartása” arra az esetre, ha kompromittálódnának, és így gyorsan kezelhetővé váljanak a kockázatok.
