A dél-afrikai kormány visszavonta a társadalmi vitára bocsátott mesterséges intelligenciáról szóló szabályozási javaslatot miután kiderült: a dokumentum egy részét mesterséges intelligencia írta, és több hivatkozást a szöveg „behallucinált”. Az Independent cikke hívta fel a figyelmet az esetre, a News24 pedig részletesen számolt be a hibás hivatkozásokról.
A javaslatcsomag összesen 67 tudományos hivatkozást tartalmazott; a News24 megállapítása szerint ezek közül legalább hat valójában nem létezik, noha a szöveget generáló MI ezeket létező folyóiratokba helyezte. Miután a hamis hivatkozások nyilvánosságra kerültek, a kormány visszavonta a tervezetet.
Solly Malatsi dél-afrikai kommunikációs miniszter az X-en azt írta, hogy „ez az elfogadhatatlan hiba is alátámasztja, hogy miért elengedhetetlen az mesterséges intelligencia éber emberi felügyelete. Megtanultuk a leckét.”
A javaslat célja az volt, hogy Dél-Afrikát az MI-innováció központjává tegye: különböző adókedvezményeket és támogatásokat kínálna a vállalatoknak a megfelelő infrastruktúra kiépítésének ösztönzésére, továbbá rendezni próbálta a mesterséges intelligencia etikai kérdéseit. A kormány közölte, hogy a dokumentumot alapos emberi ellenőrzés után várhatóan ismét társadalmi vitára bocsátják — ezúttal a mesterséges intelligencia által generált tartalmak ellenőrzésével.
Az ügy rávilágít arra a problémára, hogy a generatív MI-k gyakran produkálnak „hallucinációkat”: a valóságnak nem megfelelő, de meggyőzően megfogalmazott állításokat vagy hivatkozásokat. A visszavonás ezért fontos figyelmeztetés lehet a szabályozók és a döntéshozók számára arról, hogy a gépi eszközökkel létrehozott anyagok emberi felülvizsgálatot igényelnek.
