Egy új-mexikói bíróság 5000 dolláros (kb. 1,6 millió forint) pénzbírságot szabott ki Stephen Aarons ügyvédre, miután egy védence elleni gyilkossági ügyben benyújtott fellebbezésben hamis, mesterséges intelligencia által előállított állítások szerepeltek. A Reuters beszámolója szerint a fellebbezésben kitalált tanúk idézetei és rendőrségi vallomások jelentek meg, amelyeket a bíróság észrevett és problémásnak talált.
Mi történt pontosan?
Aarons ügyvédi beadványa több súlyos pontatlanságot tartalmazott: nem létező tanúk „vallomásait” tüntette fel, és hamisan állított tényeket a lövöldöző öltözetére és megjelenésére vonatkozóan. C. Shannon Bacon bíró még egy augusztusi meghallgatáson kérdőre vonta Aarons-t amiatt, hogyan lehetett tisztában a mesterséges intelligencia kockázataival, és miért nem ellenőrizte a benyújtott állításokat.
Aarons elismerte, hogy a fellebbezés elkészítéséhez ChatGPT-t használta, mert azt remélte, hogy az „kikezdhetetlen összefoglalót” ad a tárgyalásról. A bíróság elmarasztalta azért is, mert nem ellenőrizte az AI-generált beadványban szereplő jogi hivatkozásokat és tényeket.
Miért fontos ez?
Az eset rávilágít arra a problémára, hogy a chatbotok és más generatív AI-eszközök képesek „hallucinálni”, vagyis hamis, de meggyőzőnek tűnő információkat előállítani. A bíróságok és jogi szakemberek számára különös kockázatot jelent, ha ilyen hibás tartalmakat hivatalos beadványokban használnak fel.
Jogkövetkezmények és további lépések
A bírságon túl a bíróság elmarasztalta Aarons-t a gondatlanság miatt. Aarons azt mondta, hogy bánja a történteket, és bízik benne, hogy a fegyelmi bizottság figyelembe veszi: szerinte ez „jóhiszemű tévedés” volt. A Reuters jelentése szolgált alapul a bírósági döntésről és a bírói megjegyzésekről.
Az ügy általános figyelmeztetésként szolgál a jogi szakmának: AI-eszközök használata esetén elengedhetetlen a források és állítások alapos ellenőrzése, különösen, ha a beadványok emberi szabadságot érintő ügyekben játszanak szerepet.
