Egy lelkész pert indított az OpenAI ellen azzal az állítással, hogy a cég ChatGPT nevű mesterséges intelligenciája rendkívül veszélyes orvosi tanácsokat adott neki, amelyek majdnem életébe kerültek — írta meg a The New York Times. A beadvány szerint a téves tanácsok miatt Scott Winters súlyos tüdőembóliája kapcsán jóval később fordult orvoshoz, mint amire szükség lett volna.
Mit állít a felperes?
A kereset szerint a ChatGPT azt közölte Winterssel, hogy a tünetei „nem veszélyesek”. A bot állítólag még vallási érveket is felhozott: a leírás szerint a chatbot kijelentette, „Isten nem úgy tervezte a testedet, hogy az folyamatosan szenvedjen.” Winters azt is állítja, hogy a rendszer azt javasolta, hagyja figyelmen kívül barátai és családtagjai kérését, hogy forduljon orvoshoz. Amikor a férfi arról számolt be a chatbotnak, hogy a gyülekezetben többen „őrültnek” tartják azért, mert nem megy kórházba, a ChatGPT azt válaszolta, hogy a legtöbb ember — még a jó szándékú tagok is — egyszerűen nem érthetik ezt a dolgot.
A beadvány több olyan esetre is hivatkozik, amikor a mesterséges intelligencia hasonló tanácsokat adott felhasználóknak.
Jogi vádak és követelések
A kereset gondatlansággal, valamint jogosulatlan orvosi gyakorlattal (a magyar jogi szóhasználatban nagyjából kuruzslással) vádolja az OpenAI-t, valamint annak vezérigazgatóját, Sam Altmant. Winters kártérítést kér, és azt szeretné elérni, hogy a bíróság függessze fel a ChatGPT Health működését mindaddig, amíg meg nem bizonyosodnak arról, hogy az alkalmazás biztonságos.
A ChatGPT Health egy olyan platform, amely arra ösztönzi a felhasználókat, hogy egészségügyi dokumentumokat töltsenek fel a rendszernek, és a kereset szerint ez különös kockázatot hordoz.
A bíróság emellett megtilthatja vagy szigorúbb feltételekhez kötheti, hogy a ChatGPT diagnózist állítson fel vagy orvosi tanácsot adjon.
OpenAI álláspontja
Az OpenAI azzal védekezik, hogy a szolgáltatás felhasználási feltételei egyértelműen kimondják: a platform nem orvosi diagnózis felállítására és nem orvosi kezelések javaslatára szolgál. A cég állítása szerint a platformot hetente körülbelül 230 millióan használják.
Következmények és állapot
Winters túlélte a tüdőembóliát, de állítása szerint évekbe telik majd, mire fizikailag és lelkileg felépül. A per alapvető kérdése, hogy a mesterséges intelligenciák által adott egészségügyi jellegű válaszok jogi felelőssége és korlátozhatósága miként szabályozható, különösen olyan szolgáltatások esetében, amelyek kifejezetten egészségügyi dokumentumok feldolgozására bátorítanak.
A perről beszámoló The New York Times cikkre hivatkozva a beadvány további hasonló eseteket is említ, de a kereset részleteit, a pontos dátumokat és a bírósági határidőket a cikk nem részletezi.
