Az Amerikai Orvosi Kamara (American Medical Association, AMA) ezen a héten azt szorgalmazta, hogy a szövetségi és állami törvényhozás biztosítson jogi védelmet az orvosok számára abban az esetben, ha mesterséges intelligencia (AI) alapú termékek használata közben a páciensek megsérülnek, feltéve, hogy az orvosok a szoftvert az előírt módon alkalmazták. Ugyancsak törvényi kötelezettségként követelik az AI-fejlesztők megfelelő felelősségbiztosításának meglétét és a termék korlátainak, teljesítményadatainak nyilvános közzétételét.
Miért fontos ez?
A kórházakban és rendelőkben egyre szélesebb körben alkalmazott AI-eszközök és azok ajánlásai elmosódó határvonalakat teremtenek a felelősség kérdésében: ha egy döntés szoftverre támaszkodik, kinek kell viselnie a jogi következményeket hibás döntés esetén? A probléma sürgősségét növeli, hogy az önállóan működő AI egyre fontosabb orvosi feladatokat végez egyre kevesebb közvetlen emberi felügyelettel.
Az AMA álláspontja
Az AMA javaslata szerint, ha egy adott AI-termék kötelező használata vezet káros hiba bekövetkezéséhez, akkor a gyártóknak, forgalmazóknak, és adott esetben azoknak az egészségügyi rendszereknek kellene a felelősséget viselniük, amelyek előírják az adott rendszer használatát. A szervezet hangot adott annak is, hogy a pácienseket ért kár esetén ne elsősorban a kezelőorvos ellen indított orvosi műhibaper legyen az út a kártérítéshez.
Kockázatok a gyakorlatban
A szakmai anyag rámutat, hogy a klinikai AI-eszközök — amelyek például anamnézis feldolgozására, vitális jelek vagy képalkotó adatok értékelésére alkalmasak — hibás triázsra képesek, így tévesen mérlegelhetik egy eset súlyosságát anélkül, hogy a kezelőorvos tisztában lenne a hiba forrásával. Az AMA felveti azt is, hogy egy AI életszerű kezelési javaslatot adhat hiányos laboreredmények vagy elavult diagnózisok alapján; ilyen esetben az orvos előfordulhat, hogy nem tudja ellenőrizni a javaslat bemeneti adatait.
Példák és jogi környezet
Már voltak peres ügyek algoritmusvezérelt orvosi döntések kapcsán, köztük egy alabamai halálos kimenetelű ügy egy szívbetegségek szűrésére szolgáló eszközzel kapcsolatban. Ebben az esetben a szoftver fejlesztőjét nem találták felelősnek, mert a licencszerződés a végső orvosi döntést az orvosra ruházta.
A jogi felelősség kérdéseit vizsgáló kutatók, köztük Martin Hilbert, a University of California, Davis professzora, arra hívják fel a figyelmet, hogy a felelősségre vonás attól függ, többek között kik vettek részt a rendszer tervezésében és üzemeltetésében, miként lehet bizonyítani a hibát egy átlátszatlan modell esetén, és hogyan lehet kezelni a károkat, amelyek csak a rendszer telepítése után válnak nyilvánvalóvá. Hilbert szerint nem lehet automatikusan az végfelhasználót felelőssé tenni minden esetben.
Szabályozói és ipari reakciók
A Food and Drug Administration (FDA) vizsgálja, szükséges-e új keretrendszer bevezetése az AI-képes orvosi eszközök szabályozására. Az ügynökség azonban csak azokat a szoftvereket felügyeli, amelyek az orvosi eszköz definíciójába esnek — nem az egész egészségügyi AI-kínálatot.
A kórházak általában támogatják azt az elképzelést, hogy a fejlesztők és forgalmazók vállalják a rendszerek teljesítményének nyomon követését, mivel sok modell "fekete doboz" jellege megnehezíti a hibák azonosítását. Az AdvaMed, a gyártókat képviselő iparági csoport, azon az állásponton van, hogy az FDA a generatív AI-képes orvosi eszközök értékelésénél tartsa meg jelenlegi megközelítéseit, és kerüljön el olyan posztmarketing felügyeletet, amely minden termékre többletterhet róna függetlenül a tényleges kockázattól.
Összefoglalás
Az AMA kezdeményezése a jogi védelemre és az AI-gyártók nagyobb felelősségére rávilágít az egészségügyben alkalmazott mesterséges intelligencia gyors terjedésének következményeire. A vita központjában az áll, hogyan osszák meg a felelősséget a gyártók, egészségügyi intézmények és orvosok a betegek biztonságának garantálása érdekében.
