Anthropic kedden közzétett blogbejegyzésében ismertette a FlashProve nevű, nyílt forrású rendszert, amelynek célja annak kriptográfiai alapú bizonyítása, hogy egy adott szöveg vagy kimenet melyik AI-modelltől származik. A rendszer — amit a cég „provable inference”-ként, azaz bizonyítható következtetésként ír le — lényegében matematikai garanciát ad arra vonatkozóan, hogy az adott választ valóban a megadott modell állította elő.
Mire jó a FlashProve?
A FlashProve hasonló elven működik, mint a kriptográfiai e-mail aláírások: lehetővé teszi a címzett számára, hogy megerősítse, az üzenet valóban a feltüntetett feladótól származik. A rendszer ellenálló a hamisítók kísérleteivel szemben, még akkor is, ha az álcázó fél maga az a labor, amely a modellt fejlesztette és üzemelteti. A kutatók külön kiemelik, hogy a megoldás megakadályozhatná például, hogy egy AI-cég a költségek csökkentése érdekében titokban olcsóbb modellt iktasson be, vagy éppen a teljesítmény felfújása céljából drágább modellt tüntessen fel.
A rendszer harmadik felek állításainak érvényesítésére is alkalmas lehet: egy fejlesztő például állíthatja, hogy egy könyvtárát egy élvonalbeli kiberbiztonsági modell vizsgálta át, vagy egy cég kijelentheti, hogy üzleti tervét egy megfelelő modell jóváhagyta. A FlashProve célja annak megadása, hogyan lehet ilyen állításokat hitelesen ellenőrizni.
Hogyan működik technikailag?
A működéshez az szükséges, hogy az AI-laborok közzétegyenek minden kiadott modellhez egy úgynevezett „ujjlenyomatot” (fingerprint), amely később összekapcsolható bizonyos kimenetekkel és kriptográfiailag ellenőrizhető. Kulcsfontosságú, hogy ezek az ujjlenyomatok nem fedik fel a modell súlyait — azok belső számai, amelyek a modell viselkedését határozzák meg, és amelyeket zárt modellfejlesztők, például Anthropic és OpenAI, jellemzően titokban tartanak. Emiatt a laborok nyilvánosságra hozhatják az ujjlenyomatokat anélkül, hogy a legértékesebb szellemi tulajdonukat kiadnák.
A tervezés során fontos szempont volt a könnyű használhatóság: a FlashProve-ellenőrzés viszonylag erőforrásszegényre készült, így azt helyi eszközön is el lehetne végezni.
Nyílt forráskód és további tervek
A bejelentés részeként a kutatók részletes műszaki specifikációt és működő kódrészleteket tettek közzé GitHubon egy nyílt forráskódú licenc alatt. Ugyanakkor a kutatás folyamatban van, és a közlemény szerint nincs tervben a rendszer bevezetése sem Anthropicnál, sem más laborban.
„Ez a kutatási poszt a köztes eredmények megosztását szolgálja, nem pedig egy befejezett kutatási tervet” — írják a bejelentésben a kutatók, és hozzátették, hogy céljuk, hogy mások megvizsgálják, továbbvigyék és fejlesszék az általuk létrehozott megoldást.
Miért számít ez?
A technika lehetőséget adhat arra, hogy a felhasználók és külső szereplők nagyobb átláthatóságot kapjanak a nagy nyelvi modelleket és egyéb fejlett AI-rendszereket használó szolgáltatások működéséről anélkül, hogy a szolgáltatók titkosított modellparamétereit kompromittálni kellene. Ez fontos lépés lehet az AI-szolgáltatások felelősségre vonhatósága és a bizalom növelése felé.
