Radical Numerics társ-vezérigazgatója, Eric Nguyen és csapata olyan genom nyelvi modelleken (genomic language models, GLM-ek) dolgoznak, amelyek alapjaiban változtathatják meg a biológiai kutatást — ugyanakkor új kockázatokat is felvetnek a bio-biztonság terén. A fejlesztések jól mutatják, hogy a mesterséges intelligencia képességei egyszerre gyorsítják a biológiai lehetőségeket és teremtenek nyomást a védekezésre, ami egyfajta fegyverkezési versenyt indíthat el.
Mit csinálnak a GLM-ek és miért fontos ez?
Eric Nguyen elmeséli, hogy a Stanfordon még nehezen talált fogadtatásra a genom nyelvi modellek ötlete: a biológusok kételkedtek, hogy a modellek működhetnek, és hogy az eredményeket megbízhatóan ellenőrizni lehet-e. Nguyen azonban tovább dolgozott a területen, részt vett az Evo és az Evo 2 fejlesztésében az Arc Institute-nál. Ezek a korai modellek később egy Arc/Stanford csapat munkájában egész bakteriofág-genomok generálására szolgáltak, amelyeket aztán szintetizáltak és funkcionális vírusokká állítottak össze.
A DNS mint „nyelv” sajátosságai különböznek a természetes nyelvektől: az ábécé csupán négy betűből áll (A, C, T, G), ugyanakkor a szekvenciák rendkívül hosszúak — egy átlagos emberi gén körülbelül 60 ezer bázispár hosszú lehet, egyes gének akár 2,3 millió bázispárig nyúlnak, míg a teljes emberi genom ~3 milliárd bázispárból áll. Ezeket a hosszú kontextusok kezelését lehetővé tevő modellek tették lehetővé nagyjából három évvel ezelőtt, jóval azelőtt, hogy a frontier laborok 1M+ kontextusú nyelvi modelleket építettek.
Gondolkodás DNS-ben: láncolt fejlődés és öngyorsítás
A Radical Numerics által fejlesztett GLM-ek nemcsak DNS-szinten, hanem RNS és fehérjeszintű feladatokban is jól teljesítenek, mert a DNS-szekvencián belül jól felismerhetők a gén- és RNS-jelölők, illetve egyes gének kifejezik a fehérjéket. Ez lehetővé teszi, hogy a modellek több „nyelvet” általánosítsanak anélkül, hogy előzetesen multimodális tréninget kapnának (például 3D fehérjeszerkezet, epigenetika vagy természetes nyelv bevonása nélkül).
Nguyen és csapata bemutatták, hogy ha a modellt egy aptamer-adatsoron lépcsőzetesen mutatják meg javuló teljesítményű mintákat (alacsony pontszámoktól a jobb pontszámok felé), akkor a modell képes folytatni ezt a javulási pályát: a rendszer vissza tudta állítani és reprodukálni olyan magasabb teljesítményű RNS-mintákat is, amelyeket korábban ki voltak hagyva a bemutatott példák közül. Ezt a szerkezetet a szerzők „chain-of-thought”, vagyis láncolt gondolkodás analógiájával írják le, csak itt a modell „DNS-ben gondolkodik”.
A fegyverkezési verseny és a védelem kihívásai
Nguyen szerint a védelem jelenleg veszít ebben a versenyben: a modellképességek gyors növekedése új potenciális támadási lehetőségeket teremt, és a védekezésnek fel kell zárkóznia. Radical Numerics álláspontja az, hogy a védelmi képességek fejlesztéséhez is a frontier modellek nyitott, gyorsan fejlődő eszközeit kell alkalmazni — vagyis a védelemnek tartani kell a lépést a támadó kapacitásokkal.
A beszélgetés részleteiben a következő témákról esett szó:
- a bio-biztonság mint fegyverkezési verseny és hogyan tarthat fel a védelem;
- a genom, mint a környezet lenyomata a DNS-en;
- valódi multimodalitás felé történő elmozdulás;
- hogyan működik a láncolt gondolkodás, amikor a modell „DNS-ben gondolkodik”.
Ki áll a Radical Numerics mögött?
A vállalatot Eric Nguyen (co-founder and CEO, PhD in Bioengineering & AI from Stanford University), Michael Poli (Chief AI Scientist, Stanford PhD, korábban founding scientist at Liquid AI), Stefano Massaroli (President, korábbi posztdoktor Yoshua Bengio mellett és founding team member at Liquid AI) és Armin W. Thomas (CTO, korábbi Stanford posztdoktor, aki Chris Ré-vel dolgozott és szintén volt a Liquid AI-nál) alapították.
Miért számít ez?
A GLM-ek fejlődése gyorsítja azokat a biológiai képességeket, amelyek potenciálisan áttörő kutatási eredményeket tesznek lehetővé, ugyanakkor megváltoztatja a biztonsági követelményeket is. A Radical Numerics megközelítése — a nagy kontextusú modellek és a DNS-centrikus „gondolkodás” alkalmazása — egyszerre ígéretes a kutatásban és kihívást jelent a bio-biztonsági stratégiák számára, különösen akkor, ha a védelem nem képes lépést tartani a támadó eszközök fejlődésével.
A beszélgetés részletes részeit a cikk eredeti forrása ismerteti; a fentiek összefoglalják a főbb technikai és biztonsági kérdéseket, amelyeket Radical Numerics és Eric Nguyen emeltek ki.
