Xaira Therapeutics csapata egy nagyszabású, CRISPR-alapú perturbációs adatbázist (X-Atlas) és azt felhasználó modellt (X-Cell) fejlesztett, azzal a céllal, hogy pontosabban jósolja meg, hogyan változik a génexpresszió egyes beavatkozások hatására. A cég vezető kutatói, Ci Chu és Bo Wang projektje azt a feltételezést igazolja, hogy a prediktív teljesítmény korlátját gyakran nem a modellek paraméterszáma vagy a számítási erő korlátozza, hanem az adatok információtartalma.
Mi vezette a munkát?
A fejlesztők korábbi tapasztalata szerint ha egy modell tesztvesztesége (test loss) már egy bizonyos paraméterszámnál (például 1,5 milliárd paraméternél) megáll, míg a tanulási veszteség (training loss) tovább csökken, akkor ez arra utal, hogy a modell teljesítményét nem a kapacitás, hanem az adatok korlátozzák. Egyetlen, viszonylag kis adatállománnyal végzett tréningnél információhiány rajzolódott ki: a 3,1 milliárd paraméteres modell eltért a skálázási trendtől, vagyis sem több paraméter, sem több számítási kapacitás nem javította tovább az eredményt.
Ezért a csapat arra összpontosított, hogy információgazdagabb kísérleti adatokat gyűjtsön; a közlés szerint az új adatállomány hozzávetőlegesen ~30× több hasznos információt biztosított a korábbi készletekhez képest, ami lehetővé tette a paraméter- és számításbővítést.
X-Atlas és X-Cell — hogyan különbözik ez a CELLxGENE-től?
A CellxGene (CELLxGENE) adatbázis, amelyet a Chan Zuckerberg Institute hozott létre, több százmillió sejt adatait tartalmazza, és minden egyes sejthez 20–30 ezer gén detektálási számlálóját és részletes metaadatokat kapcsol. Ezek az adatok kulcsfontosságúak voltak az egyes cellatípusok és állapotok leírásában, és olyan modellek alapját képezték, mint Bo Wang scGPT modellje.
Ugyanakkor a CELLxGENE-szerű adatok elsősorban az egyes sejtek közötti állapotok és típusok közötti összefüggéseket írják le, de nem alkalmasak jól arra, hogy jósolják, mi történik, ha aktívan megváltoztatunk egy gén kifejeződését. A génexpressziók erősen korreláltak egymással, és pusztán megfigyeléses adatokból sok esetben nehéz (vagy lehetetlen) egyértelmű oksági irányokat kinyerni.
Az Xaira csapata ezért CRISPR-alapú perturbációs kísérleteket hajtott végre: ha egy gén kifejeződését egyenként „lecsavarjuk”, megfigyelhetők az elsőrendű (és részben magasabb rendű) hatások, amelyek segíthetnek megkülönböztetni, mi van up- és downstream egy adott génhez képest. Ezt a fajta, beavatkozás alapú adatgyűjtést rögzíti az X-Atlas, és ezt használja az X-Cell, amely a modell szerint jobban általánosít valódi laboratóriumi körülmények között humán sejtekre.
Módszertan és eredmények
A projektben milliókat meghaladó, párhuzamos CRISPR-tesztek szolgáltatták az alapnyers adatot az X-Atlashoz. A kutatók elhagyták az autoregresszív megközelítést a diffúziós modellezés javára, és az X-Cell több előzetes szakmai tudást (priors) és architektúrális döntést kombinál az adatbázissal.
A csapat azt állítja, hogy az új megközelítés általánosít laboratóriumi környezetben is: az X-Cell felülmúlja a korábbi lineáris baseline-t, amely eddig jobb teljesítményt ért el, mint sok korábbi modell. A fejlesztők hangsúlyozzák, hogy a priorelemek (különféle tudáscsomagok) használata indokolt, de önmagukban nem helyettesítik az információgazdag kísérleti adatokat és a megfelelő architektúrát.
Költségek és szervezeti hatás
A forrásanyag nem közöl pontos költségszámokat, de a szerzők becslése szerint az adatgyűjtéshez kapcsolódó kísérletek és infrastruktúra „néhány tízmillió” dolláros nagyságrendbe kerülhetett, míg a számítási erő, a kutatói gárda és a kutatás költsége „néhány millió” körül lehetett. A megközelítés pénzügyi profiljára vonatkozóan a leírás szerint ez inkább egy mezei megerősítéses tanulás (RL) rollout költségszerkezetére emlékeztet, semmint egy hatalmas, adatgazdag pre-tréning költségvázra.
A projekt stratégiai súlyára utal, hogy Ci Chu később Chief Discovery Officerré, Bo Wang pedig Chief AI Scientisttá nevezték ki az Xaira-nál — ezek a kinevezések a forrást közlő anyag szerint a beszélgetés felvétele után történtek.
További megjegyzések
A csapat podcastinterjút készített, amelyben részletesen beszéltek a módszertanról, a CRISPR-kísérletek előnyeiről és a laboratóriumi generalizációról. A szerzők kiemelik, hogy bár az elsőrendű effektusok elemzése sokat elárulhat a génhálózatokról, létezhetnek ciklusok és magasabb rendű (másod-, harmadfokú) hatások, amelyek csak több gén egyidejű változtatásakor jelennek meg.
Összességében az Xaira munkája azt mutatja, hogy a prediktív modellek további fejlődéséhez nem feltétlenül elegendő a nagyobb modellek és több számítás: szükség van célzott, beavatkozásos, információgazdag adatgyűjtésre, amelyből oksági információ nyerhető ki.
