Baseten szerdán bejelentette, hogy új biztonsági infrastruktúra-szabványt indít a Base Labs nevű kutatási részlegével együtt, partnerségben a Hugging Face és a Goodfire AI vállalatokkal. A kezdeményezés célja a nyílt súlyú (open-weight) modellek biztonsági értékelésére és folyamatos monitorozására szolgáló infrastruktúra kidolgozása.
Miért fontos ez most?
A bejelentés olyan időszakban érkezik, amikor intenzív vita zajlik a nyílt súlyú modellek biztonságáról. A kritikus kockázatot az jelenti, hogy egyes modellek eredeti védelmi mechanizmusai eltávolíthatók egyre elterjedtebb technikákkal, amelyeket a cikk "abliteration" néven említ. Ennek a jelenségnek a mérete jelentős: a Hugging Face, amely nyílt forrású AI-modelleket hosztol, jelenleg több mint 6 000 abliterált modellt sorol fel.
Mit vállal a Base Labs és a partnerség?
A Base Labs — a Baseten idén indított kutatócsoportja — feladata lesz módszerek kidolgozása és közzététele olyan eljárásokra, amelyek a nyílt modellek tréningjébe és üzemeltetésébe épített monitorozást és biztonsági ellenőrzést biztosítanak. Baseten hangsúlyozza, hogy a jövőbeli munkát nem „ráapplikált” megoldásként, hanem a modellek képzésének és telepítésének szerves részévé kívánja tenni, így átláthatóbbá és beavatkozhatóbbá téve a biztonsági kutatások eredményeit.
A Baseten közleménye szerint: „We believe openness to be an advantage for AI safety. Openness provides more visibility into the behavior of models and, most importantly, greater means of turning safety research into actionable and transparent controls than closed-source.” (nyers idézet X-en közzétett posztjukból).
A Goodfire AI szerepe és a technikai részletek
A partnerség konkrét műszaki megoldásairól a felek egyelőre nem adtak ki részleteket. A Goodfire AI a Baseten bejegyzésére válaszolva úgy fogalmazott: „Safety must be built into open models and provided by those who serve them.” A Goodfire ismertsége abban áll, hogy az AI rendszerek döntéseinek magyarázatosságára és a „fekete doboz” megnyitására szakosodott, ezért ők a legvalószínűbb jelöltek arra, hogy a „beépített” biztonsági komponensek kidolgozásában vezessék a munkát.
Pénzügyi háttér
Baseten, amely AI-inferencia szolgáltatóként működik, júniusban 1,5 milliárd dolláros Series F tőkét vont be, amellyel 13 milliárd dolláros cégértékre emelkedett. A Goodfire AI szintén jelentős befektetést kapott: a társaság idén vezetésével B Capital mellett 150 millió dolláros Series B finanszírozást szerzett, amelyet modell-érthetőség (model interpretability) platformjának fejlesztésére fordít.
Nyílt felhívás a fejlesztői közösségnek
Baseten nyílt felhívást tett közzé a szélesebb fejlesztői ökoszisztémának, hogy járuljanak hozzá az új keretrendszerhez. A vállalat szerint a cél egy olyan nyílt modellekből álló ökoszisztéma kiépítése, amely biztonságos és mindenki számára hozzáférhető.
Összegzés
A közös kezdeményezés azt a célt szolgálja, hogy a nyílt súlyú modellek biztonsági ellenőrzését és monitorozását a modell életciklusába építve kezeljék, választ adva a növekvő számú abliterált modell jelentette kockázatokra. A részletek kidolgozásába és megvalósításába a bejelentés szerint a Baseten, a Base Labs, a Hugging Face és a Goodfire AI mellett más fejlesztők is bekapcsolódhatnak.
