Garry Tan, a Y Combinator vezérigazgatója azt mondta, hogy a szabályozóknak nem szabadna megtiltaniuk a distilláció alkalmazását, és hogy az Egyesült Államokban működő nyílt súlyú AI-laboroknak engedélyezni kellene ugyanezt a gyakorlatot. Tan a CNBC-nek adott interjúban azt nyilatkozta: „Én semmit sem tennék.” Hozzátette, hogy „meg lehet vitatni, hogy kellene-e egy amerikai distillációs rezsim.”
Mit értünk distilláció alatt?
A distilláció során egy modellkészítő részletesen kérdezget egy hatékonyabb, határmodellnek tekintett modellt, hogy ebből megtanulja annak működését és következtetési folyamatait. A technika általános és legitim módja az új modellek képzésének a mesterséges intelligencia kutatásban.
Miért fontos ez most?
Az ügy aktualitását növeli, hogy az Anthropic ezen a héten közzétett második jelentésében azt állította, hogy kínai laborok „illicit distillation attacks” – jogosulatlan distillációs támadások – révén titkos identitással, csalással és ellopott hitelesítő adatokkal próbálnak tudást kinyerni. Anthropic vezetője, Dario Amodei korábban nyilvánosan kérte az amerikai szabályozókat, hogy lépjenek fel a distilláció ellen.
Tan viszont nem osztja ezt a nézetet. Fontos leszögezni: ő nem a lopott hitelesítő adatokkal végzett distilláció pártolója; azt szeretné, ha az amerikai laborok legálisan, „az ajtón belépve” folytathatnák ezt a gyakorlatot.
Tan érvei
Tan két fő érvet említ. Egyrészt szerinte túlzott beavatkozás lenne, ha a modelleket fejlesztő cégek szabnák meg, mit tehetnek a vásárlóik vagy felhasználóik azzal az információval, amit a modellek API-hívásokon keresztül kiszolgálnak.
Másrészt emlékeztetett arra, hogy a zárt, tulajdonosi modelleket fejlesztő laborok sem kértek engedélyt, amikor hatalmas mennyiségű emberi tudást gyűjtöttek be modelljeik tanításához; ezek között sok esetben szerzői joggal védett anyagok is voltak, amelyek felhasználásához nem kaptak engedélyt az érintett jogosultaktól.
Tan a TechCrunchnak azt mondta: „Az, hogy korlátozzuk, mit tehetnek a felhasználók és ügyfelek az API-hívásokkal zárt súlyú modellek esetén, korlátozónak tűnik, és a kormánynak szerepe lehet abban, hogy normalizálja: a széles körű nyilvános hozzáférésen tanult intelligenciához való hozzáférés inkább közjó jellegű legyen, semmint hogy szigorú felhasználási feltételek mögé legyen zárva.”
Egyensúly és versengés
Tan maga is aktív AI-felhasználó, korábban olyan erős elkötelezettséget írt le, hogy egyszer „cyber psychosis”-ról beszélt magán. Szerinte fontos egyensúly: legyenek jól finanszírozott, frontier (határ) modelleket fejlesztő cégek, ugyanakkor erős, nyílt súlyú alternatívák is, amelyek szabadságot és hozzáférést biztosítanak.
A Y Combinator vezetője szerint a legsúlyosabb veszély az volna, ha az összes frontier AI képesség egyetlen erős, tulajdonosi szereplő kezébe kerülne. „A rémálom, a doomer forgatókönyv az, hogy egyetlen cég marad. Van a legjobb hozzáférése a tőkéhez, a legjobb AI-kutatók, elszalad vele, és hirtelen van egy monolitikus cég. Az rossz lenne,” mondta Tan a CNBC-nek.
Következmények
Tan javaslata – a distilláció amerikai laborok általi megengedése és a kormányzati szerep abban, hogy a hozzáférést inkább közjónak tekintse – arra irányul, hogy erősítse a nem kínai származású, nyílt súlyú modellek elérhetőségét. Ugyanakkor a vita folytatódik: egyes szereplők azonosított biztonsági és jogi kockázatokat látnak az adatok és a modellek ellenőrzésének lazításában, míg mások a verseny és a hozzáférés növelését tartják elsődlegesnek.
(Tan idézetei és álláspontjai a CNBC- és TechCrunch-interjúkból származnak; Anthropic állításaira vonatkozóan a cikk a vállalat nyilvános jelentéseit idézi.)
