Iparág

Mesterséges intelligenciával generált szöveg

Az AI-korszak új tudásobjektumai: a kód helyett a kontextus és az ügynöknyomok válnak értékessé

A cikk főszereplői szoftverfejlesztő közösségek, kutatóközösségek és AI-fejlesztő cégek (például Jesse Vincent jelentése, Anthropic, Duncan Davidson, Sam Schillace és Alex Komoroske munkái).

Az AI-korszak új tudásobjektumai: a kód helyett a kontextus és az ügynöknyomok válnak értékessé

A közelmúltbeli Foo Camp rendezvényen többen azt fogalmazták meg, hogy már nem akarnak "valaki másnak a kódját" tovább használni: inkább az ügynökük (agent) szűrje ki a szükséges részeket, vagy azokat saját maguk írják át Rustban. Jesse Vincent egy egész szekciót tartott a témáról, és a Plaude AI jegyzetelőjének összegzése szerint több résztvevő is úgy látja, hogy a szoftverfejlesztés elsődleges alkotóelemeiről – a futtatható forráskódról – egyre inkább a természetes nyelvű promptok, generációs folyamatok és a fejlesztői készségek felé tolódhat a hangsúly.

Mely elemek válnak értékessé?

A beszélgetésekben felmerült fogalmak közé tartozik a „context bundle” – az a csomag, amelyet a modellnek átadunk a kód előállításához: specifikációk, minták, tesztesetek, agent-skill mappák, és maga az ügynöknyom (agent trace), vagyis hogy az ügynök mit próbált, mely eszközöket hívta meg és mely kontextust használta. Anthropic által bevezetett Agent Skill formátumot több agent-termék is átvette; az eval (tesztesetek halmaza) pedig a domain-szakértők egyik lehetséges értékes kontextusobjektuma lehet.

Ugyanakkor a hozzászólók óvatosságra intettek: az evalok csak akkor mérnek valódi képességet, ha a tesztjeik nem kerülnek be a modell tanítóadatai közé. Nick Vincent például arra hívta fel a figyelmet, hogy ha a holdout tesztesetek szivárognak a tréningadatba, az evalok a memorizálást mérik, nem a valódi teljesítményt.

Nyomás a közösségek és a fenntarthatóság felől

Jesse Vincent figyelmeztet, hogy a maintenerek túlterheltek az automatikus, nemkívánatos és gyakran gyenge minőségű hozzájárulások áradata miatt. A közösségi elismerés és előrelépés hagyományos mechanizmusai – pull requestek, repozitóriumok, konferenciák – régen összekötötték a hozzájárulókat; az AI-vel könnyebb kódot létrehozni, ezért új módszerekre lehet szükség a részvétel elismerésére és a pályák kijelölésére. A kommunikáció részben eltolódott Discordra és privát üzenetekre, de strukturált lehetőségekre továbbra is igény mutatkozik.

Különös aggodalom merült fel a tudományos számítástechnika terén: egy panelista szerint az AI-generálta forkok és ügynök-támadások veszélyeztethetik a gondosan ellenőrzött alapkönyvtárakat, például a NumPy-t és a SciPy-t. A tudományos rendszerek megbízhatósága a battle-tested könyvtárakon és reprodukálhatóságon alapul; az ezer, nem ellenőrzött alternatíva alááshatja ezt a megbízhatóságot.

Történeti párhuzamok és az "unbundling"

A cikk szerzője történeti párhuzamot von: a szoftverfejlesztés múltjában a binárisok voltak az értékes objektumok, majd az open source és a forráskód-repozitóriumok hoztak létre új értékkategóriákat (commit history, reputáció). Hasonlóan ma a kód körüli kontextus és a generálási minták válnak megosztható, kereskedhető tudásobjektumokká. Konkrét adat: a Stack Overflow havi új kérdéseinek száma nagyjából 200 000 volt 2014 körül, és ez a szám már a ChatGPT előtt csökkenni kezdett; a csökkenés 2022. november után élesen felgyorsult.

A szerző emlékeztet arra, hogy minden technológiai forradalom új mechanizmusokkal és új intézményekkel együtt hoz új értékobjekteket (például a webnél a domain, a weboldal, majd a weboldalon belüli URL és végül a kattintás voltak ilyenek). Most a „kérés” (what people ask their agents) és az agent-trace-ek lehetnek az AI-kor tudásobjektumai.

Kísérletek az új infrastruktúrára

Számos kezdeményezés próbálja újrafogalmazni, hogyan osszuk meg ezeket az új objektumokat:

  • Duncan Davidson a személyes kontextus „home” ötletén dolgozik.
  • Open Memory Protocol kezdeményezés a kontextus-csere mechanizmusainak szabványosítását célozza.
  • Sam Schillace agent-building patterns gyűjteményt fejleszt; egy minta az "Anchor on Canonical Names", amely a kanonikus név használatának előnyeit hangsúlyozza.
  • Új platformok próbálják átalakítani a GitHub-szerű központokat: Cursor Origin és Entire (utóbbit Thomas Dohmke, volt GitHub-vezér alapította). Entire: „stores your intent alongside your code” és Trails nevű agent-vezérelt review rendszert használ, ami session trace-eket és automatizált értékeléseket naplóz.
  • Anthropic belső használatra fejlesztett, Git-helyettesítő rendszere Scion néven szerepel a nyilvános leírásokban.
  • Common Fabric egy olyan rendszert épít, amely eldobható, ügynök által generált szoftvermintákat céloz, ahol az adatok a felhasználókhoz kötődnek és maguk hordozzák a felhasználás szabályait.

E példák mutatják, hogy a „kontextus és specifikációk szétosztása és on-the-fly újragenerálása” modelljének gyakorlati korlátai és lehetőségei egyaránt vannak.

Bizalom, szabványok és visszaélések kockázata

A szerző William Cronon történetét idézi Chicago gabonakereskedelmének kialakulásáról, hogy illusztrálja: új tudásobjektumok (pl. grading standardok, birtoklást igazoló bizonylatok) csak akkor válnak kereskedhetővé, ha megvannak a bizalmat építő mechanizmusok és szabályok. Ugyanígy az új AI-kori objektumok – kontextuscsomagok, agent trace-ek, evalok – megbízhatóságát és hitelességét intézményes és technikai megoldásokkal kell biztosítani, különben hamisítványok és helytelen használat terjedhet.

Mire érdemes fókuszálni a közösségeknek?

A szerző szerint a kihívás az, hogy meghatározzuk, mi az, amit meg kell őriznünk és megosztanunk az AI-gazdaságban: kontextuscsomagokat, jól formált kérdéseket, evalokat, agent nyomokat és specifikációkat. Ezen túl új ösztönzőket és mechanizmusokat kell létrehozni az elismerésre és a kompenzációra. Nem minden szoftver lesz agent-generált: marad helye nagy SaaS-alkalmazásoknak, binárisoknak és forráskódnak is — de szükség van valami újra is.

A cikk nem ad kész recepteket, hanem vitát indít: hogyan osszuk meg a kezdőpontokat (starter context), hogyan védjük az eval holdoutokat, miként mérjük és kreditáljuk az agent-tevékenységeket, és milyen intézmények/bizalmi mechanizmusok kellenek az új tudásobjektumok hitelesítéséhez.

Záró gondolatok

A szerző történeti nézőpontot ajánl: a múlt tapasztalatai segíthetnek megérteni a jelen változásait. Akik korán felismerik az új tudásobjektumokat és megértik, hogyan lehet értékké alakítani őket (mérni, cserélni, biztosítani), jó eséllyel alakító szereplőivé válhatnak az elkövetkező éveknek. A kérdés nem kizárólag a szoftverre vonatkozik: szinte minden területet érintenek a hasonló problémák, ahol az AI beépül a munkafolyamatokba.