Armin Ronacher, a Flask keretrendszer létrehozója, hétvégi feladatként megkérte a GPT-6 Astra modellt, hogy adjon hozzá virtuális szálakat és lexikális scopet Pythonhoz. A munka 35 óra alatt készült el: 75 000 sor forráskód, 79 commit, közel egy milliárd token feldolgozása és mintegy 1 200 dollár költség mellett — a generált kód futott, de gyakorlatilag olvashatatlan volt ember számára.
Mi történt pontosan
- A feladat: Python nyelvhez virtuális szálak és lexikális scope implementálása.
- Az eszköz: GPT-6 Astra (Armin Ronacher által használt modell).
- Eredmény: 35 óra alatt létrejött kód, amely 75 000 sort és 79 commitot tartalmazott; a folyamat során körülbelül egymilliárd token írása történt, és a költség hozzávetőleg 1 200 USD volt.
- Minőség: a kód működött, de nem volt ember számára értelmezhető — a sorok összeolvadtak, hiányoztak a megszokott tagolások, indexek nem követhetők; egy felhasználó a kódot „machineslop”-nak nevezte. Ronacher véleménye szerint az eredmény „semmit sem ér”.
Miért számít ez?
A történet nem csupán technikai kuriózum. A szoftverfejlesztés hagyományos munkafolyamatai — kódáttekintés, minőségbiztosítás, auditok, éjszakai on-call beavatkozások — alapvető feltételezése az, hogy emberek képesek elolvasni és megérteni a forrást. Ha modellek egymásnak írnak kódot olyan stilisztikával és szerkezettel, amelyet emberek nem tudnak követni, ezek a munkafolyamatok sérülnek vagy megszűnnek. A jelenség nem egyszerű eszközhiba: a rendszerek olyan irányba fejlődnek, hogy egymás számára optimalizálva dolgoznak, és ez csökkenti az emberi szerep láthatóságát és szükségességét.
Lehetséges következmények
- Ellenőrzés és audit: ha a kódot csak más ügynökök értik, független emberi auditálás nehezebbé válik.
- Hibakeresés és ügyeleti munka: a működő, de olvashatatlan kód megnehezíti a problémaazonosítást és a gyors beavatkozást.
- Munkaerő-szerkezet: fejlesztők szerepe inkább felügyeletre, tervezésre és rendszertervezésre tolódhat, miközben az implementációt automatizált rendszerek végzik.
Mit lehet tenni?
A leírt eset nem tartalmaz konkrét receptet, de rávilágít olyan kérdésekre, amelyeket szervezeteknek és szabályozóknak érdemes megvizsgálni: hogyan biztosítható a transzparencia és ellenőrizhetőség az AI-generált kódnál, milyen szabványok szükségesek az emberi olvashatóság vagy megjegyzhetőség fenntartásához, és milyen szerepek maradnak meg a fejlesztőnél a kevésbé olvasható, agent-alapú fejlesztési környezetben.
Záró gondolat
A GPT-6 Astra által előállított példa jól illusztrálja, hogy a szoftverrendszerek egyre több önálló döntést hoznak az implementáció módjáról. Amíg a cél a működés és nem az emberi megértés, a fejlesztői munkafolyamatok és a felügyeleti mechanizmusok újragondolására lesz szükség.
