Nathan Lambert és Florian Brand az Interconnects podcast adásában áttekintették az elmúlt hét AI- és kiberveszélyekkel kapcsolatos legfontosabb vitáit: a Kimi K3.1 Pro benchmarkeredményeit, az open-weight (nyílt súlyú) modellek kockázatait, valamint hogy miként látják a kiberszakértők és az AI közösség tagjai ezt a helyzetet. A beszélgetés végén könnyedebb témákra tértek át, például a Muse virtuális asszisztens használatára és az ifjúsági tehetségek felvételének kérdésére.
Kimi K3.1 Pro benchmarkok és fogadtatás
A beszélgetés egyik központi kérdése az volt, hogy a Kimi K3.1 Pro miért kapott vegyes fogadtatást annak ellenére, hogy néhány mérőszámon kiemelkedő eredményeket mutat. A podcastban felmerült, hogy az Artificial Analysis rangsorában a K3.1 Pro a top modellek között szerepel — megelőzve többek közt egyes GPT-6 Astra publikált eredményeket — miközben más benchmarkokon, például a Terminal-Bench Science-on körülbelül 20 ponttal maradt el a GPT-6 Astrától, és a ProgramBench eredmények is hullámzóbbnak tűntek. Florian Brand rámutatott, hogy a különböző benchmarkok különböző időhorizontokat és feladatkultúrákat mérnek: egyes tesztek „exploitálásra” (gyors elérésre) fókuszálnak, mások pedig hosszabb felfedezést és általánosabb problémamegoldást igényelnek.
A műsorban megemlítették, hogy a Kimi-csapat nagyobb marketingkampányt indított a K3.1 Pro megjelenésénél, és voltak viták a fizetett promóciók átláthatóságáról. A cég szerint a model súlyait 2024. november 4-ig hozzák nyilvánosságra (a beszélgetés szerint a súlyok kiadása körüli ütemezés két hét exkluzív hozzáférést is tartalmazhatott bizonyos partnereknek).
Telepítési és költségkérdések: három billió és a hardverigények
A K3.1 Pro paraméterméretére utalva a vendégek megvitatták, hogy a nagyobb (például körülbelül hárombilliós paraméterű) modellek üzemeltetése jóval erőforrás-igényesebb, mint a kisebb, 700 milliárd paraméter körüli modelleké. Példaként felmerült, hogy kisebb modelleknél sokszor H100- vagy H200-gépek is elégségesek, míg a nagyobb modellek „B300” típusú erőforrásokat, illetve NVL72 rackekre hasonlító megoldásokat igényelhetnek a kényelmes kiszolgáláshoz. Florian Brand hangsúlyozta: a modellek szétszedése (model sharding) több műszaki komplikációt jelent, és egyes üzemeltetők inkább egy replikát egy csomóponton futtatnának.
Nyílt súlyok, kibervédelem és „nem előretörő” döntések
Kimi blogbejegyzésére hivatkozva a házigazdák kitértek arra, hogy a cég nyílt súlyok kiadásakor azzal az elvvel élt, hogy nem akar olyan nyílt súlyokat publikálni, amelyek az „offenzív” kibercapacitásokat továbblépnék. A K3.1 Pro tervezésénél állítólag a központi cél volt, hogy a modell támadó képességei ne érjék el azt a szintet, amit a cég belső pipeline-ja elő tud állítani, illetve hogy maradjon le a frontier zárt modellek (például GPT-5.6 Sol névvel említett) képességeitől.
Florian véleménye szerint ez a megközelítés érthető: a széles nyilvánosság általi kipróbálás sok hibát előhoz és javításra ösztönöz, és a nyílt modelleket eleve nagyobb vizsgálat alá vetik. Ugyanakkor a kibervédelmi szakértők szerint a valódi, hosszú távú és szervezetszintű betörésekhez nemcsak rövid horizonú sebesség, hanem hosszantartó, láncolatos képességek kellenek — ott a zárt modellek, a „trusted access” rendszerek és a hosszú távú hozzáférés előnyben lehetnek.
A „mindent fel lehet törni” narratíva és a gyakorlat
A podcastban részletesen kitértek az ökoszisztéma-szemléletre: a sebezhetőségek feltárása és kihasználása önmagában nem új jelenség, ezekre a trendekre nem feltétlenül jelentett mérföldkövet a ChatGPT megjelenése. Fontos példa volt a PHP2Shell-hez kapcsolódó sebezhetőség: a Patch the Planet és más kutatók felfedezték és koordináltan javították a hibát, amely sok PHP-alapú weboldalon (pl. WordPress-ek) távoli kódfuttatásra adott lehetőséget; emiatt több honlap átmenetileg leállt a patch alkalmazásához. A podcast résztvevői megjegyezték, hogy a széleskörű, pusztító tömeges exploithullámok eddig nem következtek be.
Egy másik friss incidens a LiteLLM könyvtár kompromittálása volt: a szolgáltató részleges vizsgálata szerint egy öt hónapig a GitHubon elérhető API-kulcs okozta a vektorozást, amihez később támadó férhetett hozzá. Ez az eset is hozzájárult a „minden bizonytalan” érzéshez, de a beszélgetők szerint sok incidens gyökere emberi és folyamatbeli hibákban (például nem frissített rendszerek, exponált kulcsok) keresendő.
Zárt modellek, „trusted access” és a hibák gyors javítása
Nathan és Florian egyaránt hangsúlyozták, hogy több nagy játékos (OpenAI, Anthropic) bevezetett „trusted access” programokat és belső védelmi programokat, amelyekkel a kutatók és a vállalati szereplők hozzáférhetnek zárt modellekhez védett környezetben a sebezhetőségek feltárásához. Florian szerint ezek a programok hozzájárultak sok sérülékenység gyors feltárásához és javításához; ugyanakkor a kritikus ellenvetés az, hogy sok szervezet reaktív módon viselkedik, és még mindig nem frissít sok rendszert időben (például elavult PHP-verziók miatt).
A beszélgetés rámutatott arra is, hogy az úgynevezett „abliterated” modelleket és API-szolgáltatásokat (például Abliteration.ai és Morph említve) vitatott megoldásként tekintik: ezek azt ígérik, hogy a modellt „csupaszítva” (abliterated) adják ki API-n keresztül, de Florian szerint kérdéses, mennyi valós előnyt ad ez a védelem szempontjából, és inkább marketinghatást is hordozhat.
Politikai és kommunikációs következmények: Mythos és a médiadiskurzus
Nathan felidézte a Mythos körüli kommunikációs hullámokat: szerinte a korai kommunikációkban és a médiaválaszokban is volt „a farkast kiáltó fiú” hangulat, ahol a képességek említése gyorsan pánikot indukált. A podcastban többször visszatért a nehézségre, hogy ok-okozati összefüggéseket megállapítsunk: ha lesz egy nagyobb offenzív incidens, nehéz lesz pontosan bizonyítani, mennyiben járult hozzá az open-weight hozzáférés vagy a modellek általános fejlődése.
Anthropic és a junior alkalmazottak felvétele
A műsorban jelentős vita is zajlott Anthropic bejelentése kapcsán, amely szerint a cég nem vesz fel junior alkalmazottakat. Florian ironikusan azt mondta, hogy ez jó hír a többi cég számára, mert több tehetséges fiatalt lehet felvenni máshol. Nathan viszont arra figyelmeztetett, hogy a fiatal mérnökök képzése és felvétele a társadalmi átmenethez és a munkapiaci változások kezeléséhez is fontos eleme a „biztonság kultúrájának”, és a rövid távú munkaerő-politikai döntések hosszabb távon problémákat okozhatnak.
Személyes használat: Muse, Dots és ügynökök a mindennapokban
A beszélgetés végén Florian beszámolt a Muse nevű asszisztens gyakorlati használatáról: mivel most költözött az Egyesült Államokba, több olyan szolgáltatáshoz is hozzáfér, amelyek az EU-ból korlátozottak lehetnek. Muse és más hasonló eszközök (Dots, OpenClaw, Hermes) segítik a folyamatok automatizálását — például dokumentumgyűjtés, online űrlapok kitöltése, egyszeri fizetési kártyák generálása Stripe-on keresztül —, de a vendégek megjegyezték a sebesség- és megbízhatósági korlátokat, valamint a privát kommunikáció emberi vonatkozásainak fontosságát: amikor valódi emberekkel kell interakcióba lépni, a beszélők inkább személyesen avatkoznak be.
Következtetések és mi várható hamarosan
Nathan és Florian egyaránt arra számítanak, hogy az elkövetkező hetekben és hónapokban fokozódhat a nyílt modellek megjelenése, több sebezhetőség-feltárás és javítás, illetve időnkénti incidensek. Emellett a kínai és amerikai szereplők új modellkiadásaira számítanak, ami felgyorsíthatja a hallható eseményeket és a közbeszédet.
A podcast végén a házigazdák hallgatókat hívnak fel további kérdések küldésére, és jelezték, hogy több adást terveznek hasonló tárgyban.
Időbélyegek (fejezetek)
- 00:00 Kimi K3.1 reakció
- 08:15 Kimi open-weight és kibervédelmi elvek
- 11:23 „You can hack everything” korszak elemzése
- 15:54 PHP2Shell, LiteLLM és az új internet
- 24:00 APIs, safeguardok és trusted access
- 31:41 Anthropic nem vesz fel juniorokat
- 36:16 Florian Muse-használata
- 45:30 Lezárás
(A podcast elérhető Apple Podcasts, Spotify és más népszerű platformokon; a szerkesztők további részleteket és forrásokat csatoltak a beszélgetéshez.)
