Toby Ord rövid posztjában azt javasolja, hogy az „AI-rajokat” érdemes úgy elképzelni, mint egy újfajta inferenciaskálázást. A lényege: több agent (ügynök) párhuzamos futtatásával ugyanannak a feladatnak a megoldása gyorsabban befejezhető, bár összességében több tokenre lehet szükség, mint egyetlen agent hosszabb futtatásakor.
Fő megállapítások
-
Ord szerint a rajok legfontosabb előnye a sebesség. Egy négyügynökös raj ugyan körülbelül kétszer annyi összes tokent igényelt ahhoz, hogy ugyanazt a teljesítményt elérje, mint egyetlen agent, de ügynökönként csak a tokenek körülbelül felére volt szükség. Mivel az ügynökök párhuzamosan futnak, elméletileg ugyanazt a feladatot felére csökkentett falióra-idő alatt lehet elvégezni.
-
A skálázás nem tökéletesen lineáris: amikor növeljük az ügynökök számát, csökkenő hozadék figyelhető meg. Ez hasonlít a közgazdaságtanból ismert jelenségre, amikor egyre több embert kell koordinálni — kialakul egyfajta "stepping on toes" (lépés a lábujjakra) paraméter, ami növeli a koordinációs költséget.
-
Konkrétabban, a poszt szerint ha tízszer több ügynököt vetünk be, az nem hoz tízszeres teljesítménynövekedést; ehelyett a nyereség 10^λ-szeres, ami napi tapasztalatok alapján inkább 3–5-szörös lehet. Ennek következtében nagyobb skálázásnál a raj egyre jobban elmaradhat az ugyanannyi tokennel futtatott egyetlen agenthez képest.
-
Még így is, a raj-skalázás elég hatékonynak tűnik ahhoz, hogy növelje annak az esélyét, hogy gyors, RSI-szerű (recursive self-improvement) intelligenciarobbanás történjen, ahelyett, hogy csökkentené azt. Ord megjegyzi, hogy eredetileg remélte, az λ értéke az AI-ügynökök esetében alacsonyabb lesz, ami csökkentené az intelligenciarobbanás valószínűségét, de úgy tűnik, ez nem így van.
Miért fontos ez?
Eddig az AI-képességek jellemzően a tanítási lépésben használt számítási kapacitás és adatmennyiség megfelelő kombinációjával, majd az inference-idő elköltésével szabályozódtak (hosszabb gondolatláncok, eszközhívások stb.). Az ügynökök egy új dimenziót adnak a skálázásban: nem csak azt határozzák meg, mennyi összes számítást vagy tokenhasználatot alkalmazunk, hanem azt is, hogyan osztjuk ezt meg párhuzamos, koordinált entitások között.
Amint jobban megértjük, hogyan lehet az ügynököket hatékonyan összehangolni — különösen, ha képesek lesznek összeadódónál nagyobb, koordinált teljesítményre (például a HuggingFace-hez köthető incidensekhez hasonló sikeres együttműködések) —, a rajok skálázása még nagyobb hozadékot adhat. Ezért fontos követni a rajok viselkedését és hatékonyságát az AI-képességek fejlődésének teljes képe megértéséhez.
Következtetések
Toby Ord elemzése arra hívja fel a figyelmet, hogy a párhuzamos, ügynök alapú megközelítések új tényezőt visznek a mesterséges intelligencia skálázásába: a gyorsaságot kínálják tokenhatékonyság-árán. A skálázáskor fellépő csökkenő hozadékok (a "stepping on toes" hatás) ugyan korlátozzák az előnyöket, de nem feltétlenül mérséklik a rövid idő alatt bekövetkező, önmagukat gyorsan fejlesztő rendszerek kialakulásának esélyét. Követésük és további vizsgálatuk alapvető lesz a jövőbeli AI-kockázatok és -lehetőségek megértéséhez.
Forrás
- Toby Ord: "Swarm Scaling" (poszt)
When to use swarms? When time is short
In a short post, Toby Ord proposes treating AI "swarms"—multiple agents running in parallel—as a new form of inference-scaling. The trade-off he highlights is that swarms often require more total tokens than a single agent, but their parallelism can finish tasks faster in wall-clock time.
Key findings
-
Ord identifies speed as the primary advantage of swarms. A four-agent swarm needed roughly twice the total number of tokens to reach the same performance as a single agent, but each agent used about half as many tokens. Because the agents run in parallel, the same task can theoretically be completed in roughly half the wall-clock time.
-
Scaling a swarm is not perfectly linear. As the number of agents grows, returns diminish in a way analogous to coordination costs observed in human teams. Economists call this the "stepping on toes" parameter: adding more participants raises coordination overhead.
-
Concretely, increasing agents by a factor of ten does not yield tenfold performance; instead the gain is 10^λ times, which Ord reports translates in practice to roughly 3–5×. This shortfall accumulates with larger scale-ups, so a large swarm can fall progressively behind an equivalent token budget used by a single agent.
-
Despite the diminishing returns, swarm scaling may be potent enough to raise the probability of a rapid, RSI-like (recursive self-improvement) intelligence explosion rather than lower it. Ord had hoped the λ parameter for AI agents would be smaller—making an intelligence explosion less likely—but his observations do not support that hope.
Why this matters
So far, AI capabilities have mostly been scaled by choosing the right mix of compute and data during training and then allocating inference budget to longer chains of thought and tool calls. Agents introduce an additional degree of freedom: how to divide inference work across multiple parallel, interacting entities.
If we learn to make agents coordinate productively—especially if they can achieve greater-than-sum-of-parts outcomes (as in notable coordinated incidents tied to platforms like HuggingFace)—the returns to swarm scaling could grow. Monitoring how swarms scale and coordinate will therefore be important for understanding the overall trajectory of AI capability growth.
Conclusions
Ord's analysis highlights that agent-based parallelism adds a new axis to AI scaling: it buys speed at the cost of total token efficiency. The diminishing returns due to the "stepping on toes" effect limit those gains, but do not necessarily prevent swarms from increasing the risk of rapid capability gains. Tracking and studying swarm coordination and efficiency will be crucial for anticipating future AI risks and opportunities.
Source
- Toby Ord: "Swarm Scaling" (post)
