Szerzők: Ritendra Datta és Karthik Gopalratnam, Members of Technical Staff
OpenAI mérnökei egyedi reklámrendszert építettek ChatGPT‑hez, mert a hagyományos, egyedi eseményekre épülő hirdetési architektúra nem illeszkedett a beszélgetés‑alapú felhasználói szándék dinamikájához. A beszámoló szerint a ChatGPT Ads egy, a frontvonalbeli modelleken utólagosan betanított LLM‑re (amelyet az írás „orchestrator”-nak nevez) támaszkodik; ez a modell eszközhívásokkal végzi a keresést (retrieval), rangsorolást, relevanciaértékelést és a licitálást/aukciót a végső hirdetéskiválasztáshoz és árazáshoz.
Miért más a chat‑környezet?
A hagyományos rendszerek egy keresési lekérdezésre vagy oldalmegtekintésre reagálnak: egy jól körülírható esemény indítja el a hirdetési munkafolyamatot. A ChatGPT‑beszélgetésekben a felhasználói szándék gyakran több fordulón át alakul: például egy utazástervezés vagy egy edzésterv egymást követő kérdései különböző kereskedelmi jellegű igényekhez vezethetnek. Ennek megfelelően egyetlen, korai üzenetre épített hirdetés téves vagy zavaró lehet.
A csapat három fő tervezési döntést hozott a probléma kezelésére:
- állapotőrző (stateful) hirdetési munkamenetek bevezetése, így az információ megmarad és frissül a beszélgetés fordulói, illetve több munkamenet során;
- egy egyedi, utólag betanított LLM használata, amely eszközhívásos architektúrán keresztül értelmezi a kontextust és a mögöttes szándékot, majd kiválasztja, rangsorolja és előkészíti a hirdetéseket;
- a hirdetésválasztási folyamat külön futtatása a ChatGPT válaszgenerálásától, külön szolgáltatásként, hogy a hirdetési logika ne módosítsa a modell organikus hangját.
A rendszer működése röviden
Az orchestrator folyamatosan figyeli a beszélgetést, iteratív eszközhívásokkal hoz létre rövidített szöveges összefoglalókat, ezekből szemiantikai beágyazásokat (embeddings) készít, majd különböző indexekben keres hirdetési jelölteket. A cél egy kiterjedt, de szűrhető jelöltkészlet létrehozása, amelyet aztán jogosultsági (eligibility), minőségi és relevancia‑ellenőrzések szűrnek tovább, végül az orchestrator jelöli ki a kontextusnak megfelelő jelölteket, amelyek beléphetnek az aukciós eszközbe. Maga az orchestrator nem dönt az áról vagy a végső kiválasztásról — ezeket az aukció végzi.
A keresés (retrieval) több lekérdezést is előállíthat, hogy megőrizze a beszélgetés különböző irányait (például szállítás, szállás, programok egy utazástervezésnél). A jelöltek kiválasztásánál figyelembe veszik többek között kampány‑ és kreatív elérhetőséget, célzásokat, szabályzati korlátozásokat, költségkeretet, pacinget, elhelyezési kompatibilitást és hirdetői deduplikációt.
Mi történik a rangsorolásnál és az aukciónál?
A szűrés után a jelöltek egy scoring fázisba kerülnek, ahol külön rendszerek becslik a szemantikai relevanciát, a várható felhasználói elköteleződést és a korábbi teljesítményt. Az orchestrator ezek alapján nominálja a legígéretesebb jelölteket az aukcióra. Az aukció végzi az aukció‑feltételek ellenőrzését, árképzést, minőségre alapozott rangsort és a végső kiválasztást.
Két chat‑specifikus okból is előfordulhat, hogy egy megnyert hirdetés végül nem jelenik meg: vagy a hirdetés „nem illik oda” a beszélgetés kontextusába (a moderációs és orchestrator‑ellenőrzések blokkolják), vagy az adatkérés késés miatt nem érkezik meg időben — a ChatGPT válasza nem várja meg a hirdetést.
Szétválasztott szolgáltatások a felhasználói élményért
A hirdetési döntéshozatal szigorúan külön fut a ChatGPT válaszgenerálásától: külön modellek és külön kód futnak a két oldalon. Ennek gyakorlati előnyei, hogy a ChatGPT organikus működése nem függ a hirdetéskiszolgálástól; ha a hirdetési szolgáltatás lassú vagy elérhetetlen lesz, a termék maga továbbra is válaszol. Továbbá a rendszer magas küszöböt tart a hirdetések megjelenítéséhez: gyakori, hogy nincs hirdetés — ez a normális és elfogadott kimenet, ha nincs egyértelmű felhasználói előny.
Preambulum és szerveroldali kiszolgálás
A rendszer szerveroldalon továbbítja a kreatívot és egy modell‑generálta, rövid, semleges preambulát (amely összeköti a reklámot a beszélgetéssel), de ez sem garantálja automatikusan a megjelenítést a felhasználó felületén: az csak akkor lesz látható, ha megérkezik a ChatGPT válasza előtt, és a felhasználó felület megjeleníti azt, tisztán szponzoráltként jelölve.
Mérések, naplózás és önfejlesztő hurkok
A hirdetési rendszer hagyományos naplózást és adatcsatornákat használ. Részletes események naplózása (például: munkamenet indult, de nem volt lekérés; jelöltek voltak, de elvesztek a jogosultsági szűrésen; hirdetést kézbesítettek és megtörtént rá egy interakció) segít külön‑külön javítani a lehetőségészlelés, keresés, jelöltminőség, aukciós részvétel és kiszolgálási megbízhatóság területeit.
A minőségértékelés modell‑alapú rétegét a legerősebb modellek biztosítják: ezek figyelik és értékelik a kimeneteket, majd feedback alapján továbbképzik az orchestrator‑t és más, hatékonyabb, kisebb modelleket is, amelyeket aztán munkafeladatokra helyeznek be. Emellett emberi visszajelzéseket gyűjtenek (felhasználói kattintások, elrejtések, felmérések és hirdetői visszajelzések az Ads Manageren keresztül), és a csapat közvetlen párbeszédet folytat mindkét oldallal.
Eredmények és továbblépés
A cikk szerint a ChatGPT Ads kevesebb mint 200 nappal az elindulás után elérte az 1 milliárd dolláros évesített bevételi futási rátát, és az indulástól számítva több mint 100 000 hirdető futtatott hirdetéseket ChatGPT‑n. A fejlesztés gyorsításában a Codex eszköz szerepét is kiemelik: a Codexet kódfejlesztésre és adat‑infrastruktúra integrációkra használták, hogy gyorsan építsék és skálázzák a rendszert.
A jövőbeli irányok között dinamikusabb hirdetési formátumok és interaktív üzleti lehetőségek (például, hogy a felhasználók közvetlenül beszélhessenek vállalkozásokkal a hirdetéseken keresztül) szerepelnek. A rendszer önjavító architektúrája és a folyamatos feedback‑hurkok ígérete szerint idővel javítják majd a relevanciát és a személyre szabást.
Összegzés
OpenAI mérnökei egy, a beszélgetés‑specifikus jelleghez igazodó hirdetési rendszert írtak le, amely állapotőrző munkameneteket és egy post‑trained LLM‑orchestrator‑t használ a reklámkiválasztás irányítására, miközben a hirdetéskiszolgálást külön viszik a ChatGPT válaszadási útjától. A megközelítés célja a relevancia növelése, a felhasználói bizalom megtartása és annak biztosítása, hogy hirdetés csak akkor jelenjen meg, ha valódi értéket ad a beszélgetéshez.
