A VB Transform 2026 eseményen Kel Vanee, a Capital One machine learning engineering területének MVP-je Sam Witteveen, a VentureBeat vezető technológiai munkatársának beszámolt arról, hogyan építette meg a bank azt az AI-platformot, amely nem pusztán kész, „off-the-shelf” alapmodellekre támaszkodik, hanem mélyen testreszabott, nyílt súlyú modellekre és egy multi-agent irányítási rétegre.
Műszaki alapok és stratégiai döntések
Vanee kiemelte, hogy a jelenlegi AI-hullámra való gyors reagálást évek óta tartó adattranszformációs és felhőre történő átállási beruházások tették lehetővé. Ezek a beruházások tettek lehetővé több tudatos architekturális döntést: egy központosított, vállalati szintű AI-platformot beépített kormányzással, a nyílt modellek mély testreszabását a bank tulajdonában lévő adatokkal, valamint egy saját multi-agent orkesztrációs megoldás kialakítását.
Nyílt súlyú modellek testreszabása saját adatokkal
A Capital One nem kizárólag a kereskedelmi, „frontier” modellekre hagyatkozik; ehelyett nyílt súlyú modelleket finomhangol a bank gazdag, saját adatkészleteivel. Vanee szerint a bank adatvagyona „nagy előny”, amelyet a generikus alapmodellek nem tudnak biztosítani, ezért ezt az információt használják a modellek mély testreszabására. A beszélgetés során hangsúlyozta: az éles, valós idejű adat kritikus fontosságú, hogy friss kontextust vigyen be élő ügyfél- vagy munkatársi interakciókba.
Váratlan előnyként említette az ilyen testreszabás vállalaton belüli kiterjeszthetőségét: amikor egy nyílt forráskódú modellt egy adott esethez finomítanak, az javulást hozhat a teljes portfólióban, mert a modell szakértővé válik a Capital One-specifikus felhasználási esetekben, szabályzatokban és terminológiában.
A multi-agent munkafolyamat (MACAW)
Konkrét példaként Vanee egy banki csaláskezelési ügyfélszolgálati munkafolyamatot említett, amely évente többmillió hívást kezel; az interakciók hossza jellemzően négy perctől akár hatvan percig terjed. Egyetlen nagy nyelvi modell korai bevetése nem bizonyult elegendőnek, ezért egy specializált ügynökökre bontott, multi-agent munkafolyamatot fejlesztettek ki, amelyben kormányzati szabályok és védőkorlátok is beépülnek.
A MACAW munkafolyamat több ügynök együttműködésére épül: az első egy megértő ügynök, amely megpróbálja feltérképezni az ügyfél szándékát; egy következő, gondolkodó ügynök összefoglalót készít meghatározott utasítások alapján; egy validáló ügynök ellenőrzi az összefoglaló ténybeli helyességét; végül egy magyarázó ügynök formázott dokumentummá alakítja az eredményt, amelyet a többi ügynök is megkap.
A fogyasztói banki alkalmazás esetében ez a folyamat több száz, összetett csaláshívásokra specializálódott ügyfélszolgálati munkatársnak segít: a hívás utáni összefoglalók dokumentálják a hosszú, oda-vissza tartó interakciókat, amelyeket korábban kézzel kellett rekonstruálni.
Chat Concierge és Llama-alapú testreszabás
A multi-agent architektúra alapelvei más, ügyfélorientált termékekben is megjelennek: a Chat Concierge nevű, vásárlást segítő asszisztens ugyanúgy a több ügynök közötti munkamegosztást használja. A Chat Concierge esetében a Capital One a Meta nyílt súlyú Llama modelljének egy, a bank saját adataival testreszabott változatát alkalmazza: egy ügynök kommunikál az ügyféllel, egy másik üzleti szabályok alapján akciótervet épít, egy harmadik az eredmény pontosságát értékeli, és egy negyedik magyarázza és validálja a végeredményt.
Agentikus kutatási rendszer: késleltetés és költség optimalizálása
A bank nemcsak ügyfélfelületen, hanem belső folyamatok automatizálására is használ agentikus AI-t, hogy a munkatársak magasabb hozzáadott értékű feladatokra koncentrálhassanak. Egy példa erre egy autonóm, ügynökökre épülő optimalizációs megoldás, amely a háttér-infrastruktúra hosting konfigurációit hangolja.
Vanee elmondása szerint a LLM-ek világában naponta jelennek meg új optimalizációk, amelyek nem mindig kompatibilisek egymással, és két jó optimalizáció kombinálása néha teljesítményvisszaesést okozhat. Az általuk fejlesztett agentikus rendszer képes a kutató által definiált keresési tér végigfuttatására, az egyes kísérletek összeállítására és lebonyolítására, majd egy összefoglaló jelentés bemutatására, amely segít megtalálni a legkedvezőbb konfigurációs és optimalizációs sorozatot a lehető legjobb késleltetés eléréséhez.
Jövőkép: modellek közti routing és proaktív, eseményvezérelt AI
Vanee két fontos jövőbeli irányt említett. Az egyik a routing absztrakciók térnyerése: a platformok validálni próbálnak egy routing réteget több modell felett, egyszerre figyelembe véve költséget és pontosságot. Véleménye szerint több modell intelligens kombinálása jobb pontosságot adhat, mint bármelyik modell önmagában, mert az egyes modellek különböző területeken teljesítenek jobban.
A másik előrejelzése a proaktív, eseményvezérelt rendszerek irányába mutat: olyan megoldások, amelyek nem várják meg a felhasználói kérdést, hanem adott feltételek észlelésekor automatikusan lépnek. Ugyanakkor hangsúlyozta, hogy az ilyen típusú ügynökök bevezetése szigorú tesztelést és folyamatos monitorozást igényel.
Mire tanít a Capital One esete?
A Capital One tapasztalata azt mutatja, hogy az AI üzleti értékének mérhető kiaknázása vállalati környezetben túlmutat a kész szoftverek használatán: szükség van mélyen testreszabott, erősen kormányzott architektúrákra. A finomhangolt nyílt súlyú modellek, a multi-agent orkesztráció és a saját adatvagyon kombinációja ismételhető mintát ad a pénzügyi szolgáltatásokban skálázható AI-megoldások bevezetéséhez.
Vanee összegzésében hangsúlyozta: mindezek az összetevők kritikusak voltak a különbségteremtéshez, valamint ahhoz, hogy elérjék a saját minőségi, költség- és késleltetési célkitűzéseiket. Ahogy a bank ezeket a képességeket további alkalmazási területekre terjeszti, a vállalati platform megközelítés segít abban, hogy a technikai fejlesztések biztonságosabb, gyorsabb és személyre szabottabb élményekké alakuljanak a több millió ügyfél számára.
Ez a cikk a Capital One által támogatott tartalom alapján készült. A támogatott tartalmakról további információ a VentureBeat szerkesztőségnél szerezhető be.
