Az AI Engineer New York eseményen, idén hónapban készült beszélgetésünkben Aman Singh, az Arca vezető AI mérnöke ismertette a cég mesterséges intelligencia-vezérelt vagyonkezelési gyakorlatát. Arca önmagát „AI-native” cégként definiálja, ahol ügynökök (agents) végzik a háttérmunkák jelentős részét, de a végső döntéseket emberi tanácsadók hozzák meg.
Milyen szerepet töltenek be az ügynökök?
Singh szerint az ügynökök elemzik az ügyfelek helyzetét, javaslatokat dolgoznak ki és előkészítik a további lépéseket, de a tényleges kereskedés és bármilyen pénzmozgás emberi jóváhagyást igényel. Singh megfogalmazásában az ügynökök inkább „promptolják az embereket, mint az emberek az ügynököket.”
A cég gyakorlatait befolyásolja, hogy a pénzügyi szolgáltatásoknál gyakran „hosszú horizontú” feladatokról van szó — nem feltétlenül folyamatos futásról, de olyan munkákról, amelyek több napig vagy akár tíz napig is tarthatnak. Singh előadásában megemlítette, hogy az Arca ügynökei által végzett egyes feladatok legfeljebb tíz napot vehetnek igénybe. A folyamatok gyakran megszakítottak, több szereplő és sok döntési pont között zajlanak, ezért a vállalat saját belső megoldásokat fejlesztett ki az állapot nyomon követésére.
Belső memória és feladatkövetés
Arca egy belső „memória” rendszert üzemeltet minden ügyfélre vonatkozóan: mit történt eddig, mit kell követni rövid távon (néhány nap), és mit kell nyomon követni hosszabb távon; valamint mely egyén felelős az egyes tevékenységekért. Ezt a memóriát az ügynökök járulékos adataival töltik fel, így a rendszerek ismerik a korábbi lépéseket és a nyitott feladatokat.
Modellek, harness és sajátosságok
Az Arca frontier laborok modelljeit használja, köztük Anthropic és OpenAI modelljeit; a Claude-t jelölték meg primer modell-szolgáltatóként. A cég kialakított egy saját „harness”-t (vezérlő réteget), amely automatikusan kiválasztja az adott feladathoz legjobb modellt a belső benchmarkjaik alapján. A saját harness birtoklása lehetővé teszi számukra, hogy szükség esetén modellszolgáltatót váltsanak, ellentétben az olyan megoldásokkal, ahol külső, menedzselt agent-harness van használatban.
Biztonság és determinisztikus szabályok
A pénzügyi szolgáltatásoknál a biztonság kiemelten fontos. Singh hangsúlyozta, hogy bár az ügynökök sok elemzést végeznek és megoldási javaslatokat tesznek, szerepük korlátozott: nem hoznak végrehajtó pénzügyi döntéseket. Minden kereskedést és pénzmozgást emberi tanácsadó kezel. Singh szerint „minden biztonsági korlátozásunk teljesen determinisztikus”, vagyis a meghatározott szabályok automatikusan kizárják az ügynököket a döntéshozatal bizonyos kockázatos területeiről.
Az Arca rendszeresen lefuttat ellenőrzéseket ismert AI-biztonsági problémákra, például prompt-injekciókra. Az ügynök maga nincs teljesen sandboxolva, de a számítási feladatokhoz sandboxokat használnak.
Kódfuttatás, adatkezelés és további védelmi rétegek
Singh elmondta, hogy további biztonsági intézkedéseket is bevezettek az érzékeny adatok kezelésére: a sandboxon belül futtatott kódokhoz egy olyan folyamatot építettek, amely "lefordítja" az ügynök által írt kódot egy szigorú formátumba, majd az eredeti kódot eldobják, és a formátumra további védőkorlátokat telepítenek, mielőtt az elérné a backend rendszereket. Ez lehetővé teszi, hogy az ügynökök kódot használjanak az adatok lekérdezésére, aggregálására és feldolgozására — például pénzügyi tervek előállításához — anélkül, hogy közvetlen, ellenőrizetlen hozzáférést kapnának az eredeti adatállományokhoz.
Visszajelzések felhasználása és meta-agent
Az Arca a humán tanácsadóktól származó visszajelzéseket és az ügynökök tevékenységének nyomait összegyűjti, majd egy „meta-agentet” használ arra, hogy elemezze ezeket az információkat és javaslatokat tegyen a harness továbbfejlesztésére. Így a gyakorlati tapasztalatok és a dolgozói visszajelzések beépülnek a rendszer értékeléseibe és javításaiba.
Finanszírozás és kontextus
Az Arca nemrég 48,5 millió dollárt vont be egy befektetési fordulóban, amelyet a General Catalyst vezetett, résztvevőként pedig az Index Ventures és a Venrock szerepelt. A cég ezzel a tőkével tovább fejleszti AI-alapú vagyonkezelési termékeit és infrastruktúráját.
További források és anyagok
A beszélgetéshez podcastfelvétel is készült, amely részletesen bemutatja az Arca működését és biztonsági gyakorlatait; a felvétel részletes időbélyegeket is tartalmaz a témák gyors megtalálásához (például memória, biztonsági korlátok, sandboxok, döntésmodellek és ügyfélpéldák).
