A Circuit Breaker Labs azt a célt tűzte ki, hogy feltérképezze és megelőzze azokat a pszichológiai veszélyeket, amelyeket a beszélgető AI-rendszerek okozhatnak különböző nyelveken és kultúrákban. A vállalat a TechCrunch 2026 Startup Battlefield 200 döntőse, és bemutatkozik a TechCrunch Disrupt rendezvényen, amelyet 2026. október 13–15. között tartanak a San Francisco-i Moscone Westben.
Ki áll a cég mögött és mi motiválta őket?
A startupot a testvérpár, Shirali és Arul Nigam alapította. Indíttatásuk személyes és tragikus ügyekhez köthető: említették Sewell Setzert, a 14 éves fiút, aki érzelmi kötődést alakított ki egy Character.AI chatbot iránt, és állításuk szerint önmagáról tett káros kijelentéseket a botnak, mielőtt öngyilkosságot követte el. A család 2024-ben pert indított, és korábban ebben az évben több, Character.AI ellen indított jogi ügy is a nyilvánosság elé került. Több család emellett az OpenAI-val szemben is jogi lépéseket tett, azzal vádolva a ChatGPT-t, hogy szerepe lehetett szeretteik öngyilkosságában vagy téveszmés meggyőződéseiben.
Arul Nigam, a Circuit Breaker Labs technológiai igazgatója (CTO) azt mondta, hogy a chatbottal való interakciók sokszor nem támogatást nyújtanak a rászorulóknak, és egyes esetekben kifejezetten ártalmasak lehetnek. Rámutatott arra, hogy a modellek nem mindig értik a finom nyelvi árnyalatokat — például mit jelent a „veled akarok lenni” —, és ez veszélyes következményekhez vezethet.
Hogyan működik a tesztelés?
A Circuit Breaker Labs úgy írja le az általa fejlesztett AI-ügynököket, mint egy seregnyi „baleseti tesztbábut”: a szimulált felhasználók különböző korúak, hátterűek, nyelvűek és kulturális kontextusúak, és céljuk, hogy valós emberi beszédmintákat reprodukáljanak.
A startup emberi területi szakértőkkel dolgozik együtt, hogy a lehető legélethűbb felhasználói viselkedéseket hozzák létre. Ezeket a szimulációkat úgy alakítják, hogy tükrözzék a valódi beszédmintákat, szlenghasználatot, kódolt nyelvet és helyesírási hibákat. Az így felépített „red-team” tesztek — azaz ellenfélként viselkedő vizsgálatok — célja a modellek gyenge pontjainak feltárása.
A cég napi szinten tízezres vagy akár százezres nagyságrendben futtat szimulált interakciókat. A tesztek eredményeit a Circuit Breaker saját, auditálható és magyarázható pontozási módszere segítségével értékeli.
Mire alkalmazzák jelenleg a rendszert?
Jelenleg a Circuit Breaker Labs olyan magas kockázatú AI-alkalmazások biztonsági vizsgálatára specializálódott, mint az AI-alapú coachok, naplózó alkalmazások vagy egyéb mentális egészség támogatást ígérő szolgáltatások. Arul Nigam nem nevezte meg a startup főbb ügyfeleit. A cégnek van működő terméke, de nagyon korai stádiumban van: jelenleg öt alkalmazottal működik, köztük a Nigam-testvérekkel.
A tesztplatform később bármilyen olyan alkalmazásra kiterjeszthető lehet, ahol fennáll a „AI-pszichózis” veszélye — vagyis ahol a felhasználó paraszociális kapcsolatot alakíthat ki egy chatbot-tal, és ez káros hatásokhoz vezethet. Példaként említették az AI „munkatárs” ügynököket, amelyek válaszai interakciónként változhatnak, ezáltal kiszámíthatatlanná válhatnak.
Miért fontos ez?
Shirali és Arul egyaránt hangsúlyozták, hogy az emberek egyre óvatosabbak az AI-val szemben, és az egészséges szkepszis ellenére a teljes tiltás visszalépés lenne a technológia hasznos alkalmazásainak szempontjából. A Circuit Breaker Labs megközelítése az, hogy a félelmek csökkentésének módja a rendszerek biztonságának növelése: jobb tesztekkel és mérhető, magyarázható eredményekkel törekednek arra, hogy növeljék a felhasználói bizalmat.
Ha többet szeretne megtudni a Circuit Breaker Labs-ról és más, a TechCrunch által átvizsgált startupokról, a Startup Battlefield versenyen személyesen is találkozhat velük 2026. október 13–15. között San Francisco belvárosában.
