Biztonság

Mesterséges intelligenciával generált szöveg

Laplace Intelligence szimulált „piros csapatot” használ robotok és önvezetők tesztelésére a valódi üzembe állítás előtt

A főszereplő a Michigan egyetemről indult Laplace Intelligence és alapítói, Howie Sun és Henry Liu, akik egy éve alapították a céget.

Laplace Intelligence szimulált „piros csapatot” használ robotok és önvezetők tesztelésére a valódi üzembe állítás előtt

Ann Arborban működő Laplace Intelligence automatizált red-teamingre (szándékos stressztesztelésre) épít, amely a robotok és a fizikai mesterséges intelligencia rendszerhibáinak korai felderítését célozza. A cég arra az alapfeltevésre épít, hogy ha a fizikai AI rendszerek biztonságát garantálni akarjuk, maguknak az AI-nek kell megtalálnia azokat a gyenge pontokat, amelyek a való életben veszélyes következményekhez vezethetnek.

Alapítók, eredet és kutatási háttér

A Laplace-t Howie Sun és Henry Liu alapította egy évvel ezelőtt a University of Michigan kutatási eredményeire támaszkodva. Howie Sun korábbi nyilatkozata alapján az elmúlt nyolc évben elsősorban önvezető járművek szimulációs kihívásain dolgozott. 2023-ban Sun és Liu közös tudományos cikke a Nature címoldalára került, és ez indította el a megkereséseket az iparági szereplők részéről, akik a módszertan gyakorlati alkalmazását szerették volna.

Sun megfogalmazása szerint a vállalat neve Pierre-Simon Laplace 1814-es gondolatkísérletére utal: azt a koncepciót követik, hogy valószerű szimuláció segítségével lehet megjósolni a „való világ” viselkedését.

Miben áll a technológia?

Laplace rendszere egy valós világból rekonstruált, nagy pontosságú szimuláción alapul, amelyet egy folyamatosan hibakereső AI-ügynök (red team) járat végig. A cél az, hogy robotok, önvezető járművek és okosvárosi megoldások a telepítés előtt már szimulációban bizonyítsák biztonságosságukat.

A szimulációs környezet egy post-trained változata Nvidia Cosmos platformjának: a rendszer valós világbeli adathalmazok (Google Street View, térképi adatok, stb.) keverésével hoz létre hiteles, méretarányos környezeteket — például egy arizonai autópályát vagy egy párizsi gyalogátkelőt. A fejlesztők nyelvi promptokkal valós időben módosíthatják a helyszínt (például délutáni forgalom hozzáadása), és a rendszer valós idejű forgalmi adatokra is támaszkodik olyan szolgáltatóktól, mint a TomTom.

A szimulációban nemcsak a fizikai terep, hanem a többi szereplő viselkedése is modellezve van. Egy bemutató során a Laplace által vezérelt tesztautó szándékosan áthúzódott a szembejövő forgalomba; a másik jármű a szimulációban kitért, elkerülve az ütközést, miközben ez sok generatív világszemléletnél nem automatikus viselkedés.

Az AI red team szerepe és a sarkesetek generálása

A Laplace egyik kulcspontja az a AI-ügynök, amely automatikusan tervezi meg az úgynevezett corner case-eket — ritka, nehezen modellezhető helyzeteket, amelyek megbéníthatják vagy hibára késztethetik a fizikai AI-t. Ezeket a forgatókönyveket a rendszer képes hírekből, rendőrségi jegyzőkönyvekből és egyéb forrásokból létrehozni, és valósan interaktív résztvevőként futtatni a szimulációban.

Sun szerint a jelenlegi iparági gyakorlat gyakran rögzített felvételekre alapuló szimulációkat vagy emberi kreativitást használ az edge-case-ek tervezésére. Laplace megközelítése az automatizálás felé viszi a folyamatot, ami különösen fontos lesz, amikor általánosabb feladatokra szánt robotokat kezdenek telepíteni a való életben.

Ügyfelek, bevétel és pilot projektek

A Laplace már most bevételt termel, és szerény nyereséget is elérnek — javarészt önvezető járművel kapcsolatos ügyfelektől. Ismert megrendelők közé tartozik a texasi Bot Auto (autonom teherautó cég) és egy nagy japán autógyártó. A startup emellett együttműködik az Nvidia-val és a T-Mobile-lal egy San Jose-i okosvárosi, díjmentes piloton, amely a forgalmi működés magasabb szintű kezelését célozza. A Laplace emellett korai együttműködésekben vesz részt raktári humanoid robotokat fejlesztő partnerekkel.

Jelenleg a legtöbb szerződés projektalapú; a cég célja, hogy ezeket visszatérő bevételekké alakítsa, és a növekedés érdekében tőkét gyűjtsön.

Versenytársak és pozíció a piacon

A legnagyobb versenytársak közé tartozik az Applied Intuition, amely eddig mintegy 1,2 milliárd dollár tőkét gyűjtött, és körülbelül 15 milliárd dollárra értékelik. Sun szerint azonban a Laplace által alkalmazott módszertan — AI használata AI tesztelésére — paradigmaváltást jelenthet a fizikai AI tesztelésében, egy dinamikus, interaktív folyamatot kialakítva, amely hosszú távon védőgátat (moat) biztosíthat a vállalatnak.

Mire számíthatunk tovább?

Laplace a TechCrunch Disrupt rendezvényen vesz részt, ahol a Startup Battlefield 200 verseny résztvevőjeként mutatkozik be. A Disrupt San Francisco esemény 2024. október 13. és 15. között zajlik; a Laplace a Disrupt Stage-en 2024. október 13-án, kedden délután tartja előadását.

A cég további célja, hogy tőkeemeléssel és skálázással erősítse piaci jelenlétét, és versenyképes maradjon a gyorsan fejlődő autonóm rendszerek tesztelési piacán.

Frissítés: a cikk frissítve lett, hogy tisztázza a Laplace és az Nvidia kapcsolatát.