A robotika egyik meghatározó trendje, hogy a vezérlést egyre gyakrabban generatív mesterséges intelligencia modellekre bízzák. Ez azonban új kihívást hoz: az ilyen architektúrák nem olyan kiszámíthatóak, mint a hagyományos algoritmusok, ezért nehezebb garanciát adni arra, hogy egy új humanoid robot biztonságosan fog viselkedni.
Dr. Ding Zhao, a Carnegie Mellon Egyetem Safe AI laboratóriumának vezetője, pályafutása nagy részében ezzel a problémával foglalkozott. Most Kyle Wong startupperedő és Simo Rachidi gépi tanulási mérnök mellett társalapítóként létrehozta a Safeworld nevű céget, amelynek célja éppen e kihívás kezelése.
„A biztonsági kihívás egyrészt a nagyon fejlett generatív MI-ből adódó, valószínűségi értékelések aláírása — hogyan vállaljuk a kockázatot egy valószínűségi rendszer esetén?” mondja Zhao. „A második, nagyon nehéz rész a bizalom kérdése, és mindkettőre szükség van ahhoz, hogy egy robotot telepíteni lehessen.”
Safeworld ma lép ki a „stealth” üzemmódból egy több mint 12 millió dolláros seed befektetéssel, amelyet a Shine Capital és az a16z Speedrun vezetett, további befektetők között szerepel a Box Group, a Carnegie Mellon University Endowment, az Innovation Endeavors és az SV Angel.
„Most van itt az idő iparági biztonsági szabványokat építeni, míg a robotokat még tervezik és telepítik” — mondta Jonathan Lai, az a16z Speedrun partnere egy TechCrunch-interjúban. „Ha már akkor lesznek otthonokban robotok, amelyek gyerekekkel ütköznek és baleseteket okoznak, az már túl késő.”
Szimulációk emberi modellekkel
A Safeworld fő tevékenysége az, hogy egy robotvezérlő rendszert olyan szimulációkban értékel, amelyeket valósághű emberi modellekkel töltenek fel. Ez hasonló kihívás, amellyel autonóm járművek fejlesztői — például a Tesla vagy a Wayve — szembesülnek: biztosítaniuk kell, hogy a rendszer megfelelően reagáljon a váratlan eseményekre. Zhao szerint a robotok esetében ez még nehezebb, mivel robotok gyakran strukturálatlan környezetben dolgoznak, és egy-egy létesítmény eltérő biztonsági követelményekkel bírhat.
„Az egyik leggyakoribb példa, ha egy gyárban van egy vak sarok” — mondja Kyle Wong. „Mekkora sebességre vagy megállási távolságra van szükség ahhoz, hogy a robot ne ütközzön egy adott emberrel? Ha az ember dobozokat visz, érzékeli-e a robot az embert vagy sem?”
A Safeworld digitális másolatot épít egy ilyen sarokról egy olyan modellező környezetben, mint a Genesis vagy a MuJoCo, beilleszti a vizsgált robotot, amelyet annak valódi szoftvere hajt, majd több ezer forgatókönyvet futtat le, ahol emberi modellek találkoznak a robottal. Zhao szerint ez nehezebb, mint elsőre tűnik, mert az emberek viselkedése kiszámíthatatlan.
„A botlás és elestés is jó példa, amellyel sok tesztet végzünk a szimulációban” — mondja Wong. „Ellenkező esetben folyton el kellene esnünk a robot előtt, ami nyilván nem kivitelezhető.”
Független ellenőrzés és iparági megosztás
A Safeworld platformja bizonyos szempontból hasonlít a robotépítők belső eszközeihez, ám az alapítók úgy vélik, hogy a gyártók igénylik majd egy harmadik fél független validációját — részben azért, hogy a versenytársak között megoszthassák a biztonsági esetekre vonatkozó ismereteket.
„Sokan alábecsülik, milyen nehéz lesz néhány szélső eset megoldása” — mondja Zhao. „Nem a bemutatótermi, vákuumban lévő robot az aggodalom tárgya. Az a robot, amelyet nagy léptékben telepítenek, és amelyet olyan emberek használnak, akik potenciálisan soha nem működtettek még robotot.”
Piaci partnerek és a gyakorlati igazolás szerepe
Gritt Robotics CTO-ja, Vishal Dugar, aki a vállalat MI-vezérlésén dolgozik — a cég jelenleg fotovoltaikus panelek telepítésében segítő robotjain dolgozik, és később összetettebb építési feladatokra törekszik — partnerségre lép a Safeworlddel a biztonsági szimulációk fejlesztésében.
„A legtöbb rendszerünknél nagyon nehéz matematikailag formálisan bizonyítani a biztonságot” — mondja Dugar. „Szükségszerűen empirikusan kell ezt megtenni.”
Gritt robotjai emberekkel együtt dolgoznak, és kulcsfontosságú, hogy a robotkar ne ütközzön a munkásokkal. Ennek gyakorlati igazolása számos lehetséges forgatókönyv figyelembevételét követeli meg: az ember testhelyzete, ruházata, magassága és mozgásai mind befolyásolják, hogyan kell a robotnak reagálnia.
„Az emberek megjelenése nagyon változatos lehet” — mutat rá Dugar. „Lehetnek térdelő állapotban, állva, botolhatnak és el is eshetnek, guggolhatnak vagy futhatnak. Ezekre a viselkedésekre kell megfelelően reagálni, és figyelembe venni a ruházat, testméret, magasság, bőrszín és más különbségek variációit.”
Korai fázis, termékmodell még kialakulóban
A Safeworld és a generatív MI robotikában rejlő alkalmazások még kezdeti szakaszban vannak. A cég egyelőre keresi a termékhez legmegfelelőbb üzleti modellt: egy külső felhasználók számára elérhető platformot vagy szolgáltatásalapú megközelítést. A csapat azonban bízik abban, hogy a felvetett problémára megfelelő megoldást kínálnak.
„Valószínűleg mi leszünk az első jövedelmező cég ezen a területen” — mondja Zhao. „Mert ha valaki telepíteni akar, fizetni fog nekünk, hogy kezeljük a helyzetet.”
(Összefoglalva: a Safeworld célja a generatív MI-vezérelt humanoid robotok biztonságának független, szimuláción alapuló igazolása; a startup több mint 12 millió dolláros seed befektetéssel lépett nyilvánosság elé, és iparági szereplőkkel, például a Gritt Robotics-szel működik együtt.)
