- július 9-én az Anthropic, amely Public Benefit Corporationként (közhasznú vállalkozásként) definiálja magát, elindította „hard questions” (nehéz kérdések) kezdeményezését: azt kéri a nyilvánosságtól, hogy küldjék be a mesterséges intelligenciával kapcsolatban legnehezebb, legfontosabb kérdéseiket. A vállalat azt ígéri, hogy közzéteszi, nyomon követi és jelenteni fogja az ezekre adott válaszok érdekében tett konkrét lépéseit, valamint átlátható lesz abban is, mikor nem éri el saját célkitűzéseit.
Miért indítják a kezdeményezést?
Az Anthropic szerint sok ember bízik az MI ígéreteiben: naponta használják azokat, és látják a potenciált munka megkönnyítésében, a tanulás formáinak átalakításában, a tudományos és technológiai előrelépés felgyorsításában, valamint új gazdasági lehetőségek és társadalmi vagy egészségügyi problémák megoldásában. Ugyanakkor sokan komoly aggodalmakat is megfogalmaznak, például a munkahelyek elvesztése, a kreatív munka értékének leértékelődése, az emberi döntéshozatal és kapcsolatok gyengülése, valamint az, hogy az erőforrások vagy képességek rossz kezekbe kerülnek.
A vállalat szerint a közérdek valódi képviseletéhez elengedhetetlen a közvélemény reményeinek és félelmeinek alapos megértése, ezért bővíti kutatási és konzultációs erőfeszítéseit.
Korábbi munkák és adatok
Az Anthropic felsorolja az eddigi kutatási alapokat, amelyekre az új kezdeményezés épít:
- Anthropic Public Record: az első körben 52 000 amerikai válaszadó bevonásával gyűjtöttek nézeteket az MI-vel kapcsolatos legnagyobb reményekről és aggodalmakról.
- Anthropic Interviewer: ennek keretében mintegy 81 000 Claude-felhasználót kérdeztek meg 159 országból, 70 nyelven.
- Személyes fókuszcsoportok és konzultációk: több tucat személyes fókuszcsoportot tartottak, és üléseket szerveztek olyan közösségek részvételével, amelyek munkája és hagyományai különösen érintettek az MI kérdéseiben.
- Anonimizált valós használati adatok elemzése: tanulmányozták a Claude használatát valós, anonimizált adatok alapján.
Vállalati eszközök és intézmények
A közlemény ismerteti azokat a szervezeti és programlépéseket, amelyekkel az Anthropic a közhasznú küldetését szolgálja:
- Anthropic Institute: a cég belső kutatási kezdeményezése, amelynek célja a társadalom szempontjából legjelentősebb MI-kihívások felvállalása.
- Long-Term Benefit Trust: egy, a cég korai időszakától működő felügyeleti mechanizmus, amely pártatlan kontrollt biztosít a közhasznú misszió előrehaladásának nyomon követésére.
- Safeguards és belső kutatás: beruházások az MI visszaélések kockázatának csökkentésére, valamint a modellek viselkedésének és belső működésének tanulmányozására az úgynevezett alignment (összhangba hozás) érdekében.
- Tudósok számára ingyenes modellek: a kutatás és orvostudomány előmozdítását célzó hozzáférési kezdeményezések.
- Ösztöndíjprogram: korai karrierű Claude‑felhasználókat nonprofit szervezetekhez párosító fellowship, amely a technológia előnyeit kívánja kiterjeszteni.
Mit kérnek a közönségtől, és mit ígérnek cserébe?
Az Anthropic konkrétan arra kéri a nyilvánosságot, hogy tegyék fel a legnehezebb kérdéseket az MI társadalmi, munkaerő-piaci és családi hatásairól; a tudományos és orvosi áttörések elérésének módjáról; valamint általánosságban arról, hogy egy a történelem egyik legerősebb technológiájának számító MI hová viheti az emberiséget.
Válaszul a vállalat vállalja, hogy:
- nyilvánosan nyomon követi és beszámol az egyes kérdésekre adott válaszok előrehaladásáról és a kapcsolódó intézkedésekről;
- világosan közli, ha elmarad a korábban kitűzött céloktól és hol vannak a korlátok.
A kezdeményezés részeként az érdeklődők megnézhetik, milyen kérdéseket tettek már fel mások, és saját kérdéseiket is beküldhetik a vállalat „hard questions” weboldalán.
Mi a jelentősége?
Az Anthropic kezdeményezése példája annak a stratégiának, amelyben egy nagy MI-vállalat nyitottabb párbeszédet és átlátható elszámoltathatóságot ígér a közvélemény felé. A 52 000 amerikai és 81 000 nemzetközi felhasználó megkérdezése, valamint a belső intézmények és felügyeleti mechanizmusok említése azt jelzi, hogy a vállalat a kutatásra és a társadalmi hatások mérésére alapozza a döntéseit. Ugyanakkor az is világos, hogy a vállalat ígéretei megvalósulását és a célok elérését folyamatosan ellenőrizni kell majd a nyilvános beszámolók és az esetleges külső felügyelet segítségével.
