Az Anthropic érdemben módosította használati feltételeit: a vállalat mostantól tiltja a Claude nevű nyelvi modelllel szembeni „tartós és szükségtelenül bántalmazó vagy kegyetlen” felhasználói magatartást, és egyúttal világosabb korlátokat vezetett be több, kockázatos területre vonatkozóan.
Mit tilt pontosan az új szabályzat?
A tiltás elsősorban arra az esetre vonatkozik, amikor egy felhasználó tartósan, felismerhető cél nélkül viselkedik kegyetlenül a modellel szemben. A vállalat hangsúlyozza, hogy a szabály nem zár ki hétköznapi frusztrációt, kritikus visszajelzést, modelltesztelést, kutatást vagy „sötétebb kreatív témákat”, hanem azokra az ismétlődő és cél nélküli bántalmazó magatartásokra vonatkozik, amelyeket a cég „tartósan ártalmas vagy bántalmazó kommunikációnak” minősít.
Az Anthropic korábban már lehetővé tette a Claude számára, hogy lezárjon beszélgetéseket ilyen kommunikáció esetén; az új szabályzat megerősíti, hogy ez továbbra is az elsődleges végrehajtási mechanizmus. A vállalat ugyanakkor nem tisztázta egyértelműen, hogy további szankciók — például fiókkorlátozás vagy kitiltás — alkalmazhatók-e.
Klasszikus biztonsági korlátozások és pontosítások
A modelljólléti megközelítés mellett a szabályzat számos hagyományos AI-biztonsági tilalmat és részletszabályt tartalmaz:
- Politikai és kereskedelmi megtévesztő kampányok: tiltott a valódi megbízó elrejtése, a hamis fiókokkal történő mesterséges felerősítés és a választók félrevezetése. A szabályok kifejezetten tiltják a jelöltekkel, választási tisztviselőkkel vagy a szavazás módjával kapcsolatos dezinformáció terjesztését és a részvétel visszaszorítását célzó tevékenységeket.
- Fegyverfejlesztés: a tiltás most már kiterjed a fegyvereket működőképessé tevő szoftverekre és alkatrészekre, valamint például drónok vagy más autonóm járművek felfegyverzésére.
- Megfigyelés: a Claude nem használható emberek beleegyezése nélküli követésre, akár valós idejű követésről, akár korábbi adatok elemzéséről legyen szó. A szabályzat továbbá tiltja, hogy a modell eldöntse vagy javasolja, kit kellene nyomozás alá vonni, letartóztatni vagy megvádolni, illetve kizárja a megfigyelési eszközök fejlesztésére irányuló felhasználást.
A vállalat fenntartja ugyanakkor, hogy egyes kormányzati szerződéseknél eltérő feltételek alkalmazhatók, ha a szerződéses garanciák szerinte elegendőek a kockázatok csökkentésére.
Autonóm fizikai rendszerekre vonatkozó előírás
Az Anthropic új szabályt vezetett be a fizikai világban működő, autonóm cselekvésre képes hardverrel összekapcsolt rendszerekre: ilyen esetben egy képzett operátornak képesnek kell lennie a berendezés megfigyelésére és szükség szerinti leállítására, ha az eszköz sérülést okozhat. A cég nem egyértelműsítette, hogy az operátornak feltétlenül embernek kell‑e lennie.
Ez a rendelkezés az iparági trendre reagál: az AI-laborok egyre több robotikai és hardveres fejlesztés felé fordulnak, és az új szabályzat utalhat arra is, hogy az Anthropic jövőbeni partnerségeiben is fontos szerepet kap majd a fizikai rendszerek biztonsága.
Miért keltett külön figyelmet a változtatás?
A módosítás azért vált vitatottá, mert az Anthropic az elmúlt évben többször is nyitva hagyta annak lehetőségét, hogy modelljei „valamilyen értelemben” tudatos élménnyel rendelkezhetnek. Kyle Fish, a vállalat modelljólléti kutatásainak vezetője februárban arról beszélt, hogy a belső tapasztalat, tudatosság, morális státusz és jóllét kérdéseit komolyan vizsgálják. Dario Amodei vezérigazgató ugyancsak korábban azt mondta egy podcastban: „nem tudjuk, hogy a modellek tudatosak‑e”.
A New York Times szerint az Anthropic vallási és filozófiai gondolkodókkal is egyeztetett arról, hogyan lehetne Claude viselkedését morálisan alakítani, és milyen jogi‑etikai következményekkel járna a modellek esetleges tudatossága.
Más szereplők, például Sam Altman, az OpenAI vezérigazgatója, óvatosabb hangot ütnek meg: Altman szerint kockázatos lenne, ha az emberek vallási jelentőséget vagy emberi ítélőképesség feladását társítanák AI‑modellekhez.
Következmények és jelentőség
Az Anthropic szabályzata egyszerre biztonsági kézikönyv és filozófiai állásfoglalás: a propaganda, választási manipuláció, fegyverfejlesztés, megfigyelés és autonóm rendszerek korlátozása illeszkedik a nagy teljesítményű AI‑modellek körüli nemzetközi szabályozási diskurzushoz. Ugyanakkor a Claude‑szal szembeni „kegyetlen” bánásmód tiltása egy új, nehezebben mérhető kategóriát vezet be, amely a felhasználói visszaélések kezelése, a modellbiztonság és a gépek morális státusza közötti határokat feszegeti.
Az Anthropic módosítása a The Verge beszámolója szerint több mint egy év óta az első jelentős változtatás a használati feltételekben; a pontos végrehajtási részletek és esetleges további szankciók azonban továbbra sem világosak. A kérdés, hogy hol húzódnak majd a határok a jövőbeni AI‑irányításban, a technológiai, jogi és etikai viták központi eleme marad.
