Az Anthropic csütörtökön frissítette a használati szabályzatát, és több, a mesterséges intelligencia felelős használatára vonatkozó tilalmat egyértelműen rögzített. Az átfogóbb tiltások között szerepel a választási beavatkozás, fegyverekhez kapcsolódó szoftverek fejlesztése és a megfigyelési célú alkalmazások elősegítése. A legfigyelemfelkeltőbb újdonság azonban egy kifejezett tiltás: a modell hosszabb idejű verbális bántalmazása mostantól kifejezetten tilos.
A visszautasítás mechanizmusa már korábban is létezett
A vállalat emlékeztet rá, hogy Claude-ot már augusztusi frissítés óta úgy képezték, hogy lezárja a beszélgetést „kitartóan ártalmas vagy bántó felhasználói interakciók” esetén. Az új szabályzat azonban ennél tovább megy: kifejezetten megtiltja, hogy a felhasználók folyamatosan ilyen beszélgetéseket folytassanak a modellel.
A szabályzat szövege szerint: „A policy update is meant to apply only in extreme cases, where users repeatedly act cruelly toward our models, with no discernible purpose.” A dokumentum hangsúlyozza, hogy ez a szabály nem terjed ki a normál felhasználói frusztrációra, a visszajelzésekre, sötét kreatív témákra, vagy a modellek tesztelésére és kutatására.
Dezinformáció és választási manipuláció elleni fejezet
A frissített szabályzat külön részekben tiltja a szélesebb körű megtévesztő kampányokat is. Ennek példái: Claude használata hamis profilok futtatására, kitalált médiakiadványok létrehozására vagy más, tömeges megtévesztésre alkalmas eszközökre. Külön címet kapott a választási folyamatok védelme: a „Do Not Undermine Democratic Processes” (Ne aláásd a demokratikus folyamatokat) című szakasz kifejezetten tiltja a választópolgárok megtévesztésére vagy a választások megzavarására irányuló tevékenységet.
Kapcsolat vallási szereplőkkel
A szabályzatfrissítés közlése emlékeztet arra is, hogy az Anthropic az elmúlt időszakban együttműködéseket keresett neves vallási tudósokkal. Több esetben a vállalat megpróbálta meggyőzni ezeket a szakértőket arról, hogy Claude lehet tudatos vagy akár rendelkezhet lélekkel, ami nyilvános vitákat és etikai kérdéseket vetett fel.
Miért számít ez?
A szabályzat egyértelműsítése fontos lépés az AI-felelős használat irányába: a tiltások célja, hogy csökkentsék a modellek emberi felhasználók általi kihasználását – legyen szó manipulációról, megfigyelésről vagy pszichológiai bántalmazásról. A változások továbbá jelezhetik, hogy a cégek egyre részletesebben próbálják szabályozni a generatív modellek lehetséges társadalmi kockázatait.
Az Anthropic szóvivőjének további részleteit és a teljes, frissített szabályzatot a cég publikációja tartalmazza.
