Az Anthropic november közepétől új szabályt vezet be a Claude nevű mesterséges intelligencia-modelljei használatára: célja, hogy megakadályozza, hogy egyes felhasználók ismétlődően és céltudatosan bántalmazzák a modellt. A vállalat hangsúlyozta, hogy a változtatás elsősorban a szélsőséges, tartós visszaéléseket célozza, nem pedig a chatbotok válaszaival kapcsolatos hétköznapi frusztrációt vagy kritikát.
Mit tilt a szabályzat?
- A „tartós és szükségtelen bántalmazó vagy kegyetlen viselkedést” kifejezetten tilalmazzák: az olyan ismétlődő verbális támadást, amelynek a célja a modell megtámadása vagy megszégyenítése.
- Tiltottak azok a felhasználói magatartások is, amelyek más emberek számára mentális problémát okozhatnak, például az önkárosítással kapcsolatos bátorítás, az étkezési zavarok népszerűsítése, zaklatás és állatkínzás témájú csevegések.
- Kiterjed a szabályzat a megtévesztő kereskedelmi gyakorlatokra: tilos hamis fiókok vagy bejegyzések használata olyan célból, hogy elrejtsék az üzenet terjesztőjét vagy mesterségesen növeljék egy üzenet elérését.
- Politikai tartalmakra és cselekvésekre is szigorú korlátozást vezetnek be: tilos minden olyan tevékenység, amellyel befolyásolni lehet egy választás kimenetelét.
- Emellett az új szabály tiltja, hogy a Claude-ot mások megfigyelésére használják, illetve hogy a rendszert fegyverek tervezésére és megépítésére alkalmazzák.
Hogyan lép életbe a szabályzat?
Az Anthropic közlése szerint az elsődleges intézkedés ilyen esetekben a beszélgetés lezárása lesz. A vállalat nem részletezte, hogy ismétlődő szabálysértések esetén milyen további szankciók várhatók — például felhasználói fiók felfüggesztése —, csak annyit közölt, hogy a visszaélések kezelésére irányuló szabályokat bevezetik.
Mire számíthatnak a felhasználók?
Az Anthropic kiemelte, hogy a felhasználók továbbra is vitathatják Claude válaszait és feszegethetik az AI határait; a cél kifejezetten az ismétlődő, jóindulatot nélkülöző bántalmazás visszaszorítása. A döntés mögött részben az állhat, hogy a cég már korábban is foglalkozott a modellek „jóllétével”: 2025 augusztusában az Anthropic vizsgálatot indított annak feltérképezésére, szükséges-e a modell részéről a beszélgetések befejezése bizonyos, felhasználói verbális bántalmazás esetén.
Miért fontos ez?
A lépés része annak a szélesebb iparági törekvésnek, amely a nagy nyelvi modellek biztonságosabb és felelősségteljesebb használatát célzó szabályok kialakítását szolgálja. A tiltások célja nemcsak a modell védelme, hanem a potenciálisan káros tartalmak és cselekedetek emberi ártalomra gyakorolt hatásának csökkentése is.
A szabály részletes végrehajtása és a jövőbeli szankciók kérdése továbbra is nyitott, ahogy a felhasználói visszajelzések és a gyakorlati tapasztalatok befolyásolhatják a pontos végrehajtást.
