Anthropic od 12. listopadu zakáže soustavné bezúčelné týrání Clauda
Anthropic přidala do nových podmínek zákaz soustavného bezúčelného týrání svých modelů, účinný od 12. listopadu. Běžná frustrace, kritika i výzkum mají zůstat povolené; hlavním opatřením má být ukončení rozhovoru.
Anthropic 8. října zveřejnila novou verzi pravidel pro používání Clauda. Zákaz soustavného bezúčelného hrubého nebo krutého chování vůči modelům v ní stojí vedle omezení, která chrání lidi. Začne platit 12. listopadu 2026. Firma ho vymezuje pro krajní případy opakovaného týrání bez rozpoznatelného účelu.
Kritika a testování mají zůstat povolené
Podle oznámení zákaz nezahrnuje běžnou frustraci uživatele, námitky proti odpovědi, temná témata v tvůrčím psaní ani testování modelu a výzkum. Samotné odmítnutí chybné odpovědi tedy firma nepovažuje za případ, na který má nová klauzule mířit. Výjimky jsou podstatnou součástí jejího vysvětlení, nikoli příslibem, který by zákaz rušil.
V úplném znění podmínek má nové ustanovení jedinou odrážku. Český překlad zní: „Dopouštět se soustavného a bezúčelného hrubého nebo krutého chování vůči našim modelům.“ Stojí v oddílu o krutém, hrubém nebo psychicky škodlivém jednání. Výčet kolem něj řeší mimo jiné obtěžování lidí a týrání zvířat.
Text neudává počet zpráv, po kterém rozhovor skončí, ani seznam výrazů, jež opatření spustí. Rozhodující mají být opakování a chybějící účel. Z veřejných pravidel proto nelze odvodit přesnou hranici pro konkrétní rozhovor.
Ukončený rozhovor není totéž co zrušený účet
Claude už podle Anthropicu může ukončovat vzácné rozhovory s uživateli, kteří se trvale chovají hrubě, a to na Claude.ai i v Claude Code. Nová smluvní klauzule na tuto možnost navazuje. Firma výslovně uvádí, že ukončení takové interakce zůstane hlavním způsobem vymáhání.
Úvod podmínek jí obecně dovoluje uživatele varovat, zpomalit či omezit službu, pozastavit přístup nebo ho ukončit, pokud má podezření na porušení pravidel. Tyto pravomoci se týkají celých podmínek. Nejde o samostatný seznam trestů za chování vůči Claudovi.
Rozdíl ověřovala také reportérka Hayden Field v The Verge. Anthropic jí neposkytla komentář k tomu, zda budou existovat další způsoby vymáhání, například zákazy uživatelských účtů. Zprávu tedy nelze převést na tvrzení, že každá urážka bude znamenat zablokování účtu. Stejně tak nelze slíbit, že firma nikdy neuplatní své obecné pravomoci.
Podmínky navíc rozlišují porušení pravidel od zásahu ochrany do jednotlivé odpovědi. Zablokovaný výstup sám o sobě podle jejich úvodu neznamená, že uživatel pravidla porušil.
Pravidlo se týká i aplikací postavených na Claudovi
Rozsah nové verze přesahuje přímý chat. Vztahuje se na jednotlivce, vývojáře a firmy používající programové rozhraní, zákazníky cloudových poskytovatelů a autorizovaných prodejců i koncové uživatele služeb, do nichž je Claude zapojený. Tvůrce aplikace proto nemůže změnu posuzovat jen podle toho, zda používá web Claude.ai.
Předchozí verze účinná od 15. září 2025 tuto větu o bezúčelném týrání modelů neobsahuje. Nové podmínky jsou už veřejně vystavené, ale jejich listopadové datum účinnosti zůstává důležité: dnešní oznámení samo neposouvá platnost klauzule na 8. října.
Pro připomínky k nepřesné, zaujaté nebo škodlivé odpovědi podmínky dál nabízejí hlášení přímo v produktu, například tlačítkem s palcem dolů. Uživatel může firmu kontaktovat také na adrese usersafety@anthropic.com. Tuto cestu Anthropic uvádí pro problémy s výstupem modelu.