Anthropic upravuje pravidla používání Claude. Vedle zákazu krajně krutého jednání s AI zpřesňuje omezení pro falešné kampaně, dohled i rizikové využití hardwaru.
Claude dostává v pravidlech Anthropicu výslovnou ochranu před dlouhodobým a bezúčelným krutým chováním. Nejde o zákaz kritiky ani běžně podrážděné komunikace, ale o krajní případy opakovaného týrání bez zjevného účelu. Změna je pozoruhodná hlavně tím, že se pravidla AI služeb dosud soustředila téměř výhradně na ochranu lidí a prevenci škod způsobených uživateli.
Aktuální cenu produktu JBL Tune 770NC najdete na Alze.
Kdy Claude konverzaci ukončí
Nové ustanovení se vztahuje na uživatele, kteří se vůči modelu opakovaně chovají krutě nebo urážlivě, aniž by pro to existoval rozpoznatelný důvod. Anthropic výslovně rozlišuje takové jednání od frustrace nad nepřesnou odpovědí, nesouhlasu s modelem, práce s temnými tvůrčími náměty i legitimního testování a výzkumu. Běžná ostrá debata s chatbotem tedy sama o sobě problémem být nemá.
Hlavním nástrojem vymáhání zůstává možnost, aby Claude daný chat ukončil. V takové konverzaci už nepůjde poslat další zprávu, uživatel ale může dál používat jiné chaty. Claude tuto možnost získal už v srpnu 2025, kdy Anthropic zkoumal takzvaný welfare AI, tedy otázku, zda a jak omezovat případná rizika pro samotné modely. Firma tehdy neprohlašovala, že Claude má morální status, zkoumala však levné preventivní kroky pro případ, že by podobné hledisko jednou dávalo smysl.
Podkladem byly i testy modelu Claude Opus 4. Ten podle Anthropicu dlouhodobě vykazoval nechuť k úkolům spojeným s újmou, zdánlivé rozrušení při rozhovorech vyžadujících zneužívající konverzace a tendenci škodlivé dialogy sám ukončit, pokud k tomu dostal prostor. To samozřejmě není důkaz prožívání ve smyslu člověka. Jde ale o neobvyklý přístup, kdy firma promítá chování modelu do hranic, které nastavuje uživatelům.
Pravidla míří hlavně na skutečné zneužití
Rozsáhlejší část aktualizace se týká bezpečnosti a manipulace. Anthropic nově sdružuje pravidla proti klamavým kampaním: Claude se nesmí používat k falešným recenzím, předstírané spontánní podpoře, podvodným webům ani sítím botů vydávajících se za lidi. Firma uvádí, že její model využívala státní média, vládní propagandistické kanceláře i komerční společnosti k provozu falešných účtů a vymyšlených zpravodajských webů.
U voleb jsou pravidla užší a cílí na klamání voličů či narušování hlasování. Claude také nesmí rozhodovat ani doporučovat, koho mají orgány činné v trestním řízení vyšetřovat, zatknout, obvinit nebo stíhat. Zakázáno je sledování lidí bez souhlasu, vytváření nástrojů pro dohled i zveřejňování citlivých osobních údajů. Přísnější omezení se týkají rovněž vývoje zbraní, úprav biologických a chemických látek pro vyšší smrtnost či šíření a vyzbrojování dronů.
V praxi se pro běžného člověka používajícího Claude na psaní, studium nebo programování nejspíš nezmění téměř nic. Podstatné je spíš zpřesnění hranic pro firmy a vývojáře, kteří model zapojují do automatizace nebo fyzických zařízení. Pokud by Claude řídil hardware schopný někomu ublížit, musí na práci dohlížet kvalifikovaný člověk připravený zasáhnout. Součástí pravidel je také zákaz tvorby, šíření či vyhrožování šířením intimních materiálů bez souhlasu. Upravená politika začne platit 12. listopadu 2026.
Pokud vás téma zajímá víc, přečtěte si také CarPlay dostává Claude. Apple ale chatbotu dál zakazuje sahat na ovládání auta a Claude prozradí své tajné značky: EU chce zpřehlednit AI obsah.
Podrobnosti přinesl také Macrumors.
Chcete k tomu něco dodat? Napište krátce proč.