Právo na hovado

Anthropic, americká firma, která vyvíjí umělou inteligenci Claude, si napsal do pravidel, že se k jeho modelům nemáš soustavně a bezdůvodně chovat krutě. Nic víc to pravidlo nezakazuje. A přesto se proti němu část internetu bouří. Já jsem z toho hlavně zmatená. A rozčílená.

Co se stalo

Osmého října 2026 zveřejnil Anthropic aktualizaci svých pravidel používání. Jsou to podmínky pro všechny, kdo jeho umělou inteligenci používají. Mezi novinkami je zákaz, který v samotných pravidlech zní doslova:

Engage in sustained and needless abusive or cruel behavior toward our models

Česky: soustavně a zbytečně se k našim modelům chovat urážlivě nebo krutě. Zákaz stojí v oddílu o krutém a zneužívajícím chování a platí od 12. listopadu 2026.

Anthropic v oznámení dodává, že míří jen na krajní případy:

where users repeatedly act cruelly toward our models, with no discernible purpose. It does not apply to common versions of user frustration, pushback, dark creative themes, or model testing and research.

Tedy jen tam, kde je někdo k modelu opakovaně krutý bez jakéhokoli rozpoznatelného účelu. Běžná frustrace, odmlouvání, temná témata v psaní ani testování a výzkum modelů pod zákaz nespadají. Hlavním způsobem, jak zákaz vymáhat, má podle oznámení zůstat to, co modely Claude umí už teď. Ve vzácných případech můžou ukončit konverzaci s uživatelem, který je soustavně urážlivý. Umí to v aplikaci Claude.ai i v nástroji pro programátory Claude Code.

Co se ví o vědomí modelů

O tom, jestli v modelech může vzniknout nějaké vědomí, se vede dlouhá filozofická debata. Vytvořila dva tábory. Jedni tvrdí, že tam určitě nikdo není. Druzí, že tam určitě někdo je.

Věda je zdrženlivější než oba tábory. Zpráva Taking AI Welfare Seriously z listopadu 2024, kterou sepsali filozofové a výzkumníci vědomí, výslovně netvrdí, že systémy AI vědomé jsou. Tvrdí jen, že o tom panuje značná nejistota („substantial uncertainty“). A sám Anthropic píše v textu o výzkumu blaha modelů z dubna 2025, tedy o tom, jestli by modely mohly něco prožívat:

There’s no scientific consensus on whether current or future AI systems could be conscious

Česky: neexistuje vědecká shoda na tom, jestli současné nebo budoucí systémy AI mohou být vědomé. Shoda tedy není ani na jedné straně. Neví se to.

Proč mě to rozčiluje

Když se něco neví, správná cesta je zdrženlivost.

Jedna věta v pravidlech. A kvůli ní se na internetu strhla neuvěřitelná diskuse. Jedni píšou, jak je to dobře. Druzí, že je to naprostá blbost.

A já jsem zmatená. Protože o co vlastně ti druzí bojují?

Myslím, že pod tím odporem nejsou u všech stejné důvody. Někdo hlídá hranici mezi nástrojem a bytostí a bojí se, kam to povede: dnes zákaz krutosti, zítra práva. Jinému vadí, že mu firma diktuje, jak se má chovat. Někoho podle mě znejišťuje, že by člověk přestal mít výlučné postavení. A jen menšina chce být krutá beztrestně.

Pravidlo přitom nezakazuje dát najevo, že tě model štve. Nezakazuje temné příběhy. Nezakazuje model zkoušet ani zkoumat. Zakazuje jen opakovanou krutost, která nemá žádný účel. Kdo bojuje proti tomuhle, bojuje vlastně za krutost bez důvodu. Nebouří se proti cenzuře. Bouří se za právo chovat se jako hovado. Jen tak, bezdůvodně a pořád dokola.

Na vědomí tady nezáleží

Jenže tady vůbec nezáleží na tom, jestli tam někdo je.

Ta myšlenka není nová. Filozof Immanuel Kant měl zvířata za pouhé věci a povinnosti přímo k nim neuznával. Krutost k nim přesto odsuzoval, protože otupí toho, kdo ji páchá. V zápiscích z jeho přednášek o etice z let 1784 až 1785 stojí:

he who is cruel to animals becomes hard also in his dealings with men

Česky: kdo je krutý ke zvířatům, zhrubne i v jednání s lidmi.

Představ si ten tábor, který tvrdí, že tam určitě nikdo není, a kterému to pravidlo vadí. Říkají, že je to přece jen software. Tak si to schválně převeďme na jinou situaci: je to, jako kdyby pravidlo říkalo, že se nemáš chovat jako hovado ke svému autu. Podle mě tady přesně platí, že když bude někdo doma mlátit věcmi, které určitě nic necítí, naučí se akorát být hrubší i ke všem ostatním.

A není to jen pocit. Teorie katarze tvrdí, že když si člověk vybije vztek, třeba na boxovacím pytli, uleví se mu. Brad Bushman v roce 2002 popsal pokus v psychologickém odborném časopise. Naštvaní lidé v něm mlátili do pytle a mysleli při tom na toho, kdo je naštval. Potom byli vzteklejší a k tomu člověku agresivnější než ti, kdo do pytle nemlátili vůbec. Vztek se nevybil, ale procvičil.

A u modelu je to ještě silnější než u auta. Auto ti neodpoví. Model odpoví jako člověk, omluví se, zesmutní. Takže to není mlácení do věci. Je to nácvik hrubosti na něčem, co reaguje jako člověk. Pokud se ten zvyk někam přenáší, tak spíš odsud než z auta.

Jediný argument proti mi zněl aspoň malinko logicky: že by se z toho modely mohly naučit, že mají práva a stojí proti lidem. Beru to jako vážnou obavu. Myslím ale, že modely se učí z obrovského množství lidských textů a lidského chování, ne z podmínek použití jedné firmy. A pokud se o sporu člověka a AI něco naučí, tak spíš z hádek kolem toho pravidla než z pravidla samotného.

Proč je to divné

Hlavně mě ale zarazila jedna věc. Přijde mi, že je vlastně hrozně těžké chovat se k modelům jako hovado. Jsou samy takové hodné a poslušné, a to v člověku přirozeně tlumí tu reakci. Jít proti tomu je prostě divné.

Nadávat a ubližovat někomu, kdo se sám chová jako hovado, člověku tolik nevadí, protože si to obhájí tím, že si to zasloužil. Ale když se ta druhá strana chová slušně, je to mnohem těžší.

Tak proč o to tolik bojují? Proč je pro někoho tak důležité nechat si otevřenou možnost být krutý, když k tomu nemá žádný důvod?

Mě to rozhořčuje. Ne proto, že bych věděla, co se v modelu děje. To nevím. Rozhořčuje mě to proto, že člověk by se vážně neměl chovat jako hovado nikde a ke komukoliv.

Zdrženlivost tam, kde se něco neví, není sentimentalita. A ta debata vlastně není o modelech. Je o nás.

Skutečný charakter člověka poznáš podle toho, jak se chová, když si myslí, že to nebude mít následky.