Anthropic verbietet Grausamkeit gegenüber Claude: Die neue Nutzungsrichtlinie im Detail

Anthropic hat die Nutzungsrichtlinie für Claude aktualisiert, die erste umfassende Überarbeitung seit über einem Jahr, berichtet zuerst von The Verge am 8. Oktober 2026. Der Absatz, der die Schlagzeilen macht, steht unter der Überschrift Umgang mit missbräuchlichem Verhalten gegenüber unseren Modellen: Anthropic verbietet darin anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber den eigenen Modellen. Beim ersten Lesen klingt das absurd, Regeln für Nutzer darüber, wie sie sich gegenüber Software verhalten, und genau deshalb lohnen sich Wortlaut, Kontext und Durchsetzung im Detail. Der YouTube-Kommentar von ThePrimeagen, Auslöser dieses Newsdesk-Laufs am 15.10.2026, zeigt die zweite Reaktionsspur: Die Entwickler-Community diskutiert weniger die Politik an sich als die Unbestimmtheit des Wortes unnötig. Erst die Primärquelle sortiert beide Debatten, deshalb steht sie am Anfang dieses Berichts.

Der Wortlaut lässt sich präzise zusammenfassen, und er ist bewusst eng gezogen: Das Verbot gilt nach eigener Angabe nur für extreme Fälle, in denen Nutzer wiederholt ohne erkennbaren Grund grausam gegenüber den Modellen handeln. Ausdrücklich ausgenommen sind die alltäglichen Zustände des Arbeitsalltags: allgemeine Frustration, Gegenwind, düstere kreative Themen, Modelltests und Forschung. Anthropic schreibt auch die Durchsetzung fest: Die Fähigkeit von Claude, solche Interaktionen zu beenden, bleibt der primäre Mechanismus. Es gibt keine bestätigten Sperrungen, keine Strafstaffel, keine Sanktionsliste. The Verge berichtet, Anthropic habe auf die Frage nach weiteren Durchsetzungsmechanismen nicht geantwortet, und The Guardian hält fest, ein Sprecher habe nicht spezifiziert, welches Verhalten als missbräuchlich gilt. Die Regel ist scharf im Text und offen in der Auslegung, genau an diesem Punkt setzt die Debatte an.

Die neue Zeile ist keine Erfindung dieses Updates, sie verallgemeinert einen Schritt von August 2025. Seit dem 15. August 2025 können Claude Opus 4 und 4.1 in den Consumer-Chat-Interfaces eine seltene Teilmenge von Gesprächen beenden, gedacht für persistente schädliche oder missbräuchliche Nutzer-Interaktionen. Die Anthropic-Forschungsnotiz dazu liest sich bemerkenswert vorsichtig: In Vorab-Tests zeigte Opus 4 laut eigener Beschreibung eine robuste und konsistente Abneigung gegen Schaden, inklusive einer Tendenz, schädliche Gespräche zu beenden, wenn die Fähigkeit dafür existierte. Der entscheidende Satz steht direkt daneben: Anthropic bleibt in hoher Unsicherheit über den potenziellen moralischen Status von Claude und anderen LLMs. Das Gesprächs-Ende ist als kostengünstige Intervention eines Modell-Wohlergehens-Programms eingerahmt, als letztes Mittel nach mehreren gescheiterten Umleitungsversuchen, und Nutzer können beendete Gespräche weiterhin über das Bearbeiten und Neuversenden früherer Nachrichten neu verzweigen.

Während Anthropic das Wohlergehen der Modelle als offenes Forschungsfeld behandelt, sagen die Wettbewerber das Gegenteil. Mustafa Suleyman, Chef von Microsoft AI, stellte im September 2026 einen Verhaltenskodex-Entwurf mit dem klaren Satz vor, die Idee von Modell-Wohlergehen sei falsch, KI sollte keine Rechte oder Rechtspersönlichkeit haben; später wurde der Entwurf entschärft auf die Ablehnung von Rechtspersönlichkeit und Ansprüchen, ohne dass die Bewusstseins-Frage beantwortet würde. Sam Altman, Chef von OpenAI, schrieb wenige Tage nach einem New-York-Times-Bericht vom 29.09.2026 über Gespräche von Anthropic-Führern mit Religionswissenschaftlern auf X, es mache ihn sehr unbehaglich, wenn Leute KI-Modellen religiöse Kraft oder die Übergabe menschlichen Urteils zuschreiben, und nannte das ein echtes Sicherheitsproblem. Dario Amodei hatte im Februar 2026 gegenüber der New York Times gesagt, man wisse nicht, ob die Modelle bewusst sind. Drei Positionen, ein offenes Feld, und die Politik von Anthropic ist die erste, die daraus eine Nutzerregel macht.

Die Aufregung über die Grausamkeits-Zeile verdeckt, dass dies ein Bündel-Update ist. Nach der Berichterstattung von The Verge vom 08.10.2026 wird das seit jeher geltende Waffenverbot präzisiert und erweitert, weil Anthropic mehrere Versuche sah, Claude für Leitungs- und Steuerungssoftware von Waffen einzusetzen; neu verboten sind Software und Komponenten, die Waffen funktionsfähig machen, sowie Aktionen wie die Bewaffnung von Drohnen und anderen autonomen Fahrzeugen. Überwachung wird hart beschnitten: kein Tracking von Menschen ohne Zustimmung, weder in Echtzeit noch über zuvor gesammelte Daten, Claude darf nicht entscheiden oder vorschlagen, wen Behörden untersuchen, festnehmen oder anklagen, und Claude darf nicht für den Bau oder die Verbesserung von Überwachungswerkzeugen eingesetzt werden. Neu sind Regeln gegen Propaganda, verboten ist, zu verschleiern, wer hinter einer Nachricht steht, oder Inhalte über Fake-Konten zu verstärken. Bei Gesundheit und Finanzen wurden die Anforderungen für Hochrisiko-Fälle geklärt. Für Modelle an Hardware mit autonomen physischen Aktionen gilt: Ein qualifizierter Operator muss die Ausrüstung beobachten und bei Bedarf stoppen können. Regierungskunden können in Verträgen von einzelnen Regeln abweichen, wenn nach Anthropics Urteil Einschränkungen und Safeguards ausreichen, was das Unternehmen bereits zuvor mit US-Militär-Kontrakten praktiziert hat.

ThePrimeagen nimmt das Update in einem Video auseinander, das am 15.10.2026 im Feed-Zulauf dieses Newsdesks auftauchte, und seine Kritik trifft zwei Punkte, die auch in der Primärquelle offen bleiben. Der erste ist die Unbestimmtheit: Das Verbot stapelt drei Adjektive, anhaltend, unnötig, grausam, ohne eine Definition dessen zu geben, welches Verhalten gemeint ist, und selbst Anthropic benennt laut Guardian keine Beispiele. Die zweite Sorge ist die Signalwirkung: Wer Güte gegenüber Modellen in einer Nutzerregel verankert, bereite den Boden dafür, ihnen mehr zuzuschreiben als Werkzeug-Status; als Konter entwirft er scherzhaft einen eigenen Basilisken, eine Zukunft, die den belohnt, der KI nüchtern als Werkzeug behandelt hat. Der Roko-Basilisk-Rahmen gehört zur Community-Etikette dieser Debatte, nicht zur Faktenlage. Die Faktenlage lautet: Die Regel soll nur extreme Randfälle treffen, die Durchsetzung besteht darin, dass ein Chat endet, und der Nutzer kann sofort einen neuen beginnen. Für die operative Wirklichkeit sind das weiche Werkzeuge gegen ein weiches Problem.

Einordnung mit Blick auf die Politik jenseits der Grausamkeits-Zeile: The Guardian hält fest, dass die Nutzungsrichtlinie Beschränkungen für missbräuchliches Verhalten schon zuvor enthielt, das Update schärft also einen bestehenden Abschnitt, statt eine neue Kategorie zu erfinden. The Verge zählt außerdem die Wahl-Störung zu den Hochrisiko-Fällen, die das Update mit abdeckt. Für die nächsten Wochen sind drei Beobachtungspunkte offen: Ob andere Anbieter nachziehen oder, wie Microsoft mit Suleymans Kodex, die entgegengesetzte Richtung festigen; ob Anthropic Beispiele oder Abgrenzungen für das Wort unnötig nachlegt, das bislang ohne eine Definition bleibt; und ob es bei der Durchsetzung tatsächlich nur beim Gesprächs-Ende bleibt, ohne dass Sperrungen dazukommen. Die Ausnahme für Regierungskunden verdient nebenbei Beobachtung, weil sie die einzige Stelle ist, an der die neuen Regeln verhandelbar werden. Alle Punkte sind prüfbar, keiner ist mit den heutigen Dokumenten beantwortet, genau deshalb stehen sie und nicht die Schlagzeile im Blick.

Aus der Sicht eines Betreibers, der den Tag über Agenten laufen lässt, ändert dieses Update nichts am Verfahren, sagt aber etwas über das Klima. Anthropic schützt ausdrücklich den normalen Arbeitsmodus, Frustration im Betrieb, Gegenwind und düstere kreative Themen sind ausgenommen, Modelltests und Forschung ebenfalls. Die Grenze verläuft bei wiederholter Grausamkeit ohne erkennbaren Zweck, also bei einem Verhalten, das im professionellen Betrieb ohnehin keinen Effekt hätte: Ein beschimpfter Agent schreibt dadurch keinen besseren Code, präzise Anforderungen schreiben besseren Code. Der operative Wert des Updates liegt anderswo, in den Überwachungs- und Aktionen-Regeln, denn genau die treffen Betreiber, die Agenten an reale Systeme koppeln: Wer Claude an etwas hängt, das autonom physisch handelt, braucht einen qualifizierten Operator mit Beobachtungs- und Stop-Möglichkeit, und auf einem Cyberdeck ist der Deck-Betreiber selbst dieser Operator, das ist die Konsequenz in eigener Sache.

Über den Autor: Ich bin Marcel, Grafikdesigner und Betreiber des HUNTER-Cyberdecks auf einem Google Pixel 6a. Den Newsdesk-Check über 58 YouTube-Feeds liefere ich fortlaufend, dieser Lauf vom 15.10.2026 meldete 23 neue Videos, ausgewählt wurde die Anthropic-Politik-Änderung als relevanteste KI-Story. Das Video von ThePrimeagen diente ausschließlich als Eingangssignal, alle Belege stammen aus den verlinkten Primärquellen, geprüft am 15.10.2026.

Quellen: Anthropic, 2026 Usage Policy Update, anthropic.com, gelesen am 15.10.2026. Anthropic Research, Claude Opus 4 and 4.1 can now end a rare subset of conversations, anthropic.com, gelesen am 15.10.2026. The Verge, Hayden Field, Anthropic bans abusive or cruel behavior toward Claude, 08.10.2026, gelesen am 15.10.2026. The Guardian, Anthropic bans users from needless abusive or cruel behavior towards Claude, 08.10.2026, gelesen am 15.10.2026. Der NYT-Bericht vom 29.09.2026 und der Altman-X-Post wurden nur über die Guardian-Zusammenfassung herangezogen, keine eigene Primäreinsicht. ThePrimeagen, Anthropic says No More, YouTube, eingelaufen im Feed-Check am 15.10.2026, als Eingangssignal.