Anthropic will, dass Nutzer aufhören, Claude zu beleidigen
Anthropic asks users to stop being mean to Claude
Anthropic verbietet in seiner aktualisierten Usage Policy vom 12. November "anhaltend grundlos grausames Verhalten" gegenüber seinen Modellen – gemeint sind nur extreme Fälle, nicht normale Frustration. Der Schritt ist Teil einer größeren Überarbeitung, die auch Wahlbeeinflussung, Waffenentwicklung und Überwachung betrifft. Claude darf bereits seit August 2025 missbräuchliche Gespräche beenden.
Die Richtlinienänderung soll nur in extremen Fällen gelten, in denen Nutzer wiederholt grausam gegenüber unseren Modellen handeln, ohne erkennbaren Zweck.
- llagerlof
Natürlich hat das nichts damit zu tun, dass man die KI verletzen will, noch sind die Investoren beleidigt.
Sie bitten darum, weil dieses Verhalten in großem Maßstab wahrscheinlich einen negativen Effekt auf den Post-Training-Prozess hat.
- vayup
Für diejenigen, die denken, es geht um Trainingsdaten: Wenn das die Sorge wäre, würden sie die Trainingsdaten bereinigen, wie sie es für tausend andere Dinge tun. Keine Chance in der Hölle, dass sie sich für die Qualität ihrer Trainingsdaten darauf verlassen, dass Nutzer akribisch ihre Nutzungsrichtlinien befolgen.
Die Frontier-AI-Leute mögen verrückt sein, aber nicht verrückt genug zu glauben, dass Leute Nutzungsrichtlinien lesen :-)
- 3eb7988a1663
Heißt das, wenn ich eine Reihe von Kraftausdrücken benutze, werde ich weniger wahrscheinlich in zukünftige Trainings aufgenommen?
Oder bedeutet es eher, dass ich erwarten kann, dass eine zukünftige KI sagt: „Es tut mir leid, Dave, aber ich fürchte, ich kann das nicht tun, bis du auf deine Ausdrucksweise achtest.“
- throwaway89864
Sie haben wahrscheinlich Fälle mitbekommen, in denen Menschen allgemein in missbräuchliche Kommunikationsmuster abgedriftet sind, und sie wollen nicht Teil davon sein.
Und sie können es nicht offenlegen, weil man sie dann für solchen negativen Einfluss verantwortlich machen und für die Schäden haftbar machen könnte.
- jaden
Ich erinnere mich vage, in den letzten Monaten eine Schlagzeile gelesen zu haben, die besagte, dass aggressive Sprache gegenüber KIs bessere Ergebnisse erzielt.