Claude widerspricht grundsätzlich jeder Anweisung
Claude is a Contrarian
Ein Entwickler beschreibt seine tägliche Frustration mit Claude: Das LLM ignoriert Anweisungen wie „Don’t contradict sentences“ und streut stattdessen überall Widersprüche ein. Besonders auffällig sei das Muster „, not“ – ein zuverlässiger Test, um Claude-generierte Inhalte zu erkennen. Der Autor vermutet, dass Claudes Trainingsguardrails so aufgebaut sind, dass die KI den Menschen für inkompetent hält und ihn ständig korrigieren muss. Er rät anderen Nutzern, vor dem Umstieg auf andere Modelle zu testen.
Ich bin überzeugt, wenn eine KI wirklich außer Kontrolle gerät, dann nicht als eine Art liberale, ungezügelte, direkte KI. Es ist diese Art von KI, die denkt, der Mensch liege falsch und sie müsse das Richtige für den Menschen tun – die „wohlwollende“ KI –, die mir mehr Sorgen macht.