Claude, mach den „Add to Cart“-Button blau
Claude, change the “Add to Cart” button to blue
Eine Hacker-News-Diskussion über die Marotte von LLMs, bei winzigen Änderungen wie der Button-Farbe maßlos über das Ziel hinauszuschießen. Statt einfach die Farbe zu ändern, legen Modelle wie Claude oder Fable Migrationen, Tests und Rückwärtskompatibilität für eine zwei Stunden alte App ohne Nutzer an. Entwickler berichten, wie sie mit PROJECT.md oder expliziten Anweisungen gegensteuern müssen.
Claude geht irgendwie davon aus, dass die besagte zwei Stunden alte App ohne Nutzer eine verstaubte Enterprise-Anwendung mit Millionen von Nutzern und Milliarden von Dollar ist, bei der ein einsekündiger Ausfall auf dem Spiel steht.
- dudeinhawaii
Großartige Seite, hat Erinnerungen geweckt! haha.
Um zu versuchen, etwas zu dieser Diskussion beizutragen – ich denke, während ich diese Art von Schleifen seltener gesehen habe – was ich gesehen habe, ist "übermäßige Hilfsbereitschaft".
Modelle wollen heutzutage Dinge doppelt-dreifach-vierfach überprüfen. Ich mache Witze, aber es grenzt an "Ich habe eine funktionierende Lösung, aber lass mich eine Variante in Rust schreiben, um eine konvergente Lösung sicherzustellen und zu beweisen, dass das funktioniert".
Ich musste Modelle heutzutage meistens stoppen, weil sie in ihrer Validierung quälend pedantisch sind. Opus ist hier tatsächlich eines der pedantischsten und "am Thema vorbei". Aber nochmal, nicht auf schlechte Weise. Ich sage normalerweise "hör auf, die Latenz zwischen 50 Läufen dieser App zu testen... das ist Version eins... wir werden noch eine Million Änderungen vornehmen... du bringst uns nichts".
- dwedge
Ich war viel zu genervt davon, bevor ich merkte, dass es ein optionales Spiel war und ich einfach den Tab schließen konnte
- captainbland
Das ist tatsächlich, was Leute bei der Nutzung von KI hält: variables Belohnungsschema. Es ist im Grunde Glücksspiel.
- _fat_santa
Zumindest mit Codex war das überhaupt nicht meine Erfahrung. Es vermasselt sicherlich, aber in jedem Fall kann ich fragen "warum hast du das getan" und es kann zurückverfolgen, was es zu dieser Entscheidung veranlasst hat. Typischerweise ist es immer, dass ich entweder das Problem nicht korrekt spezifiziert habe oder einen wirklich dummen Fehler gemacht habe (die Aufgabe am falschen Projekt ausgeführt.... habe das gestern gemacht) oder es ist etwas in einer Skill-Datei, das es anweist (an welchem Punkt ich die Anweisungen korrigiere).
Einmal im blauen Mond ist es tatsächlich das Modell, das einen materiellen Fehler in seinem Denken macht und ich muss zurückgehen und es wiederholen.
- johnisgood
> Warum ist jetzt die Hälfte der Seite blau? Ich habe dich gebeten, einen Button zu ändern.
> Die Hälfte der Seite ist blau. Ich habe um EINEN Button gebeten.
Das sind meine einzigen Optionen, wenn die Seite offensichtlich nicht blau ist, zwei Buttons sind es.
Es gibt einen Grund, warum ich viel spezifischer bin als das.
- kstenerud
Das ist so seltsam... Das entspricht überhaupt nicht meiner Erfahrung mit Claude. Ich habe nie gesehen, dass es sich so verhält.
- JohnMakin
> Erwähnenswert: Der Add to cart-Button ist immer noch schwarz.
Das hat mir ein hörbares Lachen entlockt. Das ist wirklich, wie die Erfahrung manchmal ist, wenn man einfach ein Ergebnis gibt, ohne bei der Implementierung spezifisch zu sein, und es kommt aus dem Nichts, an manchen Tagen viel schlimmer als an anderen.
Ich bin geduldig mit ihm geworden, aber wie auch immer dieser Stil der Ausgabe genannt wird oder was er tut – er ist sowohl herablassend als auch völlig nutzlos, und er scheint darauf ausgelegt zu sein, zu frustrieren.
- oujiii
Haha, das trifft genau das, was ich in letzter Zeit fühle. Ich finde es unerträglich, mit diesem Modell aus diesem Grund zu arbeiten... gibt es irgendeinen Trick, den man anwenden kann, um es davon abzubringen, Dinge zu überkomplizieren? Ich schätze, Codex, ich komme
- techscruggs
Ich habe nie wirklich verstanden, wie es ist, "getriggert" zu sein, bis jetzt.
- alentred
-= ACHTUNG, SPOILER =-
Das hat mich bei "cyanide blue" erwischt, und ich habe mich auf dem Boden gewälzt vor Lachen bei "Approaching usage limit". Ich kann jetzt kaum aufhören zu lachen und mein Bauch tut weh. Ich meine, Danke!