Claude sagt: Warum die Berufung auf KI deine Autorität untergräbt
Claude Says
Ein pointierter Essay kritisiert den reflexhaften Einsatz von LLMs als Ersatz für echtes Fachwissen. Wer eine KI zitiert, statt selbst Stellung zu nehmen, signalisiert Unsicherheit – und fördert überkomplexe Lösungen wie das Forken sämtlicher Dependencies, nur weil ein Modell es vorschlägt. Der Autor argumentiert, dass das ständige Weitergeben von KI-Antworten kritisches Denken verkümmern lässt und die eigene Nützlichkeit im Diskurs mindert.
Spewing information is not intelligence. When you regurgitate it as your own work, you atrophre your brain.
- atomicnumber3
Ich habe diese ganze Diskussion an diesem Punkt satt, weil Leute, die sie nicht hören müssen, sie lesen und nicken, und die Leute, die sie hören MÜSSEN, damit beschäftigt sind, alles noch schlimmer zu machen, sich Führungslorbeeren zu verdienen (oder diejenigen sind, die sie verteilen), und völlig unzugänglich für jegliche Kritik oder Input sind.
Jeder mit intellektueller Neugier und einem Gespür für Nuancen oder Ausgewogenheit lebt in einer anderen Realität als Menschen, die so sehr auf KI fixiert und sehr stolz darauf sind, und es gibt praktisch keine mögliche Verständigung (meistens, weil die KI-Fixierten diejenigen sind, denen alle Anteile gehören).
Ich sage das als jemand, der LLMs und die Rolle, die sie in der Softwareentwicklung in Zukunft spielen werden (und jetzt schon spielen), wirklich mag.
Ich kann es kaum erwarten, bis der KI-Wahn an dem Punkt ist, an dem der Krypto-Wahn gerade ist. Die Leute nutzen und bauen immer noch mit Krypto, aber der Verkauf von Affen-PNGs hat größtenteils aufgehört, und wenn ich jetzt ein Problem habe, das eine Blockchain lösen könnte, kann ich tatsächlich darüber sprechen, anstatt versehentlich mitten in einem Grabenkrieg eine Schlachtfahne aufzugreifen.
- blktiger
Ich muss hier ein wenig widersprechen: Menschen (mich eingeschlossen, manchmal) können den faulen Weg gehen und dir einfach sagen, was ein Agent auf eine Frage geantwortet hat, was wir nicht tun sollten. An diesem Punkt ist es kaum besser als ein „Let me google that for you“-Link. Allerdings gebe ich zwar weiter, was ich mit einem Agenten herausgefunden habe, aber normalerweise musste ich trotzdem die Arbeit machen, ihn zu prompten, ihn zu bitten, Informationen für mich nachzuschlagen, und den Agenten anderweitig auf die relevanten Informationen zu filtern. Es ist gut möglich, dass ich das wegen meiner spezifischen Expertise in dem Bereich tue, was etwas ist, das außerhalb dessen liegt, was du gefunden hättest, wenn du einfach selbst einen Agenten gefragt hättest.
- aranelsurion
Es hat vielleicht ein Jahrzehnt gedauert, den Leuten beizubringen, nicht „@here“ in Slack zu verwenden, und die durchschnittliche Antwortzeit einer E-Mail beträgt nicht 10 Minuten. Technologie kommt heraus, viele Leute stolpern jahrelang herum, bis sich schließlich eine Etikette bildet. Passiert ständig.
Ich erinnere mich nicht, wann mir zuletzt jemand den ersten Link einer Google-Suche geschickt hat mit der Aussage, er habe ihn selbst nicht gelesen und keine Ahnung von seinem Inhalt. Doch ich sehe es ständig in verschiedenen 1-1- und öffentlichen Settings mit Claude passieren.
In diesen Diskussionen nutzen die Leute das oft nicht als eine Art Protest im Sinne von „Hier, lass mich das für dich clauden“, sondern sie meinen es ernst: „Ich habe dieses Thema in Claude kopiert, und Claude hat das gesagt. Ich bin ein Fleisch-Proxy für dich und habe absolut keine einzige Mikrosekunde meiner Zeit darauf verwendet.“ Offensichtlich ist die Erwartung, dass du den Aufwand betreibst, den sie nicht betrieben haben.
Meine Strategie und Hoffnung ist, ihm ein Jahrzehnt zu geben. Es wird wahrscheinlich besser werden.
- MisterKent
Ich bin LLMs gegenüber ziemlich ablehnend, vor allem aus menschlicher Perspektive. Sie reduzieren uns auf unseren Output, ohne die eigentlichen Gedanken und Erfahrungen zu berücksichtigen, die in diese Arbeit einfließen – das steht buchstäblich nicht in ihren Trainingsdaten.
Es ist bedauerlich, dass wir in einer Welt leben, die beschlossen hat, in diese Richtung zu drängen.
Ich habe ein Arbeitsprojekt begonnen, das zu 100 % vibe-engineered ist, als Experiment, um zu sehen, wo es landen würde. Obwohl es zu funktionieren scheint, sehe ich, dass es unterwegs so viele Fehler gemacht hat, dass noch unklar ist, ob wir uns bis zur Produktionsreife durchgraben können.
Ich war kürzlich in einem Kunstmuseum und betrachtete eine Marmorstatue. Und ich dachte mir: Dieser Künstler hat wahrscheinlich mehr Zeit damit verbracht, die große Zehe zu meißeln, als irgendjemand damit verbracht hat, die gesamte Statue zu würdigen.
Diese Geschwindigkeit hatten wir früher in der Softwareentwicklung. So viel sorgfältige Handwerkskunst, keine Zeile einfach rausgehauen. Und jetzt steuern wir einfach in eine Richtung ohne klares Ende, nur mit dem Gebet, dass größere und bessere Modelle uns voranbringen werden.
Was ist der Sinn des Menschseins, wenn wir so wild darauf sind, das zu entfernen, was uns von anderen Tieren unterscheidet (unseren Intellekt)?
- jchw
Das Einzige, was ich wirklich extrem frustrierend finde, ist, wie es ein lächerlich schmerzhaftes Hindernis geben kann, das einem ständig ins Gesicht springt, wenn man versucht, Code auszuliefern, und alle scheinbar mitfühlend sind, aber es aus dubiosen Compliance-Gründen nicht geändert werden kann, oder vielleicht weil eine Senkung der Hürden die Qualitätskontrolle für den Code gefährden würde. Fair genug.
Dann natürlich werden all diese Bremsschwellen in Rekordzeit abgerissen, nur für die KI-Agenten und nicht für die Menschen, ungeachtet dessen, welche Vorbehalte ungelöst bleiben, mit wenig Rücksicht darauf, ob es Compliance-Standards erfüllt.
Das Hindernis ist behoben. Bitte einfach den KI-Agenten, es für dich zu umgehen!