KI kann dich schneller scheitern lassen
AI Can Make You Suck Faster Too
Trotz der Versprechen von 10x Produktivität durch KI: Die erwartete Flut an neuen Tech-Giganten ist ausgeblieben. Stattdessen beobachten wir, wie KI-generierter Code und Vibe-Coding zu unsicheren Apps führen, während die eigentlichen Engpässe – wie Sicherheit und Wartung – ignoriert werden. Ein erfahrener Softwareentwickler teilt seine frustrierenden Erfahrungen mit DeepSeek und warnt vor blindem Vertrauen in LLMs, die oft nur oberflächliches Wissen liefern.
KI wird dich schneller machen beim Scheiße schaufeln, wenn du nur weißt, wie man Scheiße schaufelt.
- orwin
Ich habe jetzt angefangen, KI zu nutzen, um die PRs meiner Junioren zu überprüfen, weil ich mit der Menge an Code, die sie liefern, nicht mehr Schritt halten konnte. Es begann schlecht, aber jetzt habe ich meine Methode: Ich lese zuerst den Code und markiere die Zeilen, bei denen ich mir nicht sicher bin, und bitte dann ein beliebiges Frontier-Modell (ich mag Claude hier für die Analyse, auch wenn ich es für den Rest nicht nutze), den PR zu erklären und sich auf die von mir markierten Teile zu konzentrieren (im Grunde den Code im Detail zu erklären, nicht nur den PR) und in den Bibliotheken zu suchen. Manchmal bemerkt es etwas, das ich übersehen hätte (wie ein fehlendes 'order_by' oder Off-by-one-Fehler, weil die zugrunde liegende Bibliothek nicht so codiert war, wie die ursprüngliche KI behauptete).
Ich habe auch meine Vorgehensweise bei Reviews geändert, weil es seit mehr als einem Jahr so ist, dass die Junioren/Neueinstellungen immer noch verloren sind, sei es beim Domänenwissen für die älteren Neueinstellungen oder einfach bei den Fähigkeiten für die Junioren, und im Gespräch mit anderen Abteilungen ist es bei etwa 95% von ihnen dasselbe. Jetzt füge ich, anstatt den PR zu korrigieren oder eine Änderungsanfrage zu stellen, einen kompletten Unit-/Funktionstest zum PR hinzu und lasse das als Übung, um den Test zu bestehen. Sie können KI nutzen, aber ich sage ihnen, sie sollen versuchen, herauszufinden, welcher Teil des Codes nicht funktioniert, bevor sie den Fix generieren. Hoffentlich übernehmen sie die Verantwortung für den Code, wenn ich das weiterhin mache.
- sriniwasx
Der Code-Smell in meinen Repos ist auf einem Allzeithoch, und ich bin ein Senior-Entwickler. Ich kann mir nicht vorstellen, wie viel schlimmer es Vibe-Coder haben.
- Zakis1
> Nutzt nur DeepSeek und kommt zu dem Schluss, dass LLMs schlecht im Programmieren sind?
Warum nicht echte Frontier-Modelle verwenden und, weißt du, ein bisschen echte Forschung betreiben, bevor man einen Blogbeitrag schreibt?
- padolsey
Es war ein demütigender/schockierender Moment, als mir klar wurde, dass Leute echte bezahlte Arbeit mit LLMs erledigen, die sie sonst nicht könnten. Ich meine, es ist ziemlich offensichtlich, nehme ich an. Aber bis jetzt bin ich davon ausgegangen, dass es nur ein (massiver) Katalysator für Dinge ist, die Leute ohnehin tun könnten, wenn sie genug Zeit hätten. Aber nein – es scheint, dass Leute gerade in Rollen beschäftigt sind, in denen sie die Aufgaben nicht erfüllen könnten, wenn die KI nicht da wäre und ihnen sagen würde, was sie schreiben/sagen/produzieren sollen. Niemand wird wirklich kommen und das sagen ... das ist nichts, was die weniger KI-versierten Vorgesetzten wohlwollend aufnehmen würden.
- MrScruff
Im Allgemeinen sind die Frontier-Modelle noch nicht in der Lage, nicht-triviale Code zuverlässig ohne sorgfältige Aufsicht zu erstellen. Sie sind großartig darin, Code zu produzieren, der Tests besteht, aber nicht unbedingt ein Code-Review. Das bedeutet, wenn dir Codequalität wichtig ist, brauchst du immer noch einen Menschen im Loop, der versteht, was gemacht wurde, und das wird zum Engpass. Und weniger disziplinierte Leute werden in der Tat zunehmend abhängig.
Mit der Zeit nimmt jedoch die Komplexität der Probleme zu, bei denen man mit weniger/keiner Aufsicht davonkommen kann. Und die Modelle sind bereits großartig darin, bestimmte Klassen von Problemen zu lösen, bei denen man sich nicht so sehr um Codequalität kümmert, die in einer Prä-LLM-Welt gar nicht erst versucht worden wären. Am Wochenende habe ich Claude verwendet, um Funktionen zur kompilierten Firmware (ohne verfügbaren Quellcode) eines meiner Audiogeräte hinzuzufügen, indem ich Workflow-Funktionen durch Patchen von Assembler und benutzerdefiniertem DSP-Code hinzugefügt habe.
Beim Programmieren, wie auch in anderen Bereichen, entsteht eine gezackte Intelligenz.
- dr_dshiv
„Ich wollte sehen, ob ich an diesem 10x-Magie teilhaben kann. Ich beschloss, meinen Worten Taten folgen zu lassen, und kaufte $10 DeepSeek-Credits für ein Projekt, an dem ich arbeitete.“
Wow. Ich schätze, das ist die Pointe!
- Lapalux
Vor der KI war der Begrenzer für meinen schlechten Code, wie viel Code ich an einem Tag tippen konnte.....
Jetzt mit KI kann ich meine Ausgabe verzehnfachen und meinen schlechten Code verzehnfachen!
- _superposition_
Ich denke, mein 10x kommt woanders her als vom Schreiben von Code. Zum Beispiel sind LLMs viel besser in Bash als ich. So gut, dass ich meine Shell nicht verlassen muss. Jira? ServiceNow? Ha! Claude, du aktualisierst dieses Ticket. Geh meine Historie und Git-Commits durch und schreib mir mein Standup. Ich verlasse das Terminal nicht.