KI-Code: Die Illusion von Kompetenz
Beyond Recall and the Illusion of Competence
Der Autor argumentiert, dass die Debatte um KI-generierten Code am Kern vorbeigeht: Es geht nicht darum, wer den Code schreibt, sondern wer das System versteht. Er warnt vor der Gefahr, das Verständnis an KI zu delegieren, und zeigt, warum Debugging entscheidend ist. Erfahrene Entwickler haben ein Reservoir an Wissen, aber Junioren könnten diese Erfahrung verlieren. Der Autor plädiert dafür, KI für Routineaufgaben zu nutzen, aber die Architektur und das Verständnis selbst zu behalten.
Du lernst Systeme nicht, indem du sie erfolgreich veränderst; du wirst sie erfolgreich verändern können, sobald du erklären kannst, warum sie versagen.
- MarkusQ
MarkusQ:
> Wenn das Kopieren eines nützlichen Code-Snippets von Stack Overflow also schon immer akzeptabel war
Das war nicht "schon immer akzeptabel"; Copy-Pasta war vor nicht allzu langer Zeit ein abwertender Begriff, und Leute wurden entlassen, weil sie einfach Code von SO kopiert und verwendet haben, ohne ihn zu verstehen.
- kayo_20211030
kayo_20211030:
> Die Entwickler, die herausstechen werden, sind diejenigen, die die Systeme verstehen.
Das war schon immer wahr. KI ändert daran nichts. Sie ordnet nur einige Elemente neu an, die vor diesem Verständnis kommen. Volumen und Geschwindigkeit sind Herausforderungen, aber Verständnis und Urteilsvermögen sind das, was die Guten von den Großen unterscheidet.
Übrigens: "Systeme" umfassen in meiner Welt nicht nur die Technologiekomponenten, sondern auch die Menschen, die alle Teile betreiben, anpassen und verwalten, sowie die Prozesse, die das Ganze steuern.
- WillEMac
WillEMac:
Ich denke, es gibt einige Nuancen bei der Redundanz, die für die Software erforderlich ist.
Zum Beispiel habe ich im Cleantech-Bereich gearbeitet, wo SPS-Programmierung Turbinen steuert; hier ist vollständiges Verständnis erforderlich. Jeder Bug und jede Codezeile, die mit einem Menschen verbunden ist, muss im Loop sein; es ist die Zeit wert.
Alternativ entwickle ich Spiele, und ich glaube nicht, dass es einen Wert hat, den gesamten Debugging-Prozess zu verstehen. Zum Beispiel habe ich versehentlich das Loslassen der Leertaste im Mehrspielermodus an zwei Dinge gebunden, was einen Koop-Glitch verursachte. Ich muss nicht diese Nadel im Heuhaufen suchen, um zu debuggen; das ist eine schlechte Zeitnutzung.
>Wenn das Schreiben von Code billig und für alle zugänglich wird, dann hört das Schreiben von Code auf, ein großer Differenzierungsfaktor zu sein. Die Entwickler, die herausstechen, werden diejenigen sein, die Systeme verstehen.
Ich stimme zu, besonders bei Grenzen/Randbedingungen. In dem Spiel, an dem ich arbeite, ist es erforderlich, grundlegend zu verstehen, wie 500 GPU- vs. CPU-gesteuerte Fische auf dem Bildschirm funktionieren und welche Einschränkungen sie haben, um ein guter Architekt zu sein, sonst läuft dieses Spiel mit 10 fps.
- jebarker
jebarker:
Ich bin irgendwo in der Mitte des Spektrums von Entwicklern, das der Autor beschreibt. Ich nutze KI täglich für begrenztes Code-Schreiben und viel Debugging. Ich stimme dem Autor zu, dass die Dinge aus dem Ruder laufen, wenn man aufhört, ihre Ausgabe wirklich zu überprüfen, und einfach auf "Akzeptieren" klickt, um den Nervenkitzel der Produktivität zu bekommen. Ich glaube nicht, dass die Nutzung von KI zum Debuggen bedeutet, dass man das tun muss; es ist immer noch eine Wahl. Als KI-Mensch-Team habe ich jetzt schon oft die Erfahrung gemacht, ein Problem in einem komplexen System zu debuggen, das ich allein oder in angemessener Zeit einfach nicht hätte lösen können. Ich glaube nicht, dass das ein Zeichen für meine geringen Fähigkeiten ist - es liegt daran, dass die KI Fähigkeiten mitbringt, die ich nie haben werde, wie das Lesen und Korrelieren großer Mengen von Logs über viele Läufe desselben Systems auf verschiedenen Rechenknoten in einem Cluster. Wenn sie die Nadel im Heuhaufen findet, kann ich mir immer noch die Zeit nehmen, zu verstehen und zu überlegen, was sie gefunden hat.
- ssivark
ssivark:
Der Autor macht einen wichtigen Punkt zur Verantwortung, aber der wurde auf Code-Verständnis und Debugging verwässert. Was zählt, ist nicht nur die Verantwortung für den geschriebenen Code, sondern auch die Verantwortung für die Problemidentifikation und die Wahl der Lösung. Darüber habe ich kürzlich aus einem etwas anderen Blickwinkel des Gesprächstempos geschrieben [1], aber der gemeinsame Kern ist, dass wir wollen, dass KI als kognitiver Begleiter agiert und uns hilft, die Situation zu verstehen, das Problem zu identifizieren und Entscheidungen zu treffen - anstatt dass die KI vorzeitig losläuft, um das Problem zu "lösen", und dann dem Benutzer die Last aufbürdet, herauszufinden, was zum Teufel gerade passiert ist und wie das nur marginal mit der Absicht korreliert war.
[1] https://woventhought.substack.com/p/ai-assistants-need-adapt...