KI-geschriebener Code ist immer noch Ihr Code. Sind Sie damit einverstanden?
AI-Written Code Is Still *Your* Code. Are You OK with That?
Coding-Agenten treiben die Kosten für das Schreiben von Software gegen null. Doch das Schreiben hat bisher immer auch das Verstehen erzwungen. Wenn KI das Schreiben übernimmt, wird das Verstehen optional – und das ist ein Problem. Wer Software baut, besitzt sie auch: mit Verantwortung für Qualität, Sicherheit und Wartung. Die neue Frage lautet nicht mehr „Können wir das bauen?“, sondern „Wollen wir das besitzen?“. Menschliches Verständnis von generiertem Code wird zum neuen Engpass, denn KI kann eine Komplexitätsfabrik sein. Der Autor plädiert dafür, Verständlichkeit für Menschen zum erstklassigen Designziel zu machen.
Es ist kristallklar, dass KI eine Komplexitätsfabrik sein kann.
- Retr0id
Retr0id:
> Es ist glasklar, dass KI eine Komplexitätsfabrik sein kann.
> Ich habe in letzter Zeit viel darüber nachgedacht, wie Software aussehen würde, wenn wir es zu einem erstklassigen Designziel machen würden, Software für Menschen verständlich zu halten, im Zeitalter der KI.
Ich stimme zu, und ich habe ähnlich gedacht. Aber ich glaube nicht, dass es irgendetwas "Neues" darüber gibt, wie verständlicher und gut strukturierter Code aussehen sollte. Es sind dieselben Prinzipien wie immer.
Ein Großteil des von Agenten geschriebenen Codes sieht so aus, als würde man einem enthusiastischen Menschen etwas zu viele Stimulanzien geben und ihn bitten, den kürzesten Weg zum Ziel zu nehmen. Das ist wahrscheinlich nur ein Ergebnis davon, dass die LLMs nicht "schlau genug" sind, um es besser zu machen, aber ich denke, es gibt auch ein Anreizproblem. Wie belohnt man menschliche Verständlichkeit in Benchmarks und unbeaufsichtigtem Training?
- phoghed
phoghed:
> Wenn du Software baust, gehört sie dir
Nein, ausdrücklich nicht. Meinem Unternehmen gehört sie, und dieser Bastard wird mich ohne mit der Wimper zu zucken entlassen.
- nasretdinov
nasretdinov:
Interessanterweise war die Frage "Wollen wir es unterstützen?" schon immer die Hauptfrage (nicht "Können wir es schreiben?") in jedem ausreichend großen und ausgereiften Projekt, solange ich mich erinnern kann.
Jetzt ist das Großwerden im Wesentlichen ein gelöstes Problem, aber das ist langfristig trotzdem nur vielleicht 10-20 % der Softwareentwicklungsarbeit. Ich bin dankbar, dass ich etwas stupide Arbeit an LLMs delegieren kann, aber im Wesentlichen war der Hauptgrund, warum große Projekte die Entwicklung verlangsamen, nie die Unfähigkeit, schnell viel Code zu schreiben.
- delijati
delijati:
Wir werden den Kreis schließen: "Wie würde Software aussehen, wenn wir es zu einem erstklassigen Designziel machen würden, Software für Menschen verständlich zu halten" – vielleicht erfinden wir eine Pseudo-Programmiersprache, damit wir deterministische Ergebnisse bekommen ;)
- eterm
eterm:
Ja, ich bin mehr als einverstanden. KI hat eine Skala persönlichen Ehrgeizes ermöglicht, von der ich vorher nur träumen konnte.
Ich war nie die Art von Programmierer, die sich leicht hinsetzen und ihre Gedanken vom Kopf auf geschriebene Zeilen bringen konnte. Ich habe das bei einigen begabten Menschen gesehen, und KI könnte sie frustrieren, denn für sie war Programmieren nie der Engpass, aber für mich blieb ich immer in einer Analyse-Paralyse stecken, und allein das Schreiben der ersten Zeile eines Projekts war eine entmutigende Aussicht.
Mit KI kann ich ein ganzes Ökosystem von Programmen aufbauen, die ich immer wollte.
Der Code ist nicht perfekt, aber ich verstehe genug, um architektonische Fehler zu beheben und die KI zu einer gut genugen Lösung zu führen.