KI zerstört das Vertrauen in der Zusammenarbeit
AI Is Breaking This Thing We Call Trust
Der Autor vergleicht die aktuelle KI-Revolution mit dem Aufkommen des Automobils: Unsere Arbeitsgewohnheiten basieren auf der Annahme, dass jemand, der etwas erstellt, es auch versteht. KI untergräbt diese Annahme, weil sie mühelos Code, Erklärungen und ganze Dokumente generieren kann, ohne dass die Person sie durchdringt. Das führt dazu, dass Reviews nicht mehr mit der Frage „Ist das eine gute Änderung?“ beginnen, sondern mit „Versteht die Autorin überhaupt, was sie mir da schickt?“ – und das kostet Vertrauen und Zeit.
Wenn ich einer Kollegin vertraue, kann ich mich auf die Teile konzentrieren, die ein zweites Paar Augen brauchen. Jetzt muss ich stattdessen oft zuerst herausfinden, ob die Person überhaupt versteht, was sie mir geschickt hat.
- plaidfuji
> Hier ist der Punkt: Die meisten unserer Arbeitsgewohnheiten gehen immer noch davon aus, dass etwas zu produzieren bedeutet, dass man es verstehen muss.
Das war schon immer nur relativ gesehen wahr. Bis vor kurzem wurde erwartet, dass man den Software-Code versteht, den man schreibt. Aber nicht den Maschinencode oder die Computerninterna auf einer tiefen Ebene. Man vertraut darauf, dass diese Schichten funktionieren. Irgendwann in der Vergangenheit konnte man nicht einfach darauf vertrauen. Irgendwann in der nahen Zukunft wird man einfach darauf vertrauen, dass der Software-Code funktioniert. Stattdessen wird man nur noch über die Spezifikation (den Prompt) diskutieren. Das Denken kann eine Ebene höher in der Systemhierarchie wandern. Das kann jeder. Wir haben das schon einmal gemacht, wir werden es wieder tun, und das wird nicht einmal das letzte Mal sein. Lass die Angst los und lass es geschehen.
- Havoc
Ich mache mir Sorgen um die nächste Generation.
Du und ich haben eine Basis. Ein Gehirn, das den Großteil seiner Entwicklungsphase durchlaufen hat, als es noch eine einheitlich akzeptierte Version der Wahrheit gab (auch wenn sie zweifelhaft war).
Zukünftige Generationen werden sich in einer zersplitterteren Realität entwickeln müssen. Eine Welt, in der es nichts gibt, woran man sich festhalten kann. Nicht einmal eine zweifelhafte, allgemein akzeptierte Erzählung.
- sigalor
Ich frage mich, wann die Leute begreifen, dass Intelligenz nicht nur nach außen gerichtet ist, sondern erst wirklich beginnt, wenn man nach innen schaut (Freude, Vergnügen, Traumata, Tabus, Peinlichkeit, Missbrauch, Vertrauen usw.). Schlag das Wort "Interozeption" nach.
- philbo
Ich denke, ein Ansatz ist, bewusst weniger fähige Werkzeuge zu wählen (aber immer noch KI-gestützt). Man muss nicht riesige Aufgaben komplett an Agenten delegieren, aber dafür muss man gegen die gängigen Harnesse ankämpfen, weil sie existieren, um dir mehr Token zu verkaufen. Modellanbieter haben keinen Anreiz, weniger autonome Abläufe anzubieten.
Ich habe vor ein paar Monaten über diese Frustration geschrieben [1] und dann gemerkt, dass ich es vielleicht selbst reparieren sollte, wenn die Modellanbieter es nicht tun. Also, ungenierte Eigenwerbung: Ich habe einen Open-Source-Harness geschrieben, der eher wie Pair Programming und weniger wie Code Review funktionieren soll [2].
Wie üblich ist mein "Show HN"-Beitrag [3] wie ein Stein untergegangen, also denke ich, dass die meisten Entwickler an dieser Richtung vielleicht nicht wirklich interessiert sind. Es ist aber möglich, wir müssen nicht einfach akzeptieren, was die Labore uns an Werkzeugen vorwerfen.
[1]: https://philbooth.me/blog/agentic-coding-and-mental-models
- lovich
Die Elite hat das Vertrauen gebrochen.
Niemand hat Leute wie Sam Altman zu einem zwanghaften Lügner gemacht. Niemand hat Musk dazu gebracht, einen Dienst "vollautonomes Fahren" zu nennen und dann die Haftung an den Nutzer zurückzugeben, sobald er entscheidet, dass ein Unfall kurz bevorsteht.
Hört auf, den Leuten, die die Entscheidungen auf höchster Ebene treffen und alle Belohnungen einstreichen, die Handlungsfähigkeit abzusprechen.
Würdest du behaupten, dass jemand, der fünf Shots hintereinander getrunken hat und nach Hause gefahren ist, nicht für einen Unfall verantwortlich ist, weil das Auto physisch den Schaden verursacht hat?