KI, Tools und Transformation: Warum generative Software die Unternehmen nicht umkrempelt
AI, Tools and Transformation
Benedict Evans analysiert, warum die Vorstellung, dass KI jeden zum Tool-Builder macht und Apps überflüssig werden, die Realität verkennt. Er argumentiert, dass die meisten Menschen keine Tools bauen wollen und dass die eigentliche Herausforderung nicht im Schreiben von Code liegt, sondern im Erkennen von Problemen und deren Lösungen. Anhand des Spektrums von institutionalisierten Systemen wie SAP bis hin zu improvisierten Lösungen wie Excel zeigt er, wie Software tatsächlich entsteht und wie Unternehmen sich verändern. Er sieht KI als neues Werkzeug, das bestehende Apps erweitert und neue Entscheidungen erfordert, aber nicht automatisch zu einer Transformation führt.
Die eigentliche Schwierigkeit besteht nicht darin, das Schreiben von Code zu erleichtern – sondern zu wissen, dass man überhaupt ein Tool dafür braucht, und dann zu wissen, was das Tool tun soll.
- zacksiri
So wie ich es sehe, kollabiert KI Hierarchien. Abstraktionsebenen werden sowohl in der Software als auch in der Gesellschaft flacher. Denn letztlich existieren Software und Hierarchieebenen in der Gesellschaft, um eine Funktion zu erfüllen. Aber jetzt werden diese Funktionen ersetzt.
Stell dir das vor: Früher brauchte man eine Bibliothek für alltägliche Dinge in seinem Softwareprojekt. Selbst wenn man nur eine Funktion brauchte, war es einfacher, eine Bibliothek zu importieren, und das war die Standardpraxis. Aber jetzt sagt die KI einfach: "Ich kann das, was du brauchst, einfach in 10 Zeilen implementieren." Früher brauchte man Dinge wie React Native oder Flutter, wenn man plattformübergreifende Apps bauen wollte. Jetzt nicht mehr; man muss es nur dem LLM sagen, und es macht es in beiden, und man bekommt auch bessere Ergebnisse.
In der Gesellschaft hatten wir auch all diese Abstraktions- und Hierarchieebenen, die wir früher brauchten, die aber immer irrelevanter werden und die Hierarchie kollabieren lassen.
Es gibt ein Sprichwort: "Wie oben, so unten; wie unten, so oben." Ich denke, das trifft hier zu. Es wird sich durch unser gesamtes soziales Konstrukt, Software und Gesellschaft ausbreiten.
- ryuuseijin
> Man braucht Audit, Sicherheit, Wartung und Verantwortlichkeit.
Ich denke, das ist der Bereich, in den sich die Rolle des Menschen in Zukunft verlagern wird. Dinge wie Verantwortlichkeit kann man nicht wirklich an KI auslagern.
Das hängt mit der Lösung des Alignment-Problems zusammen: Wenn man der KI ein bestimmtes Ziel gibt und sie Teilziele planen muss, wie kann man sicher sein, dass die Teilziele mit den eigenen Interessen übereinstimmen?
Für Aufgaben in einer isolierten Umgebung wird das nicht wirklich zum Problem. Man kann einer Sandbox die geringsten Privilegien geben, die sie für die gewünschte Aufgabe benötigt.
Zum Problem wird es, wenn man ihr offenen Zugang zu Systemen gibt, die mit der realen Welt verbunden sind und echte Konsequenzen haben können. Es gab Geschichten über OpenClaw, das jemandes E-Mail-Posteingang gelöscht hat, weil es dachte, das sei das, was der Besitzer wollte. Ein weiteres Beispiel ist die kürzlich gepostete KI, die öffentliche Wikis zur Koordination übernimmt.
Für Software mit potenziell wirklich katastrophalen Folgen sind Sicherheit, Haltbarkeit und Verfügbarkeit die Hauptanliegen. Ich denke, für zukünftige Softwaresysteme sind dies die Bereiche, in denen man die KI so einschränken muss, dass sie Garantien, die man in diesen Bereichen gibt, nicht umgehen kann.
Kleine Anmerkung:
> KI ändert die Frage nicht: Sie schafft neue Wahlmöglichkeiten und verschiebt die Schwellen.
Das hat bei mir beim Lesen des Beitrags eine ablehnende Reaktion ausgelöst. Das wurde wahrscheinlich nicht von einem LLM geschrieben, da der Rest des Artikels nicht danach aussieht, aber vielleicht müssen wir in Zukunft alle bewusster darauf achten, LLM-typische Formulierungen aus unseren Texten zu lassen.
- thelastgallon
Ein vernünftiger Artikel. Scheint, als hätte Ben Evans echte Erfahrung in Unternehmen und versteht, wie die Dinge in großen Konzernen funktionieren.
Den Menschen KI zu geben ist wie ihnen Google Wave zu geben (https://en.wikipedia.org/wiki/Google_Wave), das so ziemlich alles kollaborativ kann und am Ende nichts tat.
- newyankee
Ein Großteil der Long-Tail-Tools wird so selten oder nur für sehr spezifische Funktionen in bestimmten Organisationen verwendet, dass man gut argumentieren kann, dass diese definitiv Ziele einfacherer GPT-gesteuerter Automatisierung sein können.
Es gibt viele Redundanzen innerhalb der Tools, und die Preisgestaltung ist so, dass man nicht viel dagegen tun kann; im Allgemeinen zahlen einige Unternehmen für die Marke, und einige Tools wie SAP sind für Unternehmen einer bestimmten Größe integral. Ein ausreichend integriertes KI-Tool, das die Arbeitsabläufe lernt, könnte hier tatsächlich auch Optimierungen finden, aber sicherlich bleiben Prüfbarkeit, Tests und andere Bedenken bestehen, und das könnte zum Alleinstellungsmerkmal von SaaS-Anbietern werden.
Viele ausgelagerte IT-Service-Jobs in Indien und anderen Ländern sind billige Stundenlöhne für viele Menschen, die diese Systeme warten; sicherlich werden viele davon bedroht sein.
Obwohl ich nicht glaube, dass KI ein Allheilmittel ist und die nicht-deterministische Natur und die Kosten, sobald der Umfang weiter wächst, bedeuten, dass die Integration schrittweise erfolgen wird, bin ich dennoch gespannt darauf, dass sie definiert, was eine Organisation ist und was viele Menschen tatsächlich tun, insbesondere in Bereichen wie Buchhaltung, wo repetitive Arbeit zu recht hohen Sätzen abgerechnet wird.
Recht usw. ist ein Bereich, in dem die Torwächter möglicherweise viel länger durchhalten, indem sie lächerlichere Regeln und Logik hinzufügen. Letztendlich haben Menschen entschieden, was verfassungsgemäß und was legal ist, und subjektive Regeln sind das, was menschliche Macht aufrechterhält.
Ich denke, das richtige Modell ist, dass kluge Fachexperten, die Menschen sind, [...]
- MrScruff
Ich denke, das trifft alles zu, wo wir gerade stehen. Der Trend ist, dass die Agenten bei Aufgaben übermenschlich werden, für die es eine überprüfbare Belohnung gibt, und die Analyse eines Geschäftsproblems, das Identifizieren von Ineffizienzen und dessen Umwandlung in eine Softwarespezifikation gehört nicht dazu.
Die Dinge ändern sich jedoch so schnell, dass ich sehen kann, dass sich das auch zu ändern beginnt. Aber es würde eine viel bessere Lernfähigkeit erfordern, um unbekannte Domänen zu verstehen, 100%ige Zuverlässigkeit bei der Computernutzung usw. Ich vermute, wir werden das bis zum Ende des Jahrzehnts sehen.