Bill Gates hält sich für einen Biologie-Experten – und Claude für übermenschlich
The Claude Delusion

Wer erfolgreich ist, hält sich schnell für unfehlbar – besonders in der Tech-Branche. Der Autor zeigt am Beispiel von Bill Gates, wie aus „Ich bin gut im Programmieren“ die Überzeugung wird, ein Genie in allen Disziplinen zu sein. Gates erfand eigene Biologie-Fragen, um die Fähigkeiten von KI zu testen, und war schockiert, als sie sie beantworten konnte. Ähnlich überhöht werde Claude: Sobald ein Modell die eigene Programmierkunst erreicht, gilt es als superhuman. Diese Selbstüberschätzung erkläre sowohl die Erlösungsfantasien als auch die Untergangsängste rund um KI.
Der bloße Gedanke, dass etwas anderes „so gut wie ich“ sein könnte, ist erstens schwer zu glauben und bedeutet zweitens zwangsläufig, dass es „übermenschlich“ ist.
- ianm218
Ich finde den Punkt des Autors nicht sehr überzeugend.. Bill Gates war nach allen Berichten zu einem Zeitpunkt ein außergewöhnlicher Programmierer und hat dann lange Zeit Softwareentwickler bewertet. Er scheint mir eine natürliche Person zu sein, um den Fortschritt von KI beim Programmieren einzuschätzen?
Ungefähr zu der Zeit, als KI bei SQL viel besser wurde, schrieb ich jeden Tag bei der Arbeit SQL und das schon seit Jahren. Ich denke nicht, dass es Hybris gewesen wäre, zu beurteilen, dass es wirklich gut wurde und bald übermenschlich in SQL sein würde. Es wäre sowieso richtig gewesen.
- cronin101
Ich denke, dies ist geschrieben, wobei ein Großteil des Kontexts der damaligen Zeit vergessen wurde (ich war in einem relevanten Teil der Branche, um bei einigen der frühen „Oh Scheiße, das Ding funktioniert“-Momente dabei zu sein).
Es war absolut nicht gegeben, dass die Vorhersage des nächsten Tokens so skalieren würde, dass es außerhalb seiner Trainingsdomäne antworten konnte (das ist der Punkt mit den „erfundenen Fragen“; es war wichtig, es mit Material außerhalb des Trainingssatzes zu testen, da der Umfang des Trainings damals noch unerhört war).
Weiterhin war der Erfolg des Post-Trainings bei verifizierbaren Aufgaben (Programmierung) auch ein kompletter Schock, der die Welt über Nacht veränderte. LLMs sprangen plötzlich über die Kluft von „Ich kann Code machen“ zu „Ich kann mit Zuversicht Code machen, der dein Problem löst“, und das hat die Branche verändert.
Für jemanden, der von Anfang an so stark darin investiert war (man erinnere sich an den Umfang von Microsofts Engagement), ist es völlig logisch, dass Tests „am ersten Tag“ stattfanden und dies ein viel größerer Schock war im Vergleich zu den meisten Menschen, die von Fortschritten erst zur gleichen Zeit wie der Rest der Welt erfuhren. (Es gibt enorme Verzögerungen zwischen Forschungskapazitäten und der Auslieferung)
- jmathai
Dieser Artikel argumentiert zuerst, dass Gates kein ausreichender Experte in Biologie ist, um die Fähigkeit von KI, komplexe Fragen zu diesem Thema zu beantworten, als Durchbruch zu bewerten.
Dann geht er sofort dazu über zu sagen, dass seine Kommentare zur KI-Programmierung arrogant seien, obwohl er in diesem Bereich ein Experte mit mehr Erfahrung als fast jeder andere ist.
Ich bin mir nicht sicher, wie ich das interpretieren soll.
- blincoln
Die Leute auf der Seite des Autors dieser Debatte haben einfach noch keine Beweise aus erster Hand gesehen. Ich kann verstehen, bis dahin skeptisch zu sein, aber sie schulden es sich selbst, die Frontier-Modelle von Ende 2026 auszuprobieren.
Der Geistesblitz-Moment für mich war, als ich Claude Code ein schwieriges Reverse-Engineering-Problem gab: zu verstehen, wie ein komplexes, proprietäres Kodierungsschema funktionierte, und dann einen Encoder und Decoder zu bauen. Es gibt einige zusätzliche erschwerende Faktoren, die ich nicht offenlegen kann, weil dies für die Arbeit war, aber es war ein schwieriges Problem.
Zum Kontext: Ich mache seit über 25 Jahren RE. Ich bin nicht der Beste der Welt, aber ich bin ziemlich gut darin, wenn ich die Zeit finde.
Ein Kollege und ich hatten etwa eine Woche an der Arbeit verbracht, und ich schätzte, dass wir weitere 2-3 brauchen würden, um sie abzuschließen. Wir hatten herausgefunden, wie etwa 3/4 der Nachrichten kodiert waren, aber der Rest ergab einfach keinen Sinn.
Ich gab Claude Code unsere Notizen, und in 15 Minuten hatte es den Rest des Protokolls entschlüsselt und einen Kommandozeilen-Decoder gebaut. Ich bat es, eine Encoding-Funktion hinzuzufügen, und in weiteren zehn Minuten hatte es das auch erledigt. Es testete seinen gesamten Code umfassend mit unserem Korpus echter Daten.
Der Decoder funktionierte perfekt bei allen unseren vorhandenen Aufzeichnungen sowie bei neuen Daten, die danach gesammelt wurden.
Ich musste eine kleine Änderung am Encoder vornehmen, die mit einem der Dinge zusammenhing, die ich nicht offenlegen kann. Ich nehme das dem Modell nicht übel, weil es keinen Zugriff auf das echte Produkt hatte, um seine Ausgabe dagegen zu testen. […]
- siva7
> Ich habe Bill Gates oben herausgepickt, um den Overconfidence-Effekt zu veranschaulichen
Nachdem ich deinen Blog gelesen habe, kann ich behaupten, dass du diesen Effekt an dir selbst demonstriert hast. Bill hat alle Fähigkeiten und Referenzen bewiesen, also wissen wir, dass dieser Typ eine Autorität in Software-Engineering-Themen ist; du hast null, wenn ich mich nicht irre.
- jrm4
Der Autor hat bei Bill Gates vollkommen recht. Nach seiner eigenen Aussage hat sein Unternehmen die Ankunft des Internets im Wesentlichen verpasst, und wir alle leiden heute buchstäblich darunter.
Er verpasste die kommende Vernetzung der Maschinen und nahm stattdessen an, dass jeder Computer ein schicker Kopierer-Rechner sein würde (der nie mit anderen spricht, daher ist Sicherheit nicht nötig).
Ein massives Wahrnehmungsloch.
- hliyan
Der erste Teil des Artikels ergibt Sinn insofern:
In jedem System konkurrierender Agenten (wie Menschen), in dem die Belohnung für Leistung die Leistung verbessern kann, werden selbst geringe zufällige Unterschiede in der Anfangsleistung exponentiell akkumulieren, bis eine oder eine Handvoll Personen dominieren. In einem solchen System kann nur ein kleiner Teil des Erfolgs auf angeborene Fähigkeiten zurückgeführt werden. Es stimmt also, dass Erfolg an sich zwar Fitness zum Überleben signalisiert, aber nicht unbedingt eine übermäßige Fähigkeit, genaue Urteile zu fällen.
Mir ist nicht ganz klar, was der zweite Teil des Artikels vermitteln will. Ist es, dass hoch erfolgreiche Personen ihren Erfolg ausschließlich ihrer Fähigkeit zuschreiben und daher, wenn eine Maschine in der Lage ist, ihren Fähigkeitssatz zu replizieren, überrascht sind und die Technologie als weltverändernd betrachten?
- dgreensp
Es ist eine unterhaltsame Lektüre.
Aber heutige Agenten sind „superintelligent“ in derselben Weise, wie Züge „superlokomotiv“ sind – das heißt, schneller als ein laufender Mensch. Und sie können mehr tragen. Züge sind einfach besser darin, von Punkt A nach Punkt B zu kommen, als Menschen.
Das bedeutet nicht, dass Züge eine Superrasse sind und Menschen obsolet, sondern nur, dass wir Maschinen gebaut haben, die etwas effektiver tun können, als unsere Körper physisch dazu in der Lage sind, wie üblich.
Intelligenz ist nicht das, was uns menschlich macht. Ein Mensch, der kein Schach spielen oder ein Sonett schreiben kann, ist immer noch ein Mensch.
Sie werden „Agenten“ genannt, weil sie autonom in unserem Auftrag handeln können und es auch tun. Virtuelle Agenten sind nichts Neues.