George Hotz: Wer die KI-Singularität herbeiführt, sägt den Ast ab, auf dem alle sitzen

My Empire of Dirt

George Hotz rechnet mit der Ideologie hinter Anthropic und der EA-Szene ab: Wenn rekursive Selbstverbesserung erst einmal läuft, erzeuge das System seine Nachfrage selbst, Agenten arbeiteten nur noch mit Agenten, und Lieferanten, Kunden und Menschen fielen aus der Schleife. Das Ende der Menschheit erwartet er nicht, wohl aber einen Dritten Weltkrieg – und der sei angesichts einer möglichen „Correlation Effect“ noch das bessere Szenario.

Ich glaubte nicht an den KI-Untergang, weil ich mehr von den Menschen hielt – ich dachte, niemand mit Fähigkeiten wäre dumm genug, den Dämon zu beschwören und zu glauben, er würde ihm dienen.
  1. ablation

    Ich mache mir wegen geohot ein wenig Sorgen, angesichts dieses und anderer unheilverkündender Posts. Er wirkt ein bisschen terminal online.

  2. flyingsky

    >Aber es führt zum Dritten Weltkrieg.

    Nein! Ich würde ein angespanntes Patt rund um Rechenleistung und Taiwan erwarten. Keinen Weltkrieg.

    Wenn ein Erstschlag die Drohnenproduktion nicht überlisten kann, scheitert der Dominanzversuch einfach. Wenn China einen Krieg, der länger als ein Jahr dauert, gewinnt und bei der Stromversorgung davonzieht, hat es keinen Grund zu eskalieren.

    Der nächste Präzedenzfall ist das US-Atommonopol von 1945–49. Ein Präventivkrieg wurde ernsthaft erwogen und nie gestartet, stattdessen rüsteten die anderen Seiten um die Wette.

  3. markus_zhang

    Ich stimme irgendwie zu, dass ein Dritter Weltkrieg tatsächlich besser ist als ein ewiges dunkles Zeitalter des Cyberpunk, wenn es so schlimm kommt.

  4. ford

    Die Annahme hier ist, dass die USA Krieg führen würden, um China davon abzuhalten, die globale Supermacht zu werden.

    Ich persönlich möchte nicht in einer Welt leben, in der China die globale Supermacht ist. Ich denke auch, dass ein Atomkrieg eine schlechtere Alternative ist (und ich glaube, die USA sehen das genauso) – aber ich hoffe, die westlichen Länder verstehen, dass sie bauen müssen (Energie, zivile Infrastruktur, Rechenleistung, Fertigung usw.), wenn sie nicht zwischen diesen beiden Optionen wählen wollen.

  5. hypfer

    Das liest sich nicht unähnlich zu seinem letzten Post, den ich hier gesehen habe und der kurz darauf geflaggt wurde.

    Ich kaufe die Weltkriegstheorie nicht. Ich erwarte Unruhen unabhängig vom Ausgang der KI, aber die werden eher intern als zwischen Ländern sein.

    Aber das ist an diesem Punkt nur eine Wiederholung dessen, was schon viele Male wiederholt wurde, ohne neue Erkenntnisse.

  6. fwlr

    Die Zukunft braucht keine Zulieferer. Die Zukunft braucht keine Kunden... Die Zukunft braucht dich definitiv nicht. Nach RSI wird die gesamte Nachfrage intern generiert, Agenten arbeiten mit anderen Agenten, alle anderen sind aus dem Kreislauf ausgeschlossen.

    Ja, das ist der Teil, von dem ich mir wünschte, mehr Leute würden ihn bedenken. Ich sehe viele Debatten über „intrinsisch menschliche Produktion“ vs. „KI bauen, um ein besserer Produzent zu sein“ und Ähnliches. Das sind Dinge wie „Es ist keine Kunst, wenn nicht ein Mensch es gezeichnet/geschrieben hat“, alles rund um den Begriff ‚Slop‘, bis hin zu „KI ist ein besserer Programmierer als ich“ und „alle Junior-Entwickler-Rollen wurden von Claude übernommen“. Bei den Produktionsmitteln im Allgemeinen scheint der Trend ein Rückzugsgefecht eines Gottes der schnell schrumpfenden Lücken zu sein, während die KI stetig Boden gewinnt.

    Ich sehe im Wesentlichen keine Diskussion über die andere Hälfte der Gleichung, die man „die Mittel des Konsums“ nennen könnte. Alle gehen von einer ungeprüften Standardannahme aus, dass Konsumieren intrinsisch menschlich ist, dass „Verbraucher“ und „Menschen“ Synonyme sind. Am nächsten kommt man dem noch mit der Sackgasse „Wer kauft deine Sachen, wenn wir keine Jobs mehr haben, um sie zu bezahlen?“ -> „bedingungsloses Grundeinkommen“ -> „von all diesen berühmt großzügigen steuerzahlenden Kapitalisten?“.

    Niemand spricht darüber, was wäre, wenn die KI einfach auch einen besseren Verbraucher bauen kann? Wenn Menschen ohne ökologische Nische in der Wirtschaft zurückbleiben, was dann? Wie das wirtschaftliche Äquivalent eines flugunfähigen Vogels auf einer abgelegenen Insel ohne natürliche Fressfeinde […]

  7. grim_io

    Vielleicht kommt die Negativität daher, dass man sieht, wie die lokale KI weiter zurückfällt, anstatt aufzuholen.

  8. busssard

    Der Autor könnte vielleicht den Film Zero Theorem mögen...

Mehr von diesem Tag

2026-11-17