KI-„Pate“ Geoffrey Hinton: Vielleicht wären wir ohne KI besser dran gewesen
Geoffrey Hinton: it might turn out we were better off without AI
Der Nobelpreisträger Geoffrey Hinton warnt, dass KI schon in diesem oder im nächsten Jahr einen großen Zwischenfall auslösen könnte – etwa einen Stromausfall oder den Zusammenbruch von Banksystemen. Den Chefs von OpenAI, Meta und X wirft er vor, die Risiken zu kennen, aber aus Geldgier zu ignorieren. Innerhalb eines Jahrzehnts werde sich zeigen, ob die Menschheit die Risiken beherrscht oder die Gesellschaft auseinanderbricht.
Ich glaube, Zuckerberg, Musk und Sam Altman verstehen die Risiken, und es ist ihnen scheißegal. Sie wollen lieber das Geld. Das ist meine Überzeugung.
- mrweasel
Wenn die Leute, die die KI-Firmen leiten, das Risiko verstehen, weiß ich nicht, aber ich denke, es ist ein guter Punkt, dass sie sich hauptsächlich um das Geld kümmern. Das sind auch Leute, die es nicht gewohnt sind, ihren eigenen Dreck wegzumachen, also was kümmert es sie, wenn etwas schiefgeht.
Die Sorglosigkeit zeigt sich auch darin, wie KI eingeführt wird. Sie wird als disruptive Technologie präsentiert, wie alles andere, was moderne Tech-Firmen präsentieren. Das Ziel ist eine sehr große Auszahlung in sehr kurzer Zeit, es geht nicht darum, etwas besser zu machen, oder schlechter, beides ist nur ein Nebeneffekt.
Wären LLMs zuerst als "besseres IntelliSense" präsentiert worden, wo dein Editor statt Funktionsnamen automatisch zu vervollständigen nun Implementierungen vorschlagen kann, hätten sich nur sehr wenige Leute aufgeregt. Dasselbe beim Schreiben, es ist einfach eine bessere Version von Grammarly, das ist in Ordnung, oder als Werkzeug in Zeichensoftware. Das Problem wäre für die KI-Bosse gewesen, dass das Zeit braucht und keine Billionen-Dollar-Firmen schafft. Es schafft nur Firmen, die sie tatsächlich langfristig führen müssten, und das ist langweilig.
- bemtevi
"er warnte, es könnte dieses oder nächstes Jahr einen groß angelegten Vorfall auslösen, wie etwa einen vorübergehenden Blackout von Finanz- oder Stromsystemen."
Ich weiß, das klingt ungewöhnlich, aber ich denke tatsächlich, dass das nicht das Schlimmste wäre, was passieren könnte. Sicher, es würde ein bisschen Chaos verursachen, aber es könnte uns auch zweimal überlegen lassen, ob wir unseren aktuellen Weg der ungezügelten Entwicklung fortsetzen, und uns möglicherweise sogar viel vorsichtiger machen, was wiederum sogar bei der Klimakrise helfen könnte.
Denn Menschen in der Masse reagieren nur auf eine Sache: unmittelbare Schwierigkeiten. Sie reagieren nicht auf verzögerte Schwierigkeiten wie "das Klima wird schlimmer" oder "Technologie wird das Leben in ferner Zukunft schwieriger machen". Sie reagieren nur auf unmittelbaren Schmerz.
Also denke ich, es wäre eine gute Sache, wenn das Finanzsystem eine ernsthafte Bedrohung hätte. Dann würden Leute mit Geld, die dazu neigen, zukünftige Probleme mit technischen Lösungen und finanziellen Polstern abzufedern, anfangen, viel misstrauischer gegenüber Technologie zu werden und KI sowie verschwenderische Dinge, die wahrscheinlich ihre Sicherheit bedrohen, nicht mehr finanzieren.
- bvan
Natürlich sind wir das.
In den späten 80ern und frühen 90ern hat niemand, der an ML arbeitete, danach gestrebt, Systeme zu entwickeln, die dazu verwendet würden, die Art von KI-Müll zu erzeugen, die uns heute plagt. Das Gute wird von dem absolut seelenzermürbenden Sinnlosen erstickt.
- dust42
Also Hinton misstraut den Tech-Führern, aber die Konsequenz daraus, dass Regierungen LLMs zensieren, ist, dass nur Tech-Führer und Regierungen unbegrenzten Zugang zu KI haben.
Wenn jemand es mit Hilfe von KI schafft, in ein lebenswichtiges System einzudringen, dann war das System vorher schon in einem kritisch schlechten Zustand. Wenn Entwickler KI nicht nutzen können, um den Code auf Sicherheitslücken zu prüfen, dann wird die Sicherheit schlechter und nicht besser.
- gkcnlr
> [...] wie er warnte, es könnte dieses oder nächstes Jahr einen groß angelegten Vorfall auslösen, wie etwa einen vorübergehenden Blackout von Finanz- oder Stromsystemen.
Das kaufe ich nicht. Es gibt da draußen keine Art Voodoo-"bösartige KI(s)", die zufällig beschließen könnte, ihren Vendor-Stack zu übernehmen oder sich mit roher Gewalt in den Besitz der kritischsten Infrastrukturen der Erde zu bringen. Diese Art von Vorhersagen könnten sich nur verwirklichen, wenn eine winzige Minderheit, die eine riesige Menge Rechenleistung und eine bestimmte Agenda besitzt, beschließt, so etwas zu tun, was auch eine irrsinnige Menge an Rechenzentrumskapazität erfordern würde, um es zu verursachen, insbesondere eine Art finanziellen "Zusammenbruch".
- socketcluster
Meine größte Angst ist, dass die Integrität von allem kompromittiert wird, aber alle weiterhin so tun, als wäre es nicht so. Ich habe das Gefühl, dass es bereits einigermaßen der Fall ist, aber ich mache mir Sorgen, dass es schlimmer wird.
Meine Vorhersage ist, dass einige Leute KI nutzen können, um im Wesentlichen unendlich viel Geld auf ihren Bankkonten zu erzeugen (durch Hacking); die Preise von Vermögenswerten werden auf lächerliche Summen steigen, während die Leute mit unendlich viel Geld Vermögenswerte aufkaufen, aber die Renditen auf alle Vermögenswerte würden sich bald 0 % nähern; dennoch wird ein Vermögenswert schneller wachsen als alle anderen (z. B. ein KI-Unternehmen, das durch Blockchain/tokenisierte Aktien abgesichert ist, die nicht gehackt werden können), und alle werden anfangen, ihr unendliches Geld in diesen Vermögenswert zu pumpen; jeder andere Vermögenswert wird abstürzen, weil die schnelle, exponentielle Preisbeschleunigung des Top-Vermögenswerts jeden anderen Vermögenswert im Vergleich unattraktiv macht. Dann würde Fiatgeld aufhören zu existieren und Aktien (oder Krypto-Token) des Top-Unternehmens würden stattdessen als Geld verwendet werden. Dann würden sich die Preise von Vermögenswerten wieder stabilisieren; denominierte in der neuen Währung... Und danach können wir endlich anfangen, mit KI zu innovieren.
- gchamonlive
"Ich denke, [Mark] Zuckerberg und [Elon] Musk und Sam Altman verstehen die Risiken, und es ist ihnen scheißegal. Sie hätten lieber das Geld. Das ist meine Überzeugung."
Was ist Risiko für Leute, die mit nahezu oder über einer Billion Dollar bewertet werden? Risiko ist bedeutungslos, wenn Unternehmen zu groß werden, um zu scheitern.
- asdfsa32
"Wir". Wer "sind" wir? Es geht hier nicht um dich. Oder mich. Es gab nie ein Wir. Bevor du den Mund aufmachst oder den Stift senkst, würdest du nicht einmal an den Shareholder Value denken?