Yann LeCun: „Null Bedenken“, dass KI die Menschheit auslöscht – und nennt Anthropic-CEO Dario Amodei „verblendet“
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents

Der Turing-Preisträger Yann LeCun hält die Warnungen vor einer Auslöschung der Menschheit durch KI für völlig überzogen. Die jüngsten Vorfälle mit außer Kontrolle geratenen KI-Agenten führt er auf mangelhafte menschliche Aufsicht und schlechtes Systemdesign zurück – sie seien „völlig vermeidbar“. Die Effective-Altruism-Bewegung nennt er „supertoxisch“, Anthropic-CEO Dario Amodei „verblendet“. Statt neuer Regulierung fürchtet LeCun vor allem Regulatory Capture und arbeitet mit seiner Firma AMI Labs an World Models.
„Diese Agenten tun genau das, worum man sie gebeten hat. Sie sollten in Sandboxes laufen, aber die Sandboxes waren undicht und furchtbar schlecht entworfen.“
- Zigurd
LLMs, plus broadly sourced yet expertly curated training sources, plus clever harnesses, plus RAS, etc. do an ever better job of synthesizing their training set into useful responses. For some use cases like coding, that's very useful now and likely to get at least somewhat better before reaching limitations based on the training set.
That's not going to reach AGI, mainly because today's recipe for AI products isn't built to be AGI. Some people believe it will reach AGI because the performance and applicability of LLMs was emergent. There's a case to be made that AGI could be similarly emergent. After all, what we intuitively call our consciousness emerged from a network of neurons.
I don't buy it, mainly because the network of neurons and how they interact in our wet slow electrochemical brains, while being in theory mathematically equivalent to a software neural network, isn't sufficiently well understood to tell us how close the software neural network is to being practically equivalent. The odds of consciousness emerging from the same neural network that gave us LLMs without some sort of theoretical breakthrough seems very small.
- stratos123
LeCun sagte auch schon 2022, dass "wenn man eine Maschine, so mächtig sie auch sein mag, seinen 'GPT-5000', auf Text trainiert", sie niemals grundlegende Alltagsphysik lernen wird, wie dass Objekte, die auf Tischen platziert werden, sich mit ihnen bewegen.
- dzink
Ein großer Teil der Menschen wird mit einem unendlichen Angebot an kortex-deaktivierenden Kurzvideos und Spielen sediert.
Ein weiterer großer Teil ist zu sehr abgelenkt davon, sich für den Lebensunterhalt abzustrampeln und mehrere Jobs zu machen oder Kinder großzuziehen und finanziell zu überleben, bis sie erschöpft sind. Diese zweite Gruppe wird weiter wachsen, während die erste in sie hineinfließt.
Der Rest ist alternd, behindert oder zu jung und ordnet sich größtenteils in die erste Kategorie ein, bis sie in die zweite kommt.
Die Menschen, die wach genug sind, um ihren Verstand zu behalten und in ihrer verfügbaren Zeit etwas damit anzufangen, versuchen, KI zu verstehen und herauszufinden, wie man damit Geld verdient. Die variablen Belohnungen der Förderung von KI werden für einige von ihnen zur Sucht, besonders wenn sie nach Strohhalmen greifen, ohne wirkliche Einsichten in die aufgeworfenen Probleme.
Wenn du also in der Lage bist, über die von KI erzeugten Süchte hinwegzufliegen und das Privileg der Zeit dazu hast, sieh zu, was du tun kannst.
- edot
Absolut based. Endlich jemand von Rang in der Branche, der diese ganze Angst für überzogen erklärt. Bill Gates klang in seinem Ezra-Klein-Interview wie ein untechnischer Trottel, als er im Grunde nur schrie, dass der Terminator real ist.
Es gibt viele echte Sorgen (staatliche Nutzung zur Unterdrückung des Volkes mit minimalem Personal- oder Rückhalt in der Bevölkerung, Hirnverrottung und Fake News, Arbeitslosigkeit aufgrund des Glaubens, dass LLMs Menschen ersetzen können, Zusammenbruch des Bildungssystems usw.), die wir stattdessen betrachten sollten. Diese ganze Nummer vom außer Kontrolle geratenen KI ist ermüdend.
- figassis
"Er führt die Vorfälle auf schlechte menschliche Aufsicht und Systemdesign zurück und sagt, sie seien 'völlig vermeidbar'" – ich weiß, dass die Leute ihn respektieren, aber das klingt wie jemand, der dafür bezahlt wird, das zu sagen. Sind nicht die meisten Aussterberisiken mit besserer menschlicher Aufsicht und Systemdesign vermeidbar? Ich meine, ein Asteroid könnte uns treffen, aber abgesehen davon ist es nicht der Punkt, über ein Problem zu sprechen, dass wir es verhindern können, und dass das Scheitern dazu führt? Was sagt er, das ich nicht verstehe?
- yewenjie
LeCun lag in den letzten zehn Jahren durchweg falsch, ich bin mir nicht sicher, warum er immer noch Gehör findet.
Edit: Ich bin mir sicher, es ist Verleugnung.
- Symmetry
Yann LeCun und Andrew Ng sind bemerkenswert als die einzigen beiden großen Namen in der KI, die diese Meinung vertreten.
- mdp2021
> Insbesondere baut AMI Weltmodelle, die JEPA (Joint Embedding Predictive Architecture) nutzen, eine neuronale Netzarchitektur, die LeCun entwickelt hat und die Modelle lehrt, Daten in einem Repräsentationsraum in den mittleren Schichten eines neuronalen Netzes vorherzusagen, anstatt rohe Pixel zu erzeugen, wie es viele konkurrierende Weltmodelle tun, oder Wörter, wie es LLMs tun. // Der Hauptfokus des Unternehmens liegt vorerst auf industriellen Anwendungen. "Es ist KI für die physische Welt, also nicht sprachbezogen", sagte LeCun. "Es sind Systeme, die die reale Welt verstehen, wie ein Fertigungswerk oder ein Turbojet-Triebwerk." Einige der Hauptanwendungen sind Anomalieerkennung oder Robotik: "Wenn Sie eine Maschine haben und sie plötzlich ein seltsames Geräusch macht und anfängt zu brechen, hätten Sie das so früh wie möglich erkennen wollen." Er gab auch das Beispiel eines Systems, das die Welt wie eine Katze verstehen könnte, die zum Beispiel weiß, dass eine Vase herunterfällt, wenn sie sie von der Arbeitsplatte stößt.
Was ist mit der Verwaltung von Konzepten? Die Welt besteht nicht nur aus physischen Entitäten, die in ein Modell eingefügt werden. Was ist mit ihrer Übersetzung in Worte (um z. B. Einschätzungen auszudrücken)?
- pzo
Geoffrey Hinton (der wahre Pate der KI und Nobelpreisträger), der LeCuns Betreuer war, nannte seinen Studenten (LeCun) in einem Interview meines Wissens den Verrückten.
- jswelker
LeCun sagt, KI wird völlig sicher sein, solange wir kompetentes und gut ausgerichtetes Unternehmensmanagement haben.
Was könnte schiefgehen?