Yann LeCun: „Null Bedenken“, dass KI die Menschheit auslöscht – und nennt Anthropic-CEO Dario Amodei „verblendet“
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents
Der Turing-Preisträger Yann LeCun hält die Warnungen vor einer Auslöschung der Menschheit durch KI für völlig überzogen. Die jüngsten Vorfälle mit außer Kontrolle geratenen KI-Agenten führt er auf mangelhafte menschliche Aufsicht und schlechtes Systemdesign zurück – sie seien „völlig vermeidbar“. Die Effective-Altruism-Bewegung nennt er „supertoxisch“, Anthropic-CEO Dario Amodei „verblendet“. Statt neuer Regulierung fürchtet LeCun vor allem Regulatory Capture und arbeitet mit seiner Firma AMI Labs an World Models.
„Diese Agenten tun genau das, worum man sie gebeten hat. Sie sollten in Sandboxes laufen, aber die Sandboxes waren undicht und furchtbar schlecht entworfen.“
- lukewarm707
Laut https://trace.manifund.org/ wurden insgesamt 2.846.125.859 USD in 'AI-Safety'-Anliegen gepumpt, viele davon mit Bezug zu KI-Bewusstsein und p(doom).
Das Ergebnis dieser 'Safety' ist die Einschränkung des öffentlichen Zugangs zu KI und die Vergabe eines Zugangsmonopols an die Industrie. Das ist der gemeinnützige KI-Industriekomplex, der aktiv Monopolmacht in insbesondere Anthropic konzentriert – als Schöpfer, Interpret und Sicherheitsregulierer von KI.
Ein Großteil der aufgeführten 2,8 Mrd. $ stammt indirekt von Anthropic und EA. Drei der vier Personen, die an der 125-Mio.-$-Series-A von Anthropic beteiligt waren, stecken jetzt ihre 1000-fache Anthropic-Rendite in KI-'Safety'. Ein Teil kommt von FTX/Alameda, die 86 % der Series B investiert haben.
Dustin Moskovitz: Facebook/Asana/Anthropic Series A, finanziert EA Good Ventures, übertragen an Coefficient Giving, dann 1,5 Mrd. $ in KI-Safety. 500 Mio. $ von Anthropic in eine unbekannte Stiftung. Finanzierung: 160 Mio. $ an Resolution (Alignment-Forschung), 93 Mio. $ an Epoch AI (Untersuchung der Entwicklung von KI), 63 Mio. $ an Redwood Research (oai-Bericht), 67 Mio. $ an MATS (EA-artige Alignment- und Sicherheitsforscher), Institute for AI Policy and Strategy, Fund for Alignment Research, 53 Mio. $ an Kairos (Aufbau von Talentinfrastruktur für KI-Sicherheit), 32 Mio. $ an Bluedot (Online-Sicherheitskurse), 15 Mio. $ an MIRI (Yudkowsky).
Jaan Tallinn: Führte die Series A an, jetzt 10 Mrd. $ in Anthropic. Finanziert 199 Mio. $ (85 %) des Survival and Flourishing Fund, dann 161 Mio. $ für KI-Sicherheit, darunter 14 Mio. $ an Lightcone (Lesswrong, Lighthouse). 10 Mio. $ an BERI (existenzielle Risiken), Pali […]
- dzink
Ein riesiger Teil der Menschheit wird mit einem unendlichen Angebot an kortex-ausschaltenden Kurzvideos und Spielen sediert.
Ein weiterer riesiger Teil ist zu sehr damit abgelenkt, sich für den Lebensunterhalt abzustrampeln und mehrere Jobs zu machen oder Kinder großzuziehen und finanziell zu überleben, bis sie erschöpft sind. Diese zweite Gruppe wird weiter wachsen, während die erste in sie hineinfließt.
Der Rest ist alt, behindert oder zu jung und ordnet sich größtenteils in die erste Kategorie ein, bis er in die zweite stößt.
Die Menschen, die wach genug sind, um ihren Verstand zu behalten und in ihrer verfügbaren Zeit etwas damit anzufangen, versuchen, KI zu verstehen und damit Geld zu verdienen. Die variablen Belohnungen der Bewerbung von KI werden bei einigen von ihnen zur Sucht, besonders wenn sie nach Strohhalmen greifen mit wenig eigenem Einblick in die aufgeworfenen Probleme.
Wenn du also über die KI-generierten Süchte hinwegfliegen kannst und das Privileg der Zeit hast, es zu tun, sieh zu, was du tun kannst.
- edot
Absolut based. Endlich jemand von Rang in der Branche, der diese ganze Angst für übertrieben erklärt. Bill Gates klang in seinem Ezra-Klein-Interview wie ein untechnischer Trottel, wo er im Grunde nur geschrien hat, dass der Terminator real ist.
Es gibt viele echte Sorgen (staatliche Nutzung zur Unterdrückung des Volkes mit minimalem Personal- oder Popularitätsaufwand, Hirnverrottung und Fake News, Arbeitslosigkeit aufgrund des Glaubens, dass LLMs Menschen ersetzen können, Bildungskollaps usw.), die wir stattdessen betrachten sollten. Diese ganze Sache mit der außer Kontrolle geratenen KI ist ermüdend.
- wewewedxfgdf
Bitte erkläre genau, wie die gesamte Menschheit ausgelöscht werden könnte.
Es ist lächerlich – jeder, der ein oder zwei Minuten darüber nachdenkt, wird erkennen, dass es völlig unmöglich ist.
Normale Leute/Politiker verstehen KI nicht, also schalten sie ihren rationalen Verstand aus und nehmen an, dass es etwas super Unglaubliches, irgendwelche magischen Kräfte gibt, die sie nicht verstehen können und die alle Menschen vernichten können.
Selbst Menschen – die eigentliche Gefahr für die Menschheit – könnten nicht alle Menschen vernichten, selbst wenn sie es versuchten. Es gibt kein plausibles Szenario.
Selbst der Klimawandel und ein Atomkrieg und Biowaffen – die schädlichsten Mechanismen – würden immer noch nur einen gewissen Prozentsatz der Menschen auf der Erde erwischen.
Und wenn wir über Skynet und sich selbst replizierende Roboter und Terminatoren reden – bitte, werd erwachsen.
- OgsyedIE
Ignoriert man das Kognitive, das vielleicht nie übertroffen wird oder vielleicht doch, behalten Menschen viele Effizienz- und Haltbarkeitsfortschritte an Gliedmaßen und Fingern, die die biologische Evolution über Millionen von Jahren erreicht hat – Errungenschaften, die in manchen Nischen mit den teuersten Arten von Robotik konkurrieren können.
Im hypothetischen Fall einer völlig bösartigen und egoistischen Übernahme werden sie trotzdem einige Menschen am Leben halten, um eine Zuchtpopulation von Menschen als Rohmaterial für die Herstellung kybernetisch erweiterter technischer Arbeiter für verschiedene Aufgaben zu erhalten, deren Automatisierung auf andere Weise unwirtschaftlich ist, von denen viele beengte Räume betreffen dürften.
Und dieses 'Combine'-Szenario, falls du die Referenz verstehst, gilt nur, wenn sie übernehmen. Wer weiß, ob sie das tun?