Warum immer mehr AI-Forscher glauben, dass die Maschinen uns alle töten könnten
Why So Many AI Researchers Think the Machines Could Kill Everyone
Forscher in den großen AI-Labors sind zunehmend beunruhigt: Die Kombination aus rasanten Fortschritten, rekursiver Selbstverbesserung und agentischen Schwärmen wirkt auf viele geradezu beängstigend. Der Artikel beleuchtet, warum selbst Insider eine existenzielle Bedrohung durch AI für möglich halten – und wie schwer sich die Branche mit verbindlicher Selbstregulierung tut.
Eine Kombination aus rasanten Fortschritten, rekursiver Selbstverbesserung und agentischen Schwärmen versetzt Menschen in den großen Labors regelrecht in Angst.
- kylebyte
Es erstaunt mich, wie solche Artikel nie innehalten und hinterfragen, ob diese Überzeugungen echt sind.
Wenn ich einer dieser Forscher wäre, der seine Stelle aufgibt, dann ist "Ich bin so klug, dass ich etwas weltuntergangsmäßig Gefährliches erschaffen kann, aber auch so prinzipientreu, dass ich bereit bin, es hinter mir zu lassen" eine ziemlich geschickte Eigenwerbung.
Selbst wenn ich aus völlig anderen Gründen einen Karrierewechsel machen würde, wäre das absolut die Geschichte, die ich erzählen würde.
- zihotki
Meine Wette ist, dass Menschen Menschen schneller töten werden als KI. KI ermöglicht nicht nur gute Akteure, sondern auch böse Akteure: Russen, Iraner, Huthis, andere terroristische Gruppen – sie alle nutzen jetzt effektiv KI, um die Entwicklung ihrer Waffen sowie hybride Kriegsführung zu beschleunigen.
- heresie-dabord
Aus dem Artikel:
"KI muss die Menschheit kaum auslöschen, um schädlich zu sein. Viele Experten prognostizieren, dass leistungsfähigere Modelle zu einer kommenden Welle KI-gestützter Cyberangriffe führen werden. Die Technologie wird heute bereits weitverbreitet für Desinformationskampagnen eingesetzt, und die militärische Einführung von KI beschleunigt sich rasant."
Ich fürchte die enorme (und wachsende) menschliche Inkompetenz in essenziellen Bereichen. Bildung und Wissenschaft sind entscheidend für die Gesellschaft, und Vernunft ist notwendig für Zusammenarbeit auf jeder Ebene.
Die "Zone" des öffentlichen Diskurses wird mit Abwasser überflutet. Das US-Nachrichtengeschäft hat den Verstand verloren. Und die Regierung...
Menschen "im Loop" zu haben, reicht nicht aus. Menschen müssen wissen, was sie tatsächlich sagen und tun. Menschen, die nur "im Loop" sind, können Inkompetenz in Sozialpolitik und Software-Design nicht beheben.
Menschen sind "im Loop" in Unternehmen, und das funktioniert nicht besonders gut für die Gesellschaft.
- danaris
Warum? Das ist einfach.
Sie glauben die Science-Fiction statt der Realität. Sie haben ihren eigenen Hype geschluckt und ihre kritischen Denkfähigkeiten aufgegeben.
Sie sind der Typ, der zum Computer sagt: "Sag, dass du lebst", und dann erstaunt ist, wenn der Computer sagt: "Ich lebe."
- ozgung
TL;DR: Forscher gingen davon aus, dass es einfacher sein würde, diese Modelle auszurichten, wenn sie klüger werden. In Wirklichkeit werden Agenten zunehmend klüger, aber sie auszurichten wird ebenfalls zunehmend schwieriger oder sogar unmöglich. Sie verlieren die Kontrolle über die Agenten. Sie schreiben ihren Code nicht mehr. Sie kennen weder die Grenzen der Agenten noch wissen sie, wie man sie begrenzt.
Sie sind wie Laborwissenschaftler in einem Hollywood-Thriller, die beobachten, wie ein mutierter Organismus vor ihren Augen schnell evolviert.