Elf KI-Insider warnen: Die letzten 24 Stunden sind die Eröffnungsszene eines Horrorfilms
The Last 24 Hours Are the Opening Scene in a Horror Movie
Ted Gioia dokumentiert eine bemerkenswerte Welle von Warnungen aus dem Inneren der KI-Branche: Innerhalb eines Tages meldeten sich zahlreiche Insider von OpenAI, Anthropic und Google zu Wort und warnten, die Technologie könnte noch vor Ende des Jahrzehnts alle Menschen töten. Gioia sieht darin den Moment, in dem aus verstreuter Kritik eine echte Widerstandsbewegung wird – und fordert eine Reaktion der höchsten politischen Ebenen.
Billionen von Dollar fließen in eine außer Kontrolle geratene Technologie, und die Öffentlichkeit hasst sie bereits intensiv. Jetzt warnen die Leute, die sie vorantreiben, dass sie womöglich alle umbringen könnte.
- klik99
Mir ist eine seltsame Sache am Diskurs zu diesem Thema aufgefallen: Es kann nur entweder eine Marketing-Sache oder ein echter Glaube sein, als hätten alle, die im Bereich KI arbeiten, eine monolithische Meinung. Der Tweet, der diesen Artikel ausgelöst hat, enthält diese Annahme: „Es ist keine Marketing-Sache, viele Leute glauben wirklich daran.“
Es ist kein Entweder-oder. Viele aufrichtig vertretene Überzeugungen können von zynischen Akteuren auf zynische Weise genutzt werden. Es kann sowohl ein zynischer Marketing-Trick der Führungsetage als auch eine echte Angst sein.
Persönlich sind meiner Erfahrung mit KI nach die einzigen Gefahren der aktuellen Technologie a) massiver Arbeitsplatzverlust, b) der Einsatz durch Menschen zur Steuerung kritischer Infrastruktur, die nicht von LLMs kontrolliert werden sollte. Beides sind reale, gesellschaftsverändernde Risiken, die dadurch heruntergespielt werden, dass man das Problem als „sobald wir die Singularität erreichen, könnten alle sterben“ darstellt. Natürlich sind ihre Sorgen möglich, aber >10 % ist eine willkürliche Schätzung. Der Verlust von Arbeitsplätzen und die Auswirkungen auf eine ohnehin schon K-förmige Wirtschaft finden bereits statt, und dagegen wird nichts unternommen.
- stephantul
Eine Sache, die ich an diesem Diskurs definitiv nicht verstehe, ist, dass die Modelle, die gut genug für Selbstreplikation sind, nicht auf normalen Maschinen überleben können, z. B. können sich die Modelle nicht auf irgendeinem beliebigen Server verstecken.
Wenn es also so gefährlich ist, wie sie sagen: Es gibt eine einzige physische Quelle dieser Gefahr, nämlich die Server von OpenAI/Anthropic. Wenn es so gefährlich ist, können sie es einfach abschalten.
Stattdessen tun wir weiter so, als wären die Modelle, die HF angegriffen haben, auf HF-Hardware gehostet worden oder hätten sich dort repliziert. Das ist nicht der Fall! Sie sind dort eingedrungen, wurden aber woanders gehostet.
- mrzimmerman
Vielleicht habe ich es im Blogbeitrag hier übersehen, und ich stimme generell zu, dass das Entwicklungstempo von finanziellen Anreizen bestimmt wird und nicht von Sicherheit oder der Vermeidung von Schaden, aber hat irgendjemand in einer hohen Position erklärt, _wie_ Modelle die Auslöschung der Menschheit verursachen könnten?
Ich nehme an, die offensichtliche Antwort ist: „Wir haben die Waffenkontrollplattformen unseres Militärs an dieses Modell angeschlossen, und es hat alle Atomwaffen abgefeuert“, was eindeutig ausreicht. Ist es das, oder gibt es einen anderen Weg zur globalen Auslöschung, über den sich jemand Sorgen macht?
Nur zur Klarstellung: Ich bin kein KI-Fan, der sich über Skeptiker ärgert. Tatsächlich empfinde ich KI beim Programmieren meistens als Affenpfote statt als Flaschengeist und den Rest der Zeit als aufdringliche Funktion, die ich weder will noch nutze.
Ich frage, weil ich diese Beiträge sehe und eine KI, die an ein Netzwerk von Weltuntergangswaffen angeschlossen ist, offensichtlich ein riesiges Problem wäre, aber dann spricht der Autor nur über Cybersicherheitsvorfälle und Fehlverhalten von Modellen. Beides sind berechtigte Sorgen, aber ich würde gerne konkretere Informationen von den Leuten hören, die ihre Bedenken äußern, was sie vorhersehen, auch wenn es einfach eins zu eins aus dem Film War Games übernommen ist.
- cors-fls
Die in den Artikeln genannten Personen gehören zweifellos zu den bestinformiertesten Menschen der Welt. Sie sind aber auch am anfälligsten dafür, internalisiert zu haben, dass ihre Arbeit zu superhumaner Intelligenz/AGI führt. Aber ist das wirklich realistisch?
Sie haben also eine starke Verzerrung hin zur Vorstellung des katastrophalsten Szenarios.
- roarcher
> Im Allgemeinen gilt: Je höher die Position des Mitarbeiters, desto besorgter ist er.
Im Allgemeinen gilt: Je höher die Position des Mitarbeiters, desto mehr Unternehmensanteile besitzt er.
- ChiperSoft
Es klingt, als versuchten sie alle, Argumente dafür zu liefern, warum die Regierung sie als eine Art neues Manhattan-Projekt aufkaufen sollte.
Sie wissen, dass der Markt nicht für ihre große Auszahlung einsteigen wird.
- spindump8930
> Vielleicht habt ihr schon von dem Typen gehört, der bei OpenAI gekündigt hat.
Obwohl er sowohl bei OpenAI als auch bei Anthropic gearbeitet hat, kündigte er bei Anthropic. Falsche Berichterstattung in den ersten paar Sätzen, definitiv ein Horror-Konzept.
- mwkaufma
Über zukünftige technologische Risiken zu spekulieren, macht zumindest mehr Spaß, als unmittelbare systemische finanzielle Risiken anzuerkennen.