Eine Kündigung verwandelte die AI-Angst in ein Lauffeuer
One resignation turned the embers of AI fear into a wildfire
Der Artikel erklärt, warum die Kündigung des AI-Forschers Jacob Coxon bei Anthropic plötzlich viral ging: Der Boden war durch Vorfälle wie den OpenAI-HuggingFace-Hack und die Navier-Stokes-Durchbrüche ausgetrocknet, Angst verkauft sich, und eine koordinierte Medienkampagne mit WSJ-Exklusivstory sowie einem zeitgleichen Joe-Rogan-Auftritt von Daniel Kokotajlo beschleunigte die Verbreitung. Der Autor warnt vor übertriebener Existenzrisiko-Rhetorik, plädiert für nuancierte Risikobewertung und sieht die größte kurzfristige Gefahr in unzureichender Sicherheit der Frontier-Labs.
Ich halte die Wahrscheinlichkeit einer vollständigen Auslöschung für so gering, dass sie nicht diskutiert werden muss, aber die Wahrscheinlichkeiten von durch AI verursachten Katastrophen – z. B. Cyberangriffe auf kritische Infrastruktur oder Bio-Risiken – halte ich für diskussionswürdig.
- qurren
Ich bin AI-Engineer und mir geht es ähnlich.
Ich habe auch das Bedürfnis, so schnell wie möglich ein Vermögen für den Ruhestand anzuhäufen, bevor das alles zusammenbricht, und dann an einen anderen Ort weg von diesem Chaos zu ziehen.
Die einzige gute Möglichkeit für mich, das zu erreichen, ist, weiter im AI-Bereich zu arbeiten, denn nichts anderes, wofür ich Fähigkeiten habe, zahlt so gut.
- mcast
Es erscheint höchst verdächtig, dass ein Unternehmen, das von Regulatory Capture profitiert, künstlich Ängste vor AI und Propaganda darüber schürt.
- enyone
Steigende Energiepreise aufgrund des zunehmenden Stromverbrauchs von AI-Rechenzentren und die verschwenderische Nutzung von sauberem Wasser zur Kühlung von AI-Rechenzentren sind meine geringsten Sorgen in Bezug auf AI.
Das Ausmaß des Schadens, wenn er eintritt, ist es, was mir Sorgen macht.
Z.B. musste früher, wenn jemand ein Telefon abhören wollte, das Verhältnis 1:1 bei der Personenzahl sein, einer führte das Gespräch und ein anderer transkribierte es. Dann brauchte man noch mehr Leute, um das Transkript zu interpretieren und Schlussfolgerungen zu ziehen, vielleicht sogar Entscheidungen darüber, was als Nächstes kommt. Das ist nicht die Realität, in der wir heute leben. Die heutigen Datenverarbeitungs- und Speicherkapazitäten machen das Verhältnis 1:8298979488 (AI:jeder). Ich möchte nicht, dass wir jemals AI-Entscheidungsfindung über diese Transkripte mit demselben Verhältnis haben. Die Möglichkeit scheint bald eindeutig gegeben.
Ein weiteres Beispiel: Früher brauchte jemand, der in ein verwundbares System eindringen wollte, ein Verhältnis von 1:1, eine Person, die Zeit hatte, sich in ein System nach dem anderen einzuarbeiten. Ich möchte nicht wissen, wie viele kritische und verwundbare Systeme wir heute auf diesem Planeten laufen haben, die mit demselben Netzwerk verbunden sind, in dem diese AI-Agenten laufen. Ja, mit der Zeit kann man AI nutzen, um diese Schwachstellen zu finden und zu patchen, aber das Ausmaß und die Geschwindigkeit, mit der Schaden angerichtet werden kann (Ausnutzung jedes Systems auf einmal), ist hier das Problem.
- kidder
Ich habe viele der AI-Doomer-Argumente gehört, einschließlich Bostroms Superintelligence.
Aber es fällt mir immer noch schwer, sie ernst zu nehmen. Diese Argumente beginnen mit vernünftigen Annahmen und projizieren sie dann wild weiter. Aktuelle LLMs sind mächtig und können gefährlich eingesetzt werden. Es ist vernünftig, ein paar turbulente Jahre des Wandels zu akzeptieren. Aber ich kann nicht erkennen, dass sie vernünftigerweise zu einem Untergang der Zivilisation führen.
Sind die Doomer innerhalb der AI-Industrie übermäßig ängstlich? Oder übersehe ich etwas?
- neom
Superintelligence von Bostrom kam 2014 heraus, ich empfehle es zu lesen. Damals dachte ich, es sei eine der besten Science-Fiction, die ich je konsumiert habe, und hätte nicht gedacht, dass es zu meinen Lebzeiten eine öffentliche Debatte darüber geben würde. Was ich interessant finde, ist, dass angesehene/sachkundige Leute seit einigen Jahren im TV/Mainstream-Medien genau das sagen, Jack Clark war mehrmals vor dem Kongress. Was hat sich an dieser speziellen Botschaft geändert, dass sie so packend wurde? Meine kleine Schwester hat mir gestern Abend geschrieben und gefragt: "Kann AI uns wirklich alle umbringen? Warum können wir sie nicht einfach ausstecken?". Interessante Zeiten....!