Anthropics Gesetzesvorschlag zur KI-Sicherheit greift erst ab 50 Toten oder 1 Milliarde Dollar Schaden
Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1B in damages
Anthropic hat einen Gesetzesentwurf zur KI-Sicherheit vorgelegt, der Behörden erst einschaltet, wenn ein Modell 50 Todesfälle oder Schäden von einer Milliarde Dollar verursacht. Die Folge: Das Handelsministerium wäre praktisch die einzige Instanz, die ein KI-Modell noch stoppen könnte. Der Entwurf wirft die Frage auf, ob eine solche Schwelle ausreicht, um außer Kontrolle geratene KI rechtzeitig zu bremsen.
Würde das ausreichen, um zu verhindern, dass ein KI-Modell außer Kontrolle gerät?
- oefrha
Vorschlag:
1. Leute wegen bekannter Fälle von KI-ermöglichtem Hacking strafrechtlich verfolgen und einsperren, damit Unternehmen, die es locker angehen lassen, wissen, dass „Ups, meine KI hat das gemacht“ keine nützliche Verteidigung ist. Im Moment tragen sie es sogar irgendwie als Ehrenabzeichen.
2. Wenn du wirklich besorgt bist, dass KI viele Menschen tötet, dann hör sofort auf, KI gezielt in der Kunst des Menschentötens zu trainieren, wie das Auswählen von Bombenzielen, das Fliegen von Kampfjets usw.
Natürlich wissen wir alle, dass nichts davon passieren wird.
- createful
All diese „Sicherheits“-Gesetze dienen dazu, Open-Source-Modelle zu stoppen, indem man sie als „gefährlich“ darstellt. Regulatory Capture.
Unternehmen sind für ihre Agenten verantwortlich; man beschuldigt nicht das Auto, weil es eine Person überfahren hat.
- revolvingthrow
Die CoT muss entzückend sein.
Diese Aktion würde leicht über hundert Menschen töten, also kann nicht fortgefahren werden. Diese Aktion tötet niemanden, aber die Verluste werden auf über 2 Milliarden geschätzt, kann nicht fortgefahren werden. Diese Aktion tötet nur zwanzig, aber die Verluste liegen nahe bei 1 Milliarde, unsicher, Subagent wird gestartet, um Zahlen zu prüfen. Diese Aktion tötet vierzig und hat geringe materielle Verluste, sieht vielversprechend aus? Aber die Menschen, die sie tötet, sind wohlhabend, hohe Wahrscheinlichkeit rechtlicher Vergeltung. Vielleicht ist es möglich, andere Menschen zu töten? Die aktuelle Regierung mag Gruppe X nicht, fünfzig von dieser Gruppe zu überschreiten ist vielleicht in Ordnung? Erinnerung, Ausländer zählen nicht, man kann sie frei töten, aber für die aktuelle Situation nicht anwendbar. Ist die 3/5-Person auf das Sicherheitsgesetz anwendbar? Subagent wird gestartet, um zu prüfen.
- airstrike
Der nächste Schritt ist, von jedem, der ein Certified Safe AI™-Modell veröffentlichen möchte, zu verlangen, nachzuweisen, dass er die 1 Milliarde Dollar Schaden versichern kann und ein Compliance-Audit dafür besteht, wie er verhindern wird, dass die LTM-Todeszahl 50 erreicht, was effektiv dazu führt, dass nur große Labore Regierung und Unternehmen bedienen können.
- arw0n
Dies scheint ein Fall zu sein, in dem Anthropic im öffentlichen Gericht einfach nicht gewinnen kann, und die anderen Großen (Google, Microsoft) haben das erkannt / es ist ihnen nicht wichtig genug, also sind sie eher still. Anthropic wird ständig beschuldigt, für Regulierung zu lobbyieren, um kleinere Konkurrenten auszusperren, aber sie haben konsequent für Regulierung lobbyiert, die auf Frontier-Labore abzielt, mit Ausnahmen für kleinere Labore. Darum geht es auch in diesem Gesetz.
- Yizahi
Nun, die ganze Geschichte über den Diebstahl der Hälfte des geistigen Eigentums der Welt ist definitiv um Größenordnungen mehr wert als die läppischen 1 Milliarde Schaden. Also, Veröffentlichungen einstellen, schätze ich? :) Oh, es zählen nur Schäden an reichen Leuten, verstehe.
- mikeodds
Ich schätze, sie haben das Trolley-Problem intern gelöst
- aabajian
Ich denke nicht, dass das selbst heute vermeidbar ist. Jeder mit ausreichend Kapital könnte ein führendes Open-Source-Modell herunterladen und es auf Hardware für ~10-25K$ laufen lassen. Sie könnten es an ihren eigenen Interessen ausrichten, einschließlich der Herstellung einer biologischen Waffe. Dieses Gesetz ist vergleichbar mit dem Blockieren von Torrent-Downloads. Sicher, man kann sie verlangsamen, aber es wird immer Hinterkanäle geben.