Ich leitete ein KI-Sicherheits-Bootcamp für Juristen – und lernte, warum sie die wichtigsten Verbündeten sind
What I learnt co-leading an AI Safety bootcamp for legal and governance practit
Im September veranstalteten ML4Good und EquiStamp in East Sussex das erste European Seminar on Frontier AI and Law: ein fünftägiges Bootcamp für 19 erfahrene Juristinnen, Governance- und Risikofachleute aus 12 Jurisdiktionen. Ich co-leitete die erste Ausgabe und entwickelte die praktischen Übungen. Die zentrale Erkenntnis: Diese Berufsgruppe ist oft intellektuell isoliert, liest bereits KI-Sicherheitsforschung, kann sie aber nicht immer einordnen – und ihr Einfluss auf Verträge, Beschaffung und Regulierung ist ein unterschätzter Hebel.
Viele Forscher hier kennen dieses Gefühl bereits. Was weniger offensichtlich sein mag: Menschen auf der anderen Seite der Gleichung – diejenigen, die Anbieterklauseln prüfen, Verträge verhandeln, Deployments genehmigen und diese Systeme steuern – können etwas bemerkenswert Ähnliches erleben, wenn sie diese Sorgen teilen.
- brunohaid
Ich stimme den meisten anderen äußerst kritischen Kommentaren irgendwie zu. Es ist tatsächlich eine seltsame, abgeschottete Subkultur. Trashfuture hatte diese Woche eine großartige Zusammenfassung:
"Bizarre hypothetische Szenarien, die Machtfantasien, das Sexleben, das nur einen Schritt vom wütenden Piraten entfernt ist. [Es ist, als ob] eine Horde 12-jähriger Amokläufer durch Tom Hanks' Big zu Erwachsenen geworden ist und sie sich in die Regierung dessen eingeschlichen haben, was alle Probleme der Welt lösen und die Wirtschaft ersetzen soll.
...und dann nie etwas tun oder lernen, es ist Posten, Posten, Posten, während sie weder Computer noch die Sicherheitsprobleme verstehen, von denen sie fantasieren. Und uns wird aufgedrängt und eingeredet, dass der Computer nur als magischer Gott verständlich ist, weil er es für Eliezer Yudkowsky tatsächlich ist."
- https://www.youtube.com/watch?v=zcPR6rde1GQ oder
- https://www.patreon.com/trashfuture/posts/last-days-of-17089...
- gausswho
> Der Markt sollte nicht die fähigsten Modelle wählen, sondern die Partner mit den stärksten Anreizen für Sicherheit, und nur eine Gemeinschaft mit diesem Wissen kann das verbreiten.
Streng gelesen behauptet der Autor, dass nur ML4Good oder ein Äquivalent das Wissen hat, vorzuschreiben, welche Modelle wir verwenden sollten. Ich widerspreche dem kategorisch. Oder besser: "Sie liegen nicht einmal falsch", denn "AI safety" wird in diesem Artikel nicht einmal ansatzweise erfasst.
Auf die Gefahr eines Ad-hominem-Arguments hin: Das ist ein Accenture-Berater, der die Definitionen zu seinem eigenen Vorteil erweitert. Vielleicht definieren sie irgendwann, was "gut" ist. Irgendwann.
Wir haben diese Welle schon erlebt, mit großen Agile-Beratern, Microsoft-Zertifizierungs-Scharlatanen und anderen Scharlatanen aus der Zeit vor mir.
Es ist ein weitschweifiges (wahrscheinlich von KI geschriebenes?) Stück. Ich habe es wohlwollend und gutgläubig gelesen. Aber am Ende konnte ich das Gefühl nicht abschütteln, dass dies selbst unter der willkommenen Vermenschlichung der Konzepte dieselbe Art amorpher, besserwisserischer Selbstvermarktung ist, die ihren eigenen Anhänger des Schwindels opportunistisch an das Modewort des Tages hängt.
- kingcauchy
Der Link in den Kommentaren des Artikels ist auch interessant: https://www.lesswrong.com/posts/bfwH88cFEm3r7PWfv/what-lawye...