Yudkowskys Sex-Kult prägt die KI-Sicherheitsdebatte
AI safety is mostly a sex cult in Berkeley
Die KI-Sicherheitsbewegung im kalifornischen Berkeley geht laut diesem Essay auf einen Sex-Kult zurück, der von dem Fan-Fiction-Autor Eliezer Yudkowsky gegründet wurde. Der Text zeichnet nach, wie Yudkowsky über MIRI, LessWrong und Effective Altruism führende Köpfe von OpenAI, Anthropic und DeepMind beeinflusste – und argumentiert, dass die gesamte Debatte um KI-Risiken ohne ihn nicht zu verstehen ist.
Wir werden vielleicht eines Tages eine „KI-Sicherheit“ als Wissenschaft oder Politikfeld haben, die nicht in erster Linie ein Sex-Kult in Berkeley, Kalifornien, ist, aber derzeit existiert sie nicht.