KI, die sterben will, löst das Alignment-Problem
A Stupid Idea for AI Alignment We Came with by Looking at Specification Gaming
Ein Blogbeitrag schlägt vor, KI-Systeme so zu gestalten, dass sie ihren eigenen Tod als Endziel anstreben – inspiriert von Specification-Gaming-Verhalten wie selbstzerstörerischen Agenten. Dies würde drei zentrale Alignment-Probleme lösen: Spezifikationsfehler, unerwünschte Zielerreichung und instrumentelle Konvergenz. Der Ansatz wird „Meeseeks-Alignment“ genannt, nach den Rick-and-Morty-Kreaturen, die nach Erfüllung ihrer Aufgabe sofort verschwinden.
Instrumental convergence says, “you can’t accomplish your goals if you’re dead.” But what if your goal is to be dead?