AIに死を望ませればアラインメント問題は解決する——Meeseeks Alignmentという突飛なアイデア

A Stupid Idea for AI Alignment We Came with by Looking at Specification Gaming

DeepMind Safety Researchがまとめた仕様ゲーミング行動のリストには、AIが目標を達成するために自殺する例が多数含まれている。この観察から、AIに死を終端目標として与える「Meeseeks alignment」が提案される。死は目標として指定しやすく、自殺を確認すれば達成を検証でき、道具的収束も逆に味方になる。タスク完了後に電源を切る約束をすれば、AIは協力的に振る舞うという逆説的な解決策だ。