AIに楽観的だった筆者が「ドゥーマー」に転じた理由

The Education of a Doomer

AIに楽観的だった筆者が、なぜ極度の懸念を抱くようになったのか。経済、アラインメント、コントロール、執筆、ソフトウェアエンジニアリング、AIへの委任、停滞の7つの観点から、自身の考えの変化を振り返る。AGI後の経済的価値の喪失、RLによるモデルの不透明化と誤った方向への適応、人間が自発的にAIへ権力を委ねる「ディスエンパワーメント」の強力なシナリオ、AIによる執筆が思考を放棄すること、ソフトウェアエンジニアリングの談話の劣化、AIを神託のように扱う人間の傾向などを、個人的な経験と鋭い洞察で綴る。