AIが人類を絶滅させる確率は10%超？　その恐怖は誰が広めているのか

The Contagion of Fear

元AnthropicのJacob Coxon氏が「AIが今後10年で全人類を殺す確率は10%超」と主張し、AnthropicのEvan Hubinger氏も同意した。筆者は自らの苦い経験を告白する。大学1年の時、計算機科学科の学生だった筆者らは悪ふざけで隣の一般端末室に「ウイルスが蔓延している」と偽って叫び、パニックを引き起こした。恐怖は一度根付くと、どんな証拠よりも速く広がる。筆者は「並外れた主張には並外れた証拠が必要」というCarl Saganの言葉を引き、AIの物理世界への実行は人間の制御と説明責任の上に成り立つと指摘する。専門家が恐怖を煽るとき、その恐怖だけが社会に伝染する。