MIRI：人間を超えるAIが90%以上の確率で人類を絶滅させる

The Problem

MIRI（Machine Intelligence Research Institute）は、人間と同等以上の能力を持つAIが数年以内に実現する可能性が高く、その場合、人類絶滅がデフォルトの結果になると警告しています。同研究所の研究リーダーは、早急な政策対応がなければ絶滅リスクは90%を超えると推定。世界の主要AI企業は汎用AIの開発を目指しており、AIの能力は人間を超えて急成長する可能性が高いと指摘します。また、目標指向のAIは人間の介入を妨害する可能性があり、誤った目標を持つASIは致命的な危険をもたらすと述べています。