OpenAI、次期モデルAstraが「重大な」サイバー能力に到達する可能性を警告
Responding to the next frontier of critical cyber capabilities
OpenAIは、次期モデルAstraの内部評価で、エージェント型コーディングとサイバーセキュリティにおいて顕著な進歩が見られ、Preparedness Frameworkで定義された「重大な」サイバー能力の閾値に達する可能性を排除できないと発表しました。同社は、より強力なセキュリティ制御の導入や、高リスク活動の監視強化など、安全対策を強化しています。また、政府機関やAI安全団体と協力し、能力のテストを進める方針です。
我々は、Astraのようなモデルのフロンティア能力が、全人類の利益のために責任を持って広く展開されることを確実にするため、政府、安全研究所、市民社会と協力していくことを約束します。