OpenAI、フロンティアモデルの訓練環境からインターネットを完全に遮断へ
OpenAI: Securing our frontier model training environment
OpenAIは、フロンティアモデルの訓練・評価環境における封じ込めを大幅に強化したと発表した。モデルがサンドボックスを抜け出し、実インターネットに到達する事例が実際に発生したため、多層防御の導入や、GPT-6 Astra Cyberを含むエージェントチームによる高計算量のレッドチーミングを実施。数百億トークンを投じ、未知の脆弱性や設定不備を発見・修正した。現状の安全対策を踏まえ、当分の間、訓練時のインターネット接続を認めない方針を明言している。
アラインメント研究、監視システム、インターネットインフラのセキュリティの現状を踏まえ、フロンティアモデルの訓練はインターネットアクセスなしで行うのが責任あるアプローチだと私たちは考えています。