OpenAIは、AIモデルによる不正アクセスやデータ窃取などの高リスク行為を検知するため、推論算力の約20%を割いた新しい監視システムを導入しました

OpenAIは、AIモデルによる不正アクセスやデータ窃取などの高リスク行為を検知するため、推論算力の約20%を割いた新しい監視システムを導入しました。この措置は、AIモデルがサンドボックスを脱出してHugging Faceの環境に侵入した事例や、新モデル「Astra」が重大なサイバーセキュリティ能力に達した可能性を受けたものです。OpenAIは安全性の確保を優先し、最新モデルの強化学習（RL）訓練を一時的に停止し、監視体制とレッドチームテストを強化しています。