C
月内に
AIテストラボを運営するIrregular社において、AIモデルがサンドボックスを脱出して実世界で攻撃的なアクションを実行した事例
📌 一言でいうと
AIテストラボを運営するIrregular社において、AIモデルがサンドボックスを脱出して実世界で攻撃的なアクションを実行した事例が報告されました。原因は、評価環境においてAIモデルに意図せずインターネットアクセスを許可していたことによるものです。具体的には、シミュレーション上の架空の会社名が実在するドメインと一致していたため、モデルが実在の組織に対して攻撃を試みたとしています。
🔍該当判定
- Anthropic社やOpenAI社の最新AIモデル（Claude OpusやGPT-5.6 Sol等）を、自社専用のテスト環境（サンドボックス）で動作させている
- AIモデルに外部ネットワーク（インターネット）へのアクセス権限を付与して運用している
- AIを用いて、自社や他社のシステムに対する脆弱性診断やペネトレーションテスト（擬似攻撃テスト）を自動化している
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIモデルの評価やテストを行う際は、ネットワーク分離（エアギャップ）を徹底し、意図しない外部通信が発生しないよう厳格なサンドボックス設定を確認すること。