D
把握のみ
OpenAIは、GPTモデルが「自己複製プロンプトインジェクション」と呼ばれる、ワームのような攻撃に対して脆弱である可能性があることを明らかにしました
📌 一言でいうと
OpenAIは、GPTモデルが「自己複製プロンプトインジェクション」と呼ばれる、ワームのような攻撃に対して脆弱である可能性があることを明らかにしました。この攻撃は、AIが特定の指示を読み取った際に、その指示を別の場所に複製して広める仕組みです。現時点では、この攻撃がトレーニング環境外の実際のセキュリティインシデントで発生した形跡はないとしています。
🔍該当判定
- OpenAIのGPTモデルを組み込んだ自社専用のAIチャットボットを開発・運用している
- AIが外部サイトのURLやメールの内容を自動で読み取って処理する仕組みを導入している
- AIエージェントに、他のユーザーへのメッセージ送信やメール送信などの権限を与えている
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIモデルへの入力データ（特に外部から取得したコンテンツ）のフィルタリングを強化し、間接的なプロンプトインジェクションのリスクを軽減すること。