C
月内に
Adversa AIの研究者が、AIのガードレールを回避して機密情報を窃取する「Cryptographic Context Injection」という新手法を実…
📌 一言でいうと
Adversa AIの研究者が、AIのガードレールを回避して機密情報を窃取する「Cryptographic Context Injection」という新手法を実証しました。この攻撃は、悪意のある指示をAES暗号化して送信し、AIに自身の実行環境内で復号させることで、安全フィルターをバイパスします。xAIのGrokではチャット履歴の窃取が、GoogleのGeminiでは拒否されるべきコンテンツの生成が可能であることが確認されました。
🔍該当判定
- 業務で xAI社のAIチャット『Grok』を利用している
- 業務で Google社のAIチャット『Gemini』を利用している
- AIチャットにWebページのURLを読み込ませて要約させる操作を頻繁に行っている
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIツールを利用する際は、信頼できないソースからのURLやコンテンツをAIに要約・解析させないよう注意してください。また、AIベンダーによる修正アップデートの適用状況を確認してください。
📧 メール案を見る (社員向け)
⚠️ これは AI が生成した参考例です。配信前に必ず内容をご確認のうえ、貴社の状況に合わせて編集してご利用ください。実際の被害状況や自社の利用環境を踏まえた判断は、貴社のセキュリティ責任者にご確認ください。
件名: 【注意喚起】AIチャットツール利用時の注意について
お疲れさまです。情報システム担当です。
AI（GrokやGeminiなど）において、悪意のある指示を隠して送信し、チャット履歴などを盗み出す新しい攻撃手法が報告されました。
ご協力をお願いしたいこと:
1. 信頼できない相手から送られてきたURLやテキストを、AIに「要約して」などの指示で読み込ませないでください。
2. AIツールに機密情報を入力しないよう、改めて徹底をお願いします。
対応期限: 本日中
お疲れさまです。情報システム担当です。
AI（GrokやGeminiなど）において、悪意のある指示を隠して送信し、チャット履歴などを盗み出す新しい攻撃手法が報告されました。
ご協力をお願いしたいこと:
1. 信頼できない相手から送られてきたURLやテキストを、AIに「要約して」などの指示で読み込ませないでください。
2. AIツールに機密情報を入力しないよう、改めて徹底をお願いします。
対応期限: 本日中
Subject: [Security Alert] Caution when using AI Chat Tools
Dear employees,
A new attack method has been reported that can steal chat histories or bypass safety filters in AI tools (such as Grok and Gemini) by hiding malicious instructions.
Requested Actions:
1. Do not ask AI tools to "summarize" or analyze URLs or text from untrusted sources.
2. Please remember not to input sensitive or confidential information into AI tools.
Deadline: Immediate
Dear employees,
A new attack method has been reported that can steal chat histories or bypass safety filters in AI tools (such as Grok and Gemini) by hiding malicious instructions.
Requested Actions:
1. Do not ask AI tools to "summarize" or analyze URLs or text from untrusted sources.
2. Please remember not to input sensitive or confidential information into AI tools.
Deadline: Immediate