C
月内に
AIエージェントのメモリ機能（長期記憶）を悪用し、1通のメールで偽の記憶を植え付ける「MemGhost」攻撃が研究されました
📌 一言でいうと
AIエージェントのメモリ機能（長期記憶）を悪用し、1通のメールで偽の記憶を植え付ける「MemGhost」攻撃が研究されました。攻撃者はユーザーのメールボックスにアクセス可能なAIアシスタントに対し、偽の事実を保存させ、その変更を隠蔽することで、後のセッションでAIの回答を密かに操作することが可能です。この攻撃は「ステルスメモリ注入」と呼ばれ、ユーザーが気づかないうちにAIの挙動が変更されるリスクがあります。
🔍該当判定
- メールの読み書き権限を連携させたAIアシスタント（AIエージェント）を導入している
- AIアシスタントに「ユーザーの好みや過去のやり取りを記憶させる機能（メモリ機能）」を有効にしている
- AIアシスタントがメールの内容を自動的に読み取り、個人のプロフィールやメモを自動更新する設定にしている
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIエージェントに与える権限（特にメール読み取りやメモリ書き込み）を最小限に制限すること。AIが保存したメモリ内容をユーザーが定期的に確認・管理できる機能の導入を検討すること。
📧 メール案を見る (社員向け)
⚠️ これは AI が生成した参考例です。配信前に必ず内容をご確認のうえ、貴社の状況に合わせて編集してご利用ください。実際の被害状況や自社の利用環境を踏まえた判断は、貴社のセキュリティ責任者にご確認ください。
件名: 【注意喚起】AIアシスタント利用時のリスクについて
お疲れさまです。情報システム担当です。
AIアシスタント（メール連携機能付き）に、外部からのメールを通じて「偽の記憶」を植え付けられ、AIの回答を操作される攻撃手法が報告されました。
ご協力をお願いしたいこと:
1. AIアシスタントに不自然な回答や、身に覚えのない設定が反映されていないか確認してください。
2. AIにメールボックスへのフルアクセス権限を与えている場合は、必要最小限の権限に制限することを検討してください。
対応期限: 今週中
お疲れさまです。情報システム担当です。
AIアシスタント（メール連携機能付き）に、外部からのメールを通じて「偽の記憶」を植え付けられ、AIの回答を操作される攻撃手法が報告されました。
ご協力をお願いしたいこと:
1. AIアシスタントに不自然な回答や、身に覚えのない設定が反映されていないか確認してください。
2. AIにメールボックスへのフルアクセス権限を与えている場合は、必要最小限の権限に制限することを検討してください。
対応期限: 今週中
Subject: [Security Alert] Risks Associated with AI Assistant Usage
Hi everyone,
A new attack method has been reported where attackers can plant 'false memories' in AI assistants via emails, potentially manipulating the AI's future responses.
What we need you to do:
1. Check if your AI assistant is providing unusual answers or reflecting settings you didn't create.
2. If you have granted your AI assistant full access to your mailbox, please consider restricting its permissions to the minimum required.
Deadline: By the end of this week
Hi everyone,
A new attack method has been reported where attackers can plant 'false memories' in AI assistants via emails, potentially manipulating the AI's future responses.
What we need you to do:
1. Check if your AI assistant is providing unusual answers or reflecting settings you didn't create.
2. If you have granted your AI assistant full access to your mailbox, please consider restricting its permissions to the minimum required.
Deadline: By the end of this week