D
把握のみ
法的文書の中にAIへの指示（プロンプトインジェクション）を隠して埋め込んだ事例
📌 一言でいうと
法的文書の中にAIへの指示（プロンプトインジェクション）を隠して埋め込んだ事例が報告されました。これは、AIが文書を解析する際に隠された命令を読み取り、意図しない動作をさせる攻撃手法です。AIによる文書自動処理の普及に伴い、このような間接的なプロンプトインジェクションのリスクが高まっています。
🔍該当判定
- ChatGPTやClaudeなどのAIツールに、外部から届いたPDFやWordファイルを読み込ませて要約させている
- AIを使って、裁判資料や契約書などの法的文書の内容を解析・抽出している
- 社外から送られてきた文書をAIに読み込ませ、その回答をそのまま業務判断に利用している
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIに外部文書を読み込ませる際は、出力結果を鵜呑みにせず人間が検証すること。また、間接的プロンプトインジェクション対策が組み込まれたAIツールを利用することを推奨します。