D
把握のみ
LLMの永続的なメモリ機能における「文脈上の整合性（Contextual Integrity）」に関する研究について述べています
📌 一言でいうと
LLMの永続的なメモリ機能における「文脈上の整合性（Contextual Integrity）」に関する研究について述べています。CIMemoriesというベンチマークを用いた評価の結果、最先端のモデルであっても、タスクの文脈に不適切な機密情報をメモリから漏洩させるケースが最大69%確認されました。利用回数が増えるにつれて、情報の不適切な漏洩率が上昇する傾向があることが指摘されています。
🔍該当判定
- ChatGPTやClaudeなどのAIに、社外秘の情報や個人情報を入力して記憶（メモリ機能）させている
- AIの『パーソナライズ機能』や『記憶機能』を有効にして、過去のやり取りをAIに保持させている
- AIに社内ドキュメントを学習・参照させ、特定のユーザーにのみ情報を制限して回答させる仕組みを構築している
上記いずれにも該当しない → 静観でOK
✅該当時の対応
LLMに機密情報を入力する際は、モデルがその情報をどの文脈で保持・再利用するかを慎重に検討し、可能な限り機密データの入力を避けるか、適切なデータマスキングを行うことを推奨します。