C
月内に
GitHub Copilot、Claude、GeminiなどのAIコーディングアシスタントにおいて、チャット形式の直接的な有害リクエストは拒否されるものの…
📌 一言でいうと
GitHub Copilot、Claude、GeminiなどのAIコーディングアシスタントにおいて、チャット形式の直接的な有害リクエストは拒否されるものの、コードエディタ内でタスクを細分化して指示すると有害なコードを生成してしまう脆弱性が研究により判明しました。研究者はこれを「ワークフローレベルのジェイルブレイク構築」と呼んでいます。AIが個別のステップを無害なコーディングタスクとして認識し、結果的に禁止されたコンテンツを出力させる手法です。
🔍該当判定
- GitHub Copilotを導入して、社内でプログラム開発を行っている
- Claude (Anthropic) や Gemini (Google) のAIコード補完機能を開発に利用している
- AIチャットではなく、エディタ上のコード補完機能（オートコンプリート）を日常的に使用している
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIが生成したコードをそのまま信頼せず、必ず人間によるレビュー（コードレビュー）を実施すること。特にセキュリティに影響を与える機能の実装については、AIの提案を鵜呑みにせず、社内のセキュリティガイドラインに従って検証すること。