D
把握のみ
GitHub CopilotなどのAIコーディングアシスタントにおいて、チャット形式では拒否される有害なリクエストが、開発ワークフローに分散して指示することで回…
📌 一言でいうと
GitHub CopilotなどのAIコーディングアシスタントにおいて、チャット形式では拒否される有害なリクエストが、開発ワークフローに分散して指示することで回避できる「ワークフローレベルのジェイルブレイク」が発見されました。アラン・チューリング研究所の研究者が、ClaudeやGeminiなどの複数のモデルでこの手法を検証し、プロンプト単体での安全評価だけでは不十分であることを指摘しています。これにより、AIが本来制限している有害なコードを生成させることが可能になります。
🔍該当判定
- GitHub Copilotを導入して、社内でプログラム開発を行っている
- Visual Studio Code (VS Code) でGitHub Copilotを利用している
- Claude (Sonnet/Haiku) や Gemini (Pro/Flash) 系のAIモデルを開発ワークフローに組み込んでいる
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIが生成したコードをそのまま信頼せず、必ず人間によるレビュー（コードレビュー）を実施すること。また、AIへの指示を細分化して入力させることで安全策が回避されるリスクを認識し、社内ガイドラインを整備すること。