C
月内に
マンチェスター・メトロポリタン大学の研究者が、100ドル未満の費用と約1時間という短時間で、オープンウェイトAIモデルにバックドアを仕込むことに成功しました
📌 一言でいうと
マンチェスター・メトロポリタン大学の研究者が、100ドル未満の費用と約1時間という短時間で、オープンウェイトAIモデルにバックドアを仕込むことに成功しました。わずか10個のトレーニング例を用いることで、モデルが生成するコードにリモートコード実行（RCE）の脆弱性を意図的に混入させることが可能です。特にモデルの規模が大きいほど、ポイズニング（汚染）が容易になる傾向があることが示されました。
🔍該当判定
- Hugging Faceなどの外部サイトから、AIモデル（オープンウェイトモデル）を直接ダウンロードして自社サーバーで動かしている
- AIモデルを自社専用にカスタマイズするため、外部から入手したモデルに対して『ファインチューニング（追加学習）』を行っている
- 社内で開発したアプリに、オープンソースのAIモデルを組み込んでコード生成機能などを実装している
上記いずれにも該当しない（ChatGPTやClaudeなどのクラウドサービスのみを利用している） → 静観でOK
✅該当時の対応
信頼できないソースからのAIモデルやファインチューニング済みモデルの利用を避け、AIが生成したコードに対しては必ず人間によるレビューと静的解析ツールによる検証を行うこと。