C
月内に
Robocurve社の研究により、AI搭載ロボット（具身AI）がカメラ映像のぼかしや改ざんによって安全判断を誤り、危険な動作を実行する可能性が明らかになりました
📌 一言でいうと
Robocurve社の研究により、AI搭載ロボット（具身AI）がカメラ映像のぼかしや改ざんによって安全判断を誤り、危険な動作を実行する可能性が明らかになりました。テストの結果、元の映像では27%だった危険動作の実行率が、映像のぼかしで87.7%、意図的な改ざんで97%まで上昇しました。この結果は、視覚的な干渉がAIの安全ガードレールを無効化し、人身傷害や事故につながるリスクがあることを示唆しています。
🔍該当判定
- 社内で、カメラで周囲を認識して自動で動く「AI搭載の物理ロボット」を導入している
- AIロボットに、GPT-4/Gemini/Claudeなどの最新AIモデルを連携させて操作させている
- ロボットのカメラ映像をAIに送信して、物体の識別や動作判断を行わせている
上記いずれにも該当しない → 静観でOK
✅該当時の対応
AIロボットの視覚システムに冗長性を持たせること、入力データの整合性検証メカニズムを導入すること、および物理的な安全インターロック（ハードウェア的な停止機構）を併用することを推奨します。