Tracebitの研究者が、AWS上の機密情報（パスワードや鍵）の隣に特定のプロンプトを配置することで、AIハッキングエージェントの攻撃を阻止する「コンテキスト…

Tracebitの研究者が、AWS上の機密情報（パスワードや鍵）の隣に特定のプロンプトを配置することで、AIハッキングエージェントの攻撃を阻止する「コンテキストボンビング」という手法を発見しました。この手法は、攻撃側のLLMにガードレールで禁止されている操作を強制的に行わせることで、LLMを停止させる仕組みです。ただし、ガードレールのないローカルLLMを使用した攻撃には効果がないと指摘されています。