已收录文章摘要,完整内容可前往原文阅读。
当 Agent 开始自主调用工具、读写文件、执行代码、跨应用完成多步任务,安全问题就不再只是“这句 prompt 有没有毒”。风险可能藏在工具描述里,藏在某次环境返回里,也可能藏在 Agent 对中间