已收录文章摘要,完整内容可前往原文阅读。
随着AI Agent逐渐具备网页访问、文件处理和工具调用能力,安全问题已经不再只发生在最终回答中。一条隐藏在邮件、网页或工具返回结果中的恶意指令,就可能改变Agent对当前任务的理解,使其偏离用户原本