从SHE到SafeEvolve:安全经验如何驱动Harness–Policy协同进化?

深度学习自然语言处理 2026年09月11日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

随着AI Agent逐渐具备网页访问、文件处理和工具调用能力,安全问题已经不再只发生在最终回答中。一条隐藏在邮件、网页或工具返回结果中的恶意指令,就可能改变Agent对当前任务的理解,使其偏离用户原本