Agent 时代的安全红队:别再只测 Prompt 了,真正危险的是“它会动手”

深度学习自然语言处理 2026年05月12日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

当 Agent 能替你发邮件、改 CRM、甚至发起支付时,安全测试如果还停留在“问它能不能生成违禁内容”,就太天真了。在推进 Agent 落地时普遍遇到一个痛点:传统安全对齐和单轮 Prompt 过滤