已收录文章摘要，完整内容可前往原文阅读。
智猩猩AI整理编辑：没方随着大模型逐渐进入真实应用，如何及时发现模型的对齐失效，已成为部署阶段的重要问题。模型可能迎合用户的错误观点、响应越狱后的有害请求、执行提示注入指令，也可能产生幻觉、隐私违规甚