已收录文章摘要,完整内容可前往原文阅读。
当前,大模型的“记忆”大多依赖同一种机制:把信息存储在模型权重之外的数据库中,需要时检索出来,再注入上下文窗口供模型使用。这一方法在 2020 年被 Facebook 人工智能研究院(Facebook