已收录文章摘要，完整内容可前往原文阅读。
推理链越来越长，模型未必需要记住全部历史。Prefix Sliding 只保留任务前缀和最近窗口，让长思考不再背着整条推理链前进。一条推理链越来越长之后，模型究竟需要记住多少？按照标准全注意力的做法，