已收录文章摘要，完整内容可前往原文阅读。
转自 量子位Token词元替代了Byte字节，但不意味着大模型都得是Token。字节模型，特别是蒸馏后，有点儿新说法。最近，来自Meta FAIR和华盛顿大学的论文《突破Token天花板：蒸馏出更小、