Ternary Bonsai 2 27B 开源:三元权重近无损压缩至1/9,27B 级能力保留 98.2%

魔搭ModelScope社区 2026年09月18日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

20 项基准上平均 83.9 分,保留全精度基线 98.2% 的能力,支持 262K token 上下文与图像输入;单张 RTX 5090 上解码最高约 143 tok/s,M5 Max 笔记本上约 47 tok/s