显存不够,闪存来凑?新仿真发现:溢出大模型数据不必都绕回CPU

arXiv每日学术速递 2026年10月24日 查看原文

已收录文章摘要,完整内容可前往原文阅读。

论文导读穆罕默德·本·扎耶德人工智能大学提出HBFSim,把一种可放在加速器旁、容量达到TB级的高带宽闪存搬进模拟器,研究它怎样帮大模型分担显存压力。在两种模型、三类负载的仿真中,容量溢出时,HBF方