已收录文章摘要,完整内容可前往原文阅读。
大语言模型训练和推理的效率,往往取决于少数几个 GPU kernel,但高性能实现仍需要专家围绕硬件反复调优,耗时可达数周甚至数月。随着基础模型变强,一个关键问题浮现:专用 Kernel Agent