AI Agent 驱动的 SGLang Kernel 一等公民化:sglang.kernels 的设计与实践
已收录文章摘要,完整内容可前往原文阅读。
0x0. TL;DRSGLang 的 GPU kernel 原来分散在 jit_kernel、sgl-kernel、各子系统的 triton_ops 和具体模型文件中。sglang.kernels 将
已收录文章摘要,完整内容可前往原文阅读。
0x0. TL;DRSGLang 的 GPU kernel 原来分散在 jit_kernel、sgl-kernel、各子系统的 triton_ops 和具体模型文件中。sglang.kernels 将