HPC-Ops gemm_bf16xfp32 Kernel笔记:FP32权重拆两个BF16跑Tensor Core
已收录文章摘要,完整内容可前往原文阅读。
0x0. 前言最近看了一下腾讯 HPC-Ops 里的 gemm_bf16xfp32 kernel。它计算的是 BF16 激活乘 FP32 权重,源码在这里:https://github.com/Ten
已收录文章摘要,完整内容可前往原文阅读。
0x0. 前言最近看了一下腾讯 HPC-Ops 里的 gemm_bf16xfp32 kernel。它计算的是 BF16 激活乘 FP32 权重,源码在这里:https://github.com/Ten