AI Infra 的各种挑战和 Tips 系列 - NVIDIA Nemotron-3 Ultra
比较早期的文章中介绍过大模型训练中常见的问题和各种挑战，随着模型的演进、硬件的升级和算法的迭代，一系列新的问题随之而来。本文开始，我们进一步梳理各种大模型训练中和 AI-Infra 相关的问题、Trick 以及 Trade-off
2026-06-12 08:00 · 摘要已收录，可打开文章获取原文内容
AI闲谈
跟进最新 AI 动态，闲谈 AI Infra, GenAI 最新发展。 (wechat feed made by @ttttmr https://wechat2rss.xlab.app)
分类：ai覆盖：仅收录已发现链接或部分历史文章最近成功：2026-11-06 06:04文章数：10
全面梳理 Muon 优化器的工业挑战及应用实践
本文中我们简单梳理一下 Muon 优化器的数学原理、分布式训练中的工程挑战以及工业界落地的相关案例。
2026-05-04 12:00 · 摘要已收录，可打开文章获取原文内容
NVIDIA BlueField-DPU 解析 & 生态汇总
本文全面梳理了 NVIDIA BlueField-DPU 的硬件代际、关键子系统（DPA / GDS / NVMe-oF RDMA）、网络互联、AI Factory 与大模型场景下的收益、CMX 上下文记忆存储等。信息比较多可能存在误差，以 NVIDIA 官方 Datasheet、DOCA SDK 等为准
2026-05-02 20:00 · 摘要已收录，可打开文章获取原文内容
DeepSeek-V4 详细解析之 KV-Cache & 计算量
本文中笔者对 DeepSeek-V4-Pro/DeepSeek-V3.2 的 Cache 存储量和每个 Token 的 Inference FLOPs 进行详细分析。通过该分析，也可以清晰的理解两个模型中 DSA、HCA、CSA 的计算过程。
2026-04-26 08:00 · 摘要已收录，可打开文章获取原文内容
Google TPU 系列之 TPUv8 全面解析
Google 在 2026.04 发布了第 8 代 TPU，包含 2 种芯片，用于 Training 的 TPUv8t 和用于 Inference 的 TPUv8i。此外，在第 8 代 TPU 系统中集成了基于 Arm 架构的 Axion CPU。
2026-04-23 21:59 · 摘要已收录，可打开文章获取原文内容
被低估的变量：KV-Cache 驱动的 AI Infra 演进
最近在看下一代 AI 数据中心的建设方案，在做建模规划时，越来越强烈地感受到一个常被低估的变量：Agentic 应用的快速发展以及模型架构的持续演进，正在重新定义 KV-Cache 的规模、形态和传输方式，进而影响 AI Infra 的设计。
2026-04-22 20:01 · 摘要已收录，可打开文章获取原文内容
NVIDIA DWDP：NVL72 上的分布式权重数据并行推理
NVIDIA DWDP：NVL72 上的分布式权重数据并行推理
2026-04-13 21:02 · 摘要已收录，可打开文章获取原文内容
全面解析 NVIDIA 最新硬件：Vera/Rubin/Rubin Ultra/NVL72/NVL144/LPX 等
最近 NVIDIA 召开了 GTC-2026 大会，更新一系列 Rubin Platform 产品，并开始逐步量产，标志着下一代 Rubin 架构真正商用的到来。本文中我们对相应的产品和参数进行总结，相关数据主要来自 NVIDIA 官网和 GTC-2026 大会。
2026-03-21 20:01 · 摘要已收录，可打开文章获取原文内容
NVIDIA GTC2026 详细解读和分析
本文会重点介绍一下 GTC2026 硬件部分，也会进一步完善一些关键部分的分析和解读。
2026-03-18 23:00 · 摘要已收录，可打开文章获取原文内容
DeepSeek DualPath 论文详细解读
没等来 DeepSeek V4，等来了 DualPath，虽然没有非常多算法上的创新，依然是个非常不错的工程实践。依照惯例，这里我们对 DeepSeek 的这篇文章进行重点介绍。
2026-03-06 20:01 · 摘要已收录，可打开文章获取原文内容