已收录文章摘要,完整内容可前往原文阅读。
前沿模型团队的算力来源正在变得越来越多样,有时,一家公司为凑齐够用的图形处理器(GPU),需要同时对接近 10 家云服务商。训练任务在不同厂商之间来回搬迁,单次故障排查都会花费数小时甚至更久。算力的瓶