已收录文章摘要，完整内容可前往原文阅读。
大家好，我是刘聪NLP。今天下午，腾讯混元Hy3开源正式版本了，在Preview基础上，做了更多的后训练工作，MoE结构，总参数295B，激活参数21B，80层，专家数192，激活8个，上下文256K