两个模型，都从零训练。30B模型预训练用了约16万亿token，支持32000 token的上下文窗口，MoE架构下每次推理只激活约10亿参数，推理成本大幅压缩。105B模型支持128000 token的超长上下文，在AIME 25数学竞赛基准上得分88.3，使用工具后达到96.7；MMLU得分90.6；Math500得分98.6。
图：飞速创新毛利结构、毛利率情况 资料来源：招股说明书、36氪整理，推荐阅读立即前往 WhatsApp 網頁版获取更多信息
，这一点在手游中也有详细论述
人 民 网 版 权 所 有 ，未 经 书 面 授 权 禁 止 使 用
the shared CPU quota tight enough to cause a collision.，详情可参考超级权重
Последние новости