标签
MoE
共 4 篇文章
AI资讯
Reflection 发布 Beam：5010 亿参数开源权重模型，推理算力只要对手三分之一
Reflection 10 月 5 日公布首个开源权重模型 Beam：稀疏 MoE 架构，总参数 5010 亿、激活 230 亿，主打编程与智能体任务。官方强调它与 GLM-5.2 同档水平但推理算力少用 3 到 4 倍，权重、技术报告和模型卡将于本月内放出。
2026-10-06
AI资讯
Aleph Alpha 开源 Kolibri：78B 模型激活 3.5B 支持百万上下文
Aleph Alpha 于 10 月 3 日发布开源权重模型 Kolibri，总参数 781 亿但每 token 只激活 34.6 亿，Apache 2.0 权重上架 Hugging Face。需要自托管或做德语业务的团队值得实测。
2026-10-03
AI资讯
Ai2 开源 Olmo-core 3：MoE 训练栈跑通万亿参数
10 月 1 日，Ai2 开源大模型训练框架 Olmo-core 3，重做了一整套 MoE 训练系统：8 张 B300 上吞吐提升约 2.7 倍，专家池从 8 个扩到 128 个而激活参数基本不变，并已跑过 1.2 万亿总参数规模。它不提供模型也不提供 API，但决定了开源模型未来能训到多大。
2026-10-01
AI资讯
腾讯混元开源新一代旗舰模型 Hy4 preview，770B 参数支持百万上下文
腾讯 8 月 28 日开源新一代旗舰 MoE 大模型 Hy4 preview，770B 总参数、每 token 激活 49B，支持 1M 上下文，已在 Hugging Face、ModelScope 等四平台开放权重与 FP8 量化版。这是腾讯混元迄今最大的一次代际能力跃升，开发者可免费下载部署，值得关注并实测。
2026-08-28