中国联通 MoHGE 异构分组混合专家架构上线：参数瘦身20%，推理反超传统MoE | ACL'26

中国联通数据科学与人工智能研究院提出异构分组混合专家架构 MoHGE，成果入选 ACL 2026 且代码已开源。在 3B 与 14B 规模下，MoHGE 较同精度传统 MoE 削减约 20% 整体参数量，单次推理激活专家参数降低近四分之一，MMLU、MATH、GSM8K 等 benchmark 准确率媲美甚至超越传统架构。