资讯

开源MoE路由对比：专家数8到384，Top-k 1到8

对比10个开源MoE模型的路由配置，涵盖专家数、Top-k、共享专家、门控与负载均衡；专家数从8到384，Top-k从1到8，部署需关注显存和通信开销。