专家混合（MoE）

专家混合（MoE）是一种机器学习架构，通过多个专业化子模型（专家）和门控网络动态选择激活部分专家，提升模型性能和效率。