设 和 分别是门控网络和第 个 Expert 的输出，那么对于在当前的输入x，输出就是所有 experts 的加权和： Kayıtlı anamal tavan artırımı ve geçerlilik süresinin yenilenmesine ilişikli patronaj yerleşmiş hükümı 论文指出，门控网络倾向于收敛到一种状态，总是为相同的几个专家产生大的权重。这种不平衡是自我强化的，因为受到青睐的专家训练得更快，因此被门控网络更多地选择。这种不平衡可能导致训练效率低下，... https://www.blogger.com/u/8/profile/09889890415012625943