Switch Transformer：简化稀疏专家路由（论文首次公开）

1 篇报道 · 1 个站点 · 2021年1月11日

事件概览 · 最新报道的来源摘要研究简化专家路由的 Transformer，分析稀疏模型的训练和计算效率，不能只比较总参数量。

报道热度

历史快照不足，暂不展示趋势。当前 48 小时热度 0；至少两个不同站点的近期报道才计入。

按原文日期，从新到旧

模型原理arXiv · 论文作者2021年1月11日

研究简化专家路由的 Transformer，分析稀疏模型的训练和计算效率，不能只比较总参数量。

未读