广告

腾讯混元提出Stem稀疏注意力算法,长文推理加速新SOTA

发布日期:2026-06-05 20:25 阅读:
穗牌官网报道,6月5日,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。

发表我的意见

专栏作者

4084

文章

0

提问

204万+

阅读量

0

回答

15万+

被赞

0

余额

关于我们 联系我们 加入我们 免责声明 版权声明 Sitemap 标签Tag 侵权删除:8512807@qq.com 微信:Suipai8888 Investor Relations © 2026 穗牌官网 广州穗牌电动车有限公司版权所有 粤ICP备2024261588号 增值电信经营许可证:粤ICP备2024261588号