【腾讯混元提出Stem稀疏注意力算法，长文推理加速新SOTA】金色财经报道，6月5日，腾讯混元宣布提出Stem稀疏注意力算法，已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案，算法层面，Stem通过Token位置衰减（TPD）和输出感知度量（OAM）实现25%预算下的近无损精度；算子层面，HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速，128K上下文下首字延迟降低3.7倍。

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。