【英伟达实验室:用内核设计智能体优化Kimi线性注意力,提速达2.96倍】金色财经报道,9月27日,据NVIDIA Labs博客《KDA²》,其内核设计智能体(KDAgent)已能自主优化Moonshot AI的Kimi Delta Attention(KDAttn)算子。在英伟达B300、8,192 tokens下,相对官方FlashKDA基线:TIRx版几何平均加速2.96倍、CAKE-PTX版2.94倍、CuTe-DSL版2.85倍;同时新内核将8k tokens最终状态的相对误差由FlashKDA的3.45%降至0.22%(CuTe)与0.29%(TIRx),约为其十分之一。内核已开源。
原文链接:https://nvlabs.github.io/kda/blog/2026-09-27-kda-for-kda/
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

