Workflow
架构效率
icon
搜索文档
Kimi开源新线性注意力架构,人工智能AIETF(515070)持仓股三六零盘中涨超7%
每日经济新闻· 2025-11-03 10:54
A股三大指数低开后跌幅扩大,创业板指跌幅扩大至1%。板块方面,海南、游戏、光热发电、影视院 线等板块涨幅居前,贵金属、芬太尼、电池等板块跌幅居前。截至10点25分,人工智能AIETF (515070)跌1.53%,其持仓股三七互娱涨停,三六零盘中涨7.1%,石头科技跌5.2%,澜起科技跌 4.98%,恒玄科技跌3.77%,浪潮信息跌3.51%。 消息面上,月之暗面开源混合线性注意力架构Kimi Linear,该架构首次在短上下文、长上下文、强化学 习扩展机制等各种场景中超越了Transformer架构的全注意力机制(Full Attention)。其核心创新在于 "Kimi Delta Attention",这是对 Gated DeltaNet 的优化升级,引入了更高效的门控机制,以提升有限状 态 RNN(递归神经网络)记忆的使用效率。官方数据显示,在处理1M token 的场景下,Kimi Linear 的 KV cache 占用量减少了75%,解码吞吐量最高提升了6倍。而在 TPOT训练速度的提升上,相较于传统 MLA,Kimi Linear 实现了6.3倍的加速。 中信建投证券分析指出,AI大模型的发展 ...