模型推理效率
搜索文档
中外专家共探AI技术前沿与产业赋能
新浪财经· 2025-11-21 15:23
"研究表明,基础模型能力提升所消耗的token数量呈指数增长。"姜大昕表示,耗电量是电力时代衡量 一个国家经济运行情况的指标之一,在AI时代,此指标或许将成为token消耗量。"模型的推理效率越 高,产生token的成本越低。需要我们通过产业上下游联合优化、协同设计模型芯片,并推动系统与架 构联合创新,实现模型推理效率的提升。" 除了基础模型的技术演进,智能系统在实际场景中的应用也成为专家关注的焦点。加拿大阿尔伯塔大学 教授奥斯马尔·扎伊安(Osmar Zaïane)指出,随着智能系统越来越多地在动态、不可预测的环境中运行, 活动现 场。 鲍梦妮 摄 中新网杭州11月20日电(鲍梦妮)11月20日,由浙江之江实验室与《科学》/美国科学促进会 (Science/AAAS)共同举办的第五届智能计算创新论坛在浙江杭州举行。 奥斯马尔表示,如今中国在智能制造等领域展现出其领先的实力,这对他的研究带来启示。"在中国, 我们能迅速观察到不同智能体之间的协作、人与智能体之间的协作等取得的实际成效。这里是新技术应 用的绝佳试验场。" 能够有效响应变化的机器人变得愈发重要。 据悉,智能计算创新论坛已成功举办四届,搭建起智能计算 ...
阶跃星辰姜大昕:下一代智能硬件,比拼的不是硬件而是智能
新浪科技· 2025-09-12 10:14
此外,他还认为,数字世界的agent有效工作时间将会越来越长。当我们去衡量模型智能的时候,就是 去看它能够自主有效的工作多长时间。而其中的挑战就在于如何对模型的推理能力进一步增强,并提升 其泛化性。 姜大昕表示,agent除了在数字世界存在,还将走向物理世界。而agent将从经验学习走向自我进化。"人 类数据是有限且有偏见,单纯依靠人类数据无法超越人类智能。智能体将从自身与环境的交互中学 习。"他表示。(罗宁) 责任编辑:江钰涵 新浪科技讯 9月12日上午消息,在Inclusion·外滩大会现场,阶跃星辰创始人姜大昕表示,模型推理效率 是决定AI大规模落地应用的关键要素。而推理效率的提升需要两方面,一是产业上下游联合优化,系 统模型co-design。 他还提到,阶跃星辰和多个国产算力芯片合作,其Step3国产卡32K上下文推理效率最高可达DeepSeek R1的3倍。 姜大昕认为,从今年年初,大模型的应用已经从聊天的时代进入到做事的时代。在他看来,未来智能终 端的特点是会做事、总在场、有记忆、能进化。"下一代智能硬件,比拼的不是硬件,而是智能。"他总 结。 ...