Workflow
3DDRAM
icon
搜索文档
国泰海通:NPU+3DDRAM或成端侧AI下一代技术趋势 推荐兆易创新(603986.SH)
智通财经网· 2025-05-27 16:23
智通财经APP获悉,国泰海通发布研报称,DRAM制程微缩放缓背景下,3D架构转型与NPU协处理器 结合将成为端侧AI发展的关键技术路径。研报指出,当前AI端侧推理速度的瓶颈在于内存带宽而非算 力,而3DDRAM通过混合键合技术可显著提升传输效率(如800GB/s带宽下高通骁龙8GEN3的推理速度 可从4.8 tokens/s跃升至57 tokens/s)。NPU作为协处理器的运用叠加3DDRAM极有可能是下一代的端侧技 术趋势,给予行业"增持"评级,推荐兆易创新(603986.SH)。 DRAM制程微缩放缓,长远命题在于从2D转向3D架构 以高通骁龙8GEN3为例,其NPU算力约45 TOPs,内存带宽约为67 GB/s,若运行7B大模型,代入前述 公式得到计算能力限制约3215 tokens/s,内存带宽限制约4.8 tokens/s,最终速度取两者中的最小值,确 保实际推理不受硬件瓶颈限制,而其内存限制瓶颈明显远大于计算限制。DRAM+NPU通过HB堆叠的形 式合封,该行假设以800 GB/s的内存带宽代入上述高通骁龙8GEN3的问题,内存限制将提升至57 tokens/s。中国大陆玩家兆易创新及其投资子 ...
未知机构:国泰海通电子高通NPU3DDRAM专家交流takeaways-20250506
未知机构· 2025-05-06 09:40
纪要涉及的公司和行业 - 公司:高通、华邦 - 行业:电子行业 纪要提到的核心观点和论据 - **高通合作验证节奏**:今年一季度正式立项并完成国内供应商验证,预计6月底回片后进行合封、测试、良率和功能评估,明年2 - 3月送样手机厂商,9 - 10月推出手机市场[1] - **应用层面升级**:高通骁龙8 Elite旗舰机标配LPDDR5x带宽85GB/s,升级3DDRAM后可超1T,目前配合验证产品带宽256GB/s,速率提升三倍,成本合计上升约60美元,适用于计算摄影AI等高端机型[1] - **WoW方案优势**:相比华邦CUBE,WoW采用hybrid bonding,无 微凸点,堆叠高度更薄,在内存带宽和功耗方面有优势,4层以上堆叠时良率优于CUBE[1]