文章核心观点 - 当前AI行业竞争焦点正从单纯追求模型规模转向提升算力经济性，即“让AI跑得更划算”[1] - 制约大模型时代算力价值释放的核心瓶颈已非算力规模不足，而是数据搬运带来的能耗与延迟问题[1][3] - 苏州亿铸科技提出“通用存算一体三大定律”，认为未来AI芯片架构的竞争本质是数据搬运效率、软件生态兼容性以及异构协同能力的综合竞争[4][6][7][10][12][14] 根据相关目录分别进行总结 AI算力瓶颈的演变 - 过去十多年AI芯片发展核心目标是提升计算能力，关注TOPS、TFLOPS等峰值算力指标[3][4] - 随着GPT、DeepSeek及多模态大模型发展，GPU算力虽强但有效算力释放未同步增长，性能瓶颈从计算转向数据搬运[3] - 数据在存储与计算间搬运产生的能耗和延迟代价可达单次计算本身的100倍[4] - 当前产业通过升级HBM、投入先进封装与高速互联，主要处于“优化搬运”阶段，但未消除搬运本身[4] 通用存算一体第一定律：数据搬运革命 - 决定AI系统效率的关键变量已变为参数规模、数据搬运次数及搬运距离[4] - 在传统机器学习时代，矩阵计算占比不足10%，数据搬运非主要矛盾；深度学习时代GPU成为主角；大模型时代矩阵计算占比高达90%-99%，数据搬运损耗成为新性能瓶颈[5] - 存算一体架构旨在让计算发生在数据所在位置，减少或消除存储与计算间的反复搬运，从架构层面降低数据移动的时延与能耗损失[5] - 未来AI芯片竞争本质是以更低的数据搬运成本释放更多有效算力，而非简单比较峰值算力[4][6] - HBM、3D封装、Chiplet等技术解决“如何让数据搬得更快”，存算一体解决“如何让数据尽量不用搬”，二者是不同层面的技术演进，可结合以突破大容量、高带宽瓶颈[6] 通用存算一体第二定律：生态通用性 - 决定AI芯片命运的不只是性能，更是通用性及对现有软件生态的兼容性[7] - x86与CUDA的成功不仅依靠性能领先，更依赖围绕其建立的软件工具链、开发框架及开发者生态[8] - 大模型开发中更换芯片意味着重新适配编译器、优化算子、验证模型及培养团队，迁移成本远高于单一性能指标[8] - 新架构落地的首要问题是兼容性问题而非性能问题，需最大程度兼容现有软件生态以降低开发者迁移门槛[8][9] - 亿铸科技通过布局CUDA兼容的底层指令集、兼容PyTorch的开发环境及完整软件栈，旨在保持开发者原有习惯的基础上完成架构升级[8][9] 通用存算一体第三定律：异构协同 - 未来AI芯片架构将走向异构协同，而非由单一统一架构主导[10] - 大模型系统除占计算量绝大多数的矩阵计算外，还包含大量控制逻辑、数据调度、通信管理等非矩阵计算任务，需不同计算单元协同[10] - 合理的AI芯片架构应像分工明确的团队，由存算模块处理海量矩阵计算，通用计算单元承接逻辑调度与控制任务，各单元各司其职、协同运行[10] - 产业演进方向一直是强化不同计算单元间的协同，如从CPU+GPU到CPU+GPU+DPU，再到Chiplet与多芯片异构封装[10] - 亿铸科技的GP-IMC架构将自研存算IP与通用计算模块异构融合，在减少数据搬运损耗的同时保留完整通用计算能力，并构建了从指令集、编译器到整机组网的完整技术体系[11] 亿铸科技的解决方案与行业展望 - 亿铸科技推出全数字3D DRAM通用存算一体AI芯片，融合3D DRAM与存算一体架构，存算IP与通用计算异构融合，原生兼容CUDA生态，覆盖工作站、一体机、分布式集群等多类硬件形态[12] - 该方案旨在从底层消除数据搬运损耗，大幅降低大模型推理的单位成本，高效支撑长上下文、MoE、多智能体等前沿模型落地[12] - 未来优秀AI芯片需实现更短数据传输路径、更少数据搬运次数、更高带宽利用率、更低软件迁移成本四大核心价值[12] - AI芯片发展由算法需求驱动：传统机器学习依赖CPU，深度学习依赖GPU，移动AI催生NPU，当前大模型、Agent、具身智能等发展正推动行业重新思考下一代算力架构[14] - 随着AI产业从训练走向推理、从比拼模型规模走向比拼商业效率，行业对算力的理解正在变化，新一轮围绕数据搬运、软件生态与系统协同的架构探索已拉开序幕[14][15]