文章核心观点 - AI芯片行业正经历从追求通用计算能力向围绕特定主流模型进行深度软硬件协同优化的范式转变,谷歌、Taalas、Etched等公司正通过将模型逻辑固化到芯片中的方式,旨在显著提升能效和推理性能,这代表了AI基础设施竞争的新方向[16] 谷歌的“Frozen”芯片项目 - 谷歌正在研发代号为“Frozen v2”的新型服务器芯片,计划最早于2028年部署,旨在解决AI计算能力短缺问题[1][3] - 该芯片的核心创新在于计划将部分Gemini模型的蓝图(计算逻辑、推理流程等)直接蚀刻到硅片中,使硬件能“理解”特定模型,从而减少运行时调度开销[1][3][4] - 与传统通用AI加速器(如GPU、TPU)不同,Frozen芯片更接近于为特定AI模型打造的“专用机器”,试图在硬件固化与模型更新间找到平衡,芯片可修改模型权重[4][5] - 研发人员预测,Frozen芯片的单位功耗处理token效率可能达到谷歌现有最新AI芯片的6至10倍[5] 初创公司Taalas的“硬核模型”路线 - Taalas公司推出了首款产品HC1芯片,针对开源Llama 3.1 8B模型优化,采用台积电N6工艺,面积815平方毫米,内含530亿个晶体管,功耗约200瓦[7] - HC1芯片声称性能强劲,每秒可生成17000个输出tokens,是英伟达H200显卡的73倍,同时功耗仅为后者的十分之一[8] - 其技术关键是通过掩码ROM调用架构将模型固化,仅定制芯片100多层中的两层以降低成本,无需使用高带宽内存(HBM),从而避免相关延迟和组件[9][10] - 公司计划在夏季推出硬编码到HC芯片中的200亿参数Llama 3.1模型,年底将推出在多张HC卡上运行推理的前沿大模型(如Llama或DeepSeek),架构命名为HC2[9][10] 初创公司Etched的Transformer专用芯片 - Etched公司成立于2024年,专注于打造运行Transformer模型超越通用GPU的专用芯片,近期估值达50亿美元,并可能在由现有投资者领投的新一轮融资中估值翻两番至约200亿美元[11] - 公司计划采用台积电N4P工艺生产其推理芯片,该工艺性能比原五纳米工艺提升11%,首批原型芯片已于今年早些时候下线[12] - 其芯片采用名为LVI的技术,减少对过热降频的需求,能以“峰值80%以上的浮点运算能力”运行万亿参数模型,浮点运算密度比现有AI处理器高出数倍[13] - Etched开发了定制机架式推理设备,采用定制互连技术实现低延迟的系统级共享内存池,已收到价值超过10亿美元的客户订单,计划于今年夏季交付首批芯片机架[13][14] AI芯片行业发展趋势 - AI芯片发展进入新阶段,竞争核心从单纯比拼芯片峰值算力,转向模型、软件、芯片和系统的整体协同[5][16] - 随着大模型进入规模化应用,推理成本、能耗和效率成为关键挑战,围绕特定模型进行软硬件协同优化成为新探索方向[16] - 未来可能形成新的产业分工:GPU负责支撑模型创新与快速迭代,专用芯片(ASIC)负责提升成熟模型的部署效率和能效[16] - 这一趋势意味着模型可能反过来定义芯片,软件、算法与硬件之间的边界将进一步融合[16]
谷歌AI芯片,巨变!