AI推理芯片市场爆发 - AI推理芯片市场2023年规模为158亿美元，预计2030年将达到906亿美元，呈现爆发式增长[6] - 推理成本在18个月内从每百万token 20美元暴跌至0.07美元，下降280倍[6] - 企业AI硬件成本每年下降30%，能源效率每年提高40%[6] 训练与推理的差异 - 训练是AI系统的"启蒙教育"阶段，成本高昂且耗时漫长，具有一次性特征[4] - 推理是AI技术的"实战应用"环节，将训练好的模型知识转化为实际生产力[4] - 生成式AI时代技术架构变革使基础模型训练趋向稳定，推理成为持续创造价值的关键[5] 推理市场的商业价值 - AI推理工厂平均利润率普遍突破50%，英伟达GB200利润率高达77.6%[8] - 推理阶段是AI产业的"现金印钞机"，通过向用户收取推理服务费实现盈利[6] - 英伟达数据中心40%的收入源自推理业务[6] 科技巨头布局推理市场 - AWS向客户推销自研推理芯片Trainium，并提供25%折扣[10] - OpenAI通过租用谷歌TPU降低推理成本和对英伟达的依赖[11] - 亚马逊向Anthropic投资40亿美元，后者使用AWS的推理芯片服务[11] 初创公司挑战英伟达 - Rivos寻求4-5亿美元融资，成立以来融资总额将超8.7亿美元[3] - 25家AI芯片初创公司共筹集超70亿美元，总估值达290亿美元[13] - Groq累计融资超10亿美元，与沙特达成15亿美元芯片合作协议[13] 技术差异化路径 - 初创公司聚焦AI专用芯片(ASIC)研发，以更低成本实现高效运算[12] - Rivos开发软件可将英伟达CUDA代码翻译成其芯片语言[12] - Groq开发独特语言处理单元架构，号称提供"世界最快推理"性能[13] 边缘推理市场机会 - 智能家居和穿戴设备催生海量边缘推理场景[14] - 小型分散的推理需求在英伟达视线未及的角落悄然爆发[14] - 新型算法架构与专用芯片结合正在诞生[14]

AI推理市场爆发式增长 - AI推理芯片市场规模2023年为158亿美元，预计2030年将达到906亿美元[7] - 推理成本在18个月内从每百万token 20美元降至0.07美元，下降280倍[7] - 企业AI硬件成本每年下降30%，能源效率每年提高40%[7] - 英伟达数据中心40%收入来自推理业务[7] 训练与推理的商业价值差异 - 训练阶段是高成本、高风险、长周期的"资本赌局"[6] - 推理阶段是持续创造价值的"现金印钞机"[6] - 生成式AI时代基础模型训练趋向稳定，推理成为主要价值创造环节[6] - 推理需求与商业收入形成良性循环，推动技术迭代升级[7] 科技巨头在推理市场的布局 - AWS向客户推销自研推理芯片Trainium，并提供25%折扣[12] - OpenAI通过租用谷歌TPU降低推理成本和对英伟达依赖[13] - 亚马逊向Anthropic投资40亿美元，后者使用AWS推理芯片[12] - 科技巨头平均利润率普遍突破50%，英伟达GB200利润率达77.6%[10] 初创公司的差异化竞争策略 - Rivos正在寻求4-5亿美元融资，累计融资将超8.7亿美元[4] - 25家AI芯片初创公司共融资超70亿美元，总估值290亿美元[17] - Groq累计融资超10亿美元，与沙特达成15亿美元芯片协议[17] - 初创公司聚焦ASIC芯片研发，在特定推理任务中具有性能优势[16] 技术架构与市场格局变化 - Transformer架构使基础模型训练趋向稳定[6] - MOE架构只需局部训练新信息，推动推理市场爆发[7] - 边缘侧小型分散推理需求正在爆发[18] - 推理对CUDA生态依赖较小，可使用多样化硬件平台[11]

核心观点 - AI算力需求驱动PCB行业量价齐升，预计2025/2026年AI PCB市场规模达56/100亿美元 [2][3] - 高端PCB产能释放效率滞后于需求增速，供需缺口将持续存在 [2][3] - 新工艺迭代（如CoWoP、正交背板、材料突破）将创造新增市场需求 [4] 需求侧分析 - 2024年全球PCB产值735.65亿美元（同比+5.8%），AI服务器/交换机贡献核心增长动力 [5] - 2026年AI服务器渗透率预计达15%，2023-2025年出货量CAGR达35% [7] - 单GPU对应PCB价值量从H100的183美元提升至GB300的413美元，技术迭代驱动单价提升31-34% [18][25][28] - ASIC出货量2026年有望超越GPU，CSP自研芯片加速渗透 [8] 供给侧分析 - 中国大陆占全球PCB产能53.9%，7家A股公司合计投资320亿元扩产 [35][36] - 高端产能受限于设备交期（日系激光钻孔机）和良率爬坡，实际释放滞后需求 [35] - 台光电计划2026年将CCL产能提升至760万片/月，重点扩充M7/M8级材料 [40] - 高频高速CCL市场集中度高，前五大供应商占比55.7% [38] 技术路径演进 - 高多层板（18+层）与高阶HDI（5阶+）形成互补格局，前者侧重散热/信号完整性，后者实现高密度集成 [42][47] - GB200 NVL72机柜采用正交背板替代铜缆，PCB价值量提升29% [24][49] - CoWoP工艺通过SLP类载板缩短信号路径，但面临线宽缩小（15-20μm）和CTE匹配挑战 [53][58] - M9级CCL（Dk≤3.8，Df≤0.005）和PTFE材料（Df≈0.0014）将成为224G传输标准 [59][62] 产品结构升级 - HGX H100服务器PCB包含OAM（0.3万元）、UBB（0.5万元）、CPU主板（0.3万元）三类板卡 [15] - GB200 NVL72机柜PCB价值量16万元，Bianca板（M8材料HDI）占比超60% [24] - Rubin Ultra预计采用4x reticle面积，推动PCB向更大尺寸/更高层数发展 [47]

AI终端硬件创新 - AI眼镜市场升温，Meta和Rayban采用"先眼镜后智能"策略逐步提升消费者接受度 [3] - AR眼镜通过显示功能显著提升用户体验，光学显示模块占BOM成本最高 [3] - 当前主流方案为MicroLED+衍射光波导技术 [3] - 手机AI功能仍有完善空间，但光学、折叠屏、指纹识别等硬件持续创新 [3] 算力产业链投资机会 - 算力链重点关注服务器、PCB、CPO、铜缆、电源、液冷等国内优势环节 [3] - 英伟达持续强势，云厂商崛起，国产算力突破推动投资多元化 [3] - 美股AI软硬件标的普涨，CoreWeave涨幅达195%，Palantir涨77% [13][17] - 英伟达FY25Q3营收441亿美元，同比+69%，超市场预期 [15] 海外算力市场动态 - 英伟达预测欧洲AI算力未来两年将实现十倍增长 [15] - 云厂商自研ASIC加速，2024年全球ASIC市场空间65亿美元，2033年将达152亿美元 [26] - 谷歌TPUv6e单卡BF16算力达918TFLOPs，互联带宽3584GB/s [59] - 亚马逊Trainium2采用AEC方案，64卡机柜FP8峰值算力达83.2PFLOPS [101] 技术演进趋势 - 英伟达Blackwell架构B300单芯片算力达15PFlops，较B200提升50% [38] - CPO技术可节省30%功耗，降低40%比特成本，2029年出货量将超1000万端口 [81][87] - AEC在7米内传输性能优于DAC，预计2025年占NIC ToR连接49%份额 [100] - 冷板式液冷当前占95%市场份额，浸没式液冷PUE可降至1.1以下 [135] 国产算力发展 - 豆包大模型日均tokens使用量达16.4万亿，较发布初期增长137倍 [143][145] - DeepSeek采用MoE架构支持128k上下文，性能接近国际顶尖模型 [145] - 火山引擎AI云原生服务已覆盖5000+合作伙伴，产出增长超200% [148] - 豆包大模型1.6综合成本仅为DeepSeek R1的1/3，支持256k上下文 [151]