AI算力需求涌向模型推理,国产芯片站上竞技台了
2024年中国数据中心加速卡市场中,34.6%是国产算力,市场研究机构预计今年上半年国产算力占比应该会超四成。 刚刚结束的COMPUTEX电脑展上,英伟达CEO黄仁勋笑着对听众说,"你(芯片)买得越多,赚得越多。"引来一阵笑声。 这句话的背景是,全球科技厂商在AI热潮下继续重金投入建设数据中心或算力中心。黄仁勋在演示文档上写着,英伟达正在驱动全球万亿美元级别的企业 AI IT投资。 数据中心建设热潮下,现在看来,AI算力需求的变化与年初一些业内人士预计的不太一样。DeepSeek对训练算力资源的节约,并未让整体算力需求减少。 不过,还有一个变化发生了,随着DeepSeek推动AI走向应用,用于推理的AI芯片占比正在升高。 市场研究机构IDC中国副总裁周震刚告诉第一财经记者,2024年中国数据中心加速卡中已有半数以上是推理卡,DeepSeek出现后,今年推理芯片占比预计还 会增加。 这种芯片结构变化,可能会对AI芯片市场造成深远影响,特别是在中国市场。推理环节对AI芯片性能等的要求较低,国产AI芯片也可以使用,在英伟达出 口受到限制的情况下,可能促成国内AI芯片的组成发生变化。 周震刚透露,去年国内数据中心加速 ...