混合计算
搜索文档
Perplexity CEO Aravind Srinivas: People want to use their own local hardware
Youtube· 2026-09-05 01:04
核心观点 Perplexity与Nvidia合作推出本地硬件产品,并探索混合计算模式,旨在通过模型无关的编排能力,在本地设备与云端之间灵活调度计算资源,以应对隐私、安全及成本需求,同时缓解数据中心建设中的电力与内存瓶颈 公司战略与产品布局 - Perplexity与Nvidia达成合作,推出名为“便携式计算机”的DGX Spark产品,实现完全本地化的AI代理堆栈运行,包括产品、模型和代理均在本地硬件上执行[5] - 公司还发布了混合计算版本,允许用户保留访问云端前沿模型的能力,同时将隐私敏感文件(如健康记录、财务文档、税务申报)交由本地模型处理[7] - Perplexity是唯一能够编排“任何方向、任何模型、任何工具、任何芯片”计算资源的工具,具备模型无关的自动路由能力[3][8] - 公司观察到金融用户(如摩根士丹利、摩根大通)对完全气隙隔离的本地实现有强烈兴趣,以保护IP和网络安全[6] 行业趋势与计算模式变革 - 行业正从科技巨头大规模建设数据中心的竞赛转向本地硬件部署,Perplexity推动这一反向趋势[2] - 本地模型目前尚无法与前沿模型竞争,但两者均在快速进步,因此公司主张混合解决方案[9] - 在完全本地版本中,用户可选择“向上编排”至云端前沿模型;在云端起始版本中,系统可“向下编排”至本地模型处理敏感PII信息[10] - 数据中心建设面临电力、许可证和高带宽内存(HPMs)等瓶颈,而本地设备中未充分利用的RAM和电力资源可用于AI推理[11][12] - 若十亿用户需要运行24/7代理,将需要太瓦级电力和大量内存,仅靠数据中心无法满足,必须利用本地设备的电力、计算和内存资源[12]