文章核心观点 - 英伟达RTX Spark芯片将128GB统一内存与CUDA生态结合,解决了本地跑大模型时内存容量与生态兼容性难以兼得的问题 [10][11][12] - 本地算力需求远超预期,华硕ProArt创16 RTX Spark版本在京东开售后几分钟内即被抢空 [1][3] - 本地部署模型可实现Token自由与模型自由,边际使用成本趋近于零,将催生更多创新应用场景 [15][96][100] - 云端模型按Token付费的模式在AI全天候工作趋势下成本不可持续,本地算力是普通人能承受AI大规模使用的关键路径 [93][94][95] - RTX Spark代表了个人PC的新时代,让智能真正属于每个人,类似个人电脑普及的历史进程 [9][117][118] 产品规格与性能对比 - 华硕ProArt创16搭载RTX Spark N1X芯片,128GB统一内存加1TB SSD,京东售价37999元,为同机型中性价比最高 [3][17] - 机身薄至约12.9mm、轻至1.79kg,为16英寸轻薄本,内置原生支持CUDA的RTX Spark芯片 [6] - RTX Spark N1X与桌面版RTX 5090对比:内存容量128GB统一内存对32GB GDDR7,内存带宽约300 GB/s对1,792 GB/s,CUDA核心6,144对21,760,AI峰值指标1,000 TFLOPS对3,352 AI TOPS,功耗最高约80W对575W [20] - RTX Spark主打大容量、便携、超高能效,通过压低带宽和算力换取完全不同功耗水平,适用性和泛化性高于5090 [18][20][21] - 公司原本预期128G+1T设备至少卖45000以上,最终定价37999已大幅低于预期 [108] 本地模型部署与使用体验 - WorkBuddy与英伟达合作推出RTX Spark专区,国内用户可直接下载使用,实现开箱即用 [21][22][23] - 内置预设模型可跑到80 Token/秒,128G统一内存可承载100B左右Q4量化版本模型 [28][29] - 推荐Qwen 3.8-27B模型,在AA上以27B规模与数千亿参数模型打的有来有回,本地实测约30 Token/秒,与Codex中GPT-6.1 Sol速度相当 [31][39] - Qwen3.8-27B为Dense模型,推理时带27B参数一起推理,速度慢于Qwen3.6-35B-A3B,但换来智力飞跃 [37][38] - 已部署模型覆盖聊天推理、翻译、图片生成、视频生成、语音识别、语音合成、OCR等场景,Qwen系列在开源生态中几乎占半壁江山 [42][53][54] - 具体模型包括:Qwen3.6-35B-A3B剪枝定制版16.63 GiB、Qwen3.8-27B 16.20 GiB、Index-Translate-2B 1.22 GiB、Qwen-Image-2.1 30.21 GiB、MiniMax H3 41.38 GiB、Qwen3-ASR 1.7B 3.80 GiB、Qwen3-TTS 1.7B 4.21 GiB、PaddleOCR-VL 1.6 1.79 GiB等 [54] 多模型协同与工作流 - 128G超大内存支持并行跑多个模型,可将OCR、翻译、大语言模型串起来完成复杂任务 [67] - 图片生成Qwen-Image-2.1 BF16 40步配置,一张1K左右图约需1分多钟 [47] - 视频生成MiniMax H3本地跑15秒720P约需20分钟 [51] - 本地翻译小模型2B规模,约50个单词译文就绪0.45秒、约100个单词0.76秒、约200个单词1.34秒,设置6路并行,可开8路或12路提速 [78][79] - 所有操作在本地电脑完成,不需额外支付API费用,不需研究各模型API调用和推理框架 [69][70] 成本与行业影响 - 公司每月AI会员订阅费用达6000元,尚未算后端自动化费用 [87] - AIHOT后台每天处理上千条新闻,每条新闻可能需三四个模型协同进行预筛、实体抽取、精选打分、翻译、摘要、聚簇、去重等 [89] - 稳定后每天消费100多元API费用,已极尽可能省钱、全用flash级小模型,一次几分钱仍堆成高额账单 [93] - 若未来AI全天候工作,每隔几秒识别屏幕内容、后台无时无刻整理文件检索资料,云端API按Token付费费用将夸张到普通人无法接受 [93][94][95] - A16Z报告显示即使到2026年AI已发展快4年,美国仍有98%家庭没有为AI付过费 [101] - 云端模型像租来的地,本地模型像自己的一亩三分田,代表物质和精神上的自由 [104][105] - 类似胶卷时代到数码相机再到手机拍照普及的过程,当智能边际使用成本足够低时,人们才会把智能用在过去不值得使用智能的地方,带来真正创新 [96][97][98][99][100] - 未来随着模型量化、蒸馏、推理优化和芯片技术发展,类似RTX Spark的能力可能逐渐进入普通笔记本甚至手机 [115] - RTX Spark让行业提前看到未来每个人都可以在电脑里拥有真正属于自己的、取之无禁、用之不竭的智能 [116][117][118]
这台卖37999的RTX Spark电脑,让我实现了Token自由。