Workflow
开放互联网
icon
搜索文档
AI 时代网络搜索的破壁人 Cloudflare(NET)
傅里叶的猫· 2026-07-12 23:00
文章核心观点 - 生成式AI的兴起正在颠覆传统搜索引擎(以Google为代表)建立的“数据换流量”的开放互联网价值交换模式,AI模型通过抓取和整合网页内容直接生成答案,大幅减少了用户对原始网站的点击访问,导致内容创造者的流量回报迅速减弱[8][11][14] - Cloudflare(NET)凭借其近十六年构建的、位于互联网流量入口的全球网络与安全平台,获得了连接内容供给、访问规则和AI需求的独特战略位置,其与OpenAI的研究试点合作,旨在改变搜索引擎获取网页的底层方式,从盲目爬网转向由实时信号驱动、可授权甚至可计价的内容供应系统[16][26][28] - Cloudflare可能成为AI时代互联网内容访问与使用的关键规则执行者和基础设施,争夺比Google“信息排序权”更底层的“信息访问权”,决定AI能够看见什么以及需要付出什么代价,这对其既是巨大机遇也伴随着成为“守门人、裁判员和运动员”一体的争议[24][30][35] 根据相关目录分别进行总结 Google的帝国建立与核心优势 - Google凭借PageRank算法解决了早期互联网海量网页的排序问题,该算法通过分析网页间的链接关系来评估页面重要性,而非简单依赖关键词频率[2] - Google将技术优势转化为商业帝国,核心在于建立了“搜索识别需求-广告系统为需求定价”的闭环,搜索框天然连接用户意图与商业需求[4] - Google的竞争力已扩展为横跨信息获取、内容消费、移动操作系统、地图导航和应用分发的强大基础设施网络,其全球搜索引擎市场份额达91.27%,Android在移动及平板操作系统中的份额约为68.5%[4] - Google帝国运转的前提是开放互联网的“数据换流量”契约:搜索引擎抓取和索引网站内容,并将用户流量导回网站,双方形成共生关系[5][6] 生成式AI对传统搜索与开放互联网的颠覆 - 生成式AI改变了信息获取范式,从回答“答案可能在哪里?”转变为直接提供“答案本身是什么?”,用户不再需要点击多个链接进入原始网站[8][11] - AI通过两条路径影响内容生态:在模型训练阶段大规模抓取网页内容形成内部能力;在实时检索阶段抓取、阅读并整合网页内容直接生成答案,原始网站难以因此获得访问流量[9][10][11] - AI平台的“爬取-引流比”远高于传统搜索引擎,凸显了抓取规模与返还流量间的巨大落差:2025年7月,Google的比值为5.4:1,而OpenAI为1,091:1,Anthropic高达38,066:1,后者约为Google的7,000倍[12] - 生成式AI正在改写开放互联网的价值交换方式,内容被抓取和使用,但对应的流量回报急剧减弱,内容创造者面临成本难以回收的挑战[13][14] Cloudflare(NET)的战略位置与核心能力 - Cloudflare通过提供免费CDN、DNS与基础安全服务,吸引了海量网站,构建了覆盖全球的网络,其基础设施覆盖125个以上国家和地区的335座城市,全球边缘容量约500Tbps[20][21] - 在能够识别出反向代理服务的网站中,Cloudflare市场份额约为83.7%,超过20%的Web位于其网络之后,在全球访问量最高的网站中约36%使用其网络[21] - Cloudflare同时掌握三个稀缺位置:内容出口(可最早感知页面变化)、访问入口(可识别并管理各类访问者)、规则执行层(可直接执行访问控制)[22] - 与Google掌握“信息排序权”不同,Cloudflare理解“访问者与网页之间正在发生什么”,正在争夺“信息访问权”[23][24] Cloudflare与OpenAI合作的意义与潜在影响 - Cloudflare与OpenAI于2026年7月8日宣布启动研究试点,旨在利用网站共享信号及Cloudflare的实时数据,提高AI搜索发现与索引开放网页的效率、准确性和时效性[26] - 合作的核心是尝试将传统盲目爬网改造为由实时信号驱动、获得网站授权并可计价的内容供应系统,Cloudflare负责供给侧(内容价值与访问许可),OpenAI负责需求侧(用户问题与答案组织)[26][27] - 若该体系成立,Cloudflare可能成为Google集中式索引体系之外的一条新的分布式互联网内容供应管道,网站可通过Cloudflare将内容更新与访问条件直接提供给不同AI平台[29] - Cloudflare的目标是成为AI时代的流量海关、内容交易所和规则执行者,决定AI能够看见什么以及需要付出什么代价[35] Cloudflare面临的挑战与争议 - Cloudflare同时扮演双重角色:一方面为网站识别、限制和定价AI爬虫;另一方面通过Workers AI、AI Search等产品参与机器使用内容的市场[30] - 这使其可能同时成为守门人、裁判员和运动员,其能否建立透明的爬虫分类、平等接入和数据治理机制,将决定它最终成为开放互联网的新公共基础设施还是更隐蔽的流量围墙[30][31] - 目前与OpenAI的试点设置了边界,如仅用于搜索、不用于训练、由客户选择共享等,并声称设计上保持中立,未来向遵守规则的其他引擎开放,但这些仍是研究阶段的原则[30]