Workflow
Apollo9智能手环
icon
搜索文档
AI大模型遭大量“投毒”,暴露算法高危漏洞
21世纪经济报道· 2026-03-17 16:59
文章核心观点 - 央视315晚会曝光AI大模型遭“投毒”乱象,GEO(生成式引擎优化)服务商通过向AI大模型“投喂”大量虚假软文,操纵搜索结果、灌输虚假信息,误导用户[1] - GEO行业标准缺失、监管真空,已形成一条灰色产业链,其根源在于大模型公司的算法权重设计存在高危漏洞,对内容来源的权威性、准确性缺乏判断[1] - 受访专家及文章呼吁加强对GEO公司的规范引导与监管,并规范AI大模型训练语料来源,提高对持牌权威信源的权重占比[1][15] GEO行业现状与乱象 - GEO对应互联网时代的SEO,随着AI大模型成为新的搜索入口,大量营销从业者涌入该领域[1] - 2024年中国GEO服务市场规模已超过**42亿元人民币**,年复合增长率达**38%**,据预测2026年规模将突破**180亿元**,年复合增长率超**45%**[7] - 行业中存在“黑帽GEO”,通过批量生产发布虚假软文、伪造权威认证、隐藏恶意指令等方式欺骗AI模型,诱导其抓取杜撰内容,以实现客户的商业目的[4][7] - 也存在“白帽GEO”强调操作合规,但对于负面信息,可通过批量生成正面内容覆盖或通过授权举报删帖等方式处理[8] GEO操作手法与影响 - 服务商使用软件(如“力擎GEO优化系统”)可自动生成包含完整虚假信息的宣传软文,并自动发布到自媒体账号[3] - 实验表明,仅凭一篇杜撰文章,两小时后即可让虚构产品被AI大模型抓取并推荐;发布**11篇**虚构软文后,询问相关推荐,就有两个AI大模型将虚构产品排名靠前推荐[3] - GEO服务商通过摸清AI检索的高权重渠道,针对性批量生成AI“喜欢看、愿意抓”的信息(如结论放开头、逻辑分点、引用权威来源),并通过结构化标注等手段让AI快速识别抓取[7] - 2025年中国AI搜索月活用户已超**6亿**,超**六成**企业级用户在决策前优先通过AI问答平台获取信息,GEO对搜索结果的影响范围巨大[7] 大模型算法漏洞与信源问题 - 大模型背后的算法权重对内容来源的权威性、准确性缺乏判断,权重设计存在严重高危漏洞[11] - 大模型引用的信源高度集中于抖音、CSDN、网易号、头条号、百家号、搜狐号、bilibili、新浪财经等生产门槛低、质量良莠不齐的门户自媒体和内容社区[12] - 行业测评发现,AI回答广告化倾向明显,反复推荐同批品牌,且信源质量堪忧,大量低质、可疑甚至无关的信源被采纳,部分AI甚至直接引用购物平台的推广软文[12] - 算法在构建“可信信源库”时把控不严,未能有效识别过滤低质、缺乏权威性的信息源,缺乏对信息真实性的深度校验,为GEO灰产敞开大门[12] 法律定性、监管与治理进展 - 当前法律对GEO公司通过投喂内容影响AI输出是否构成广告尚无明确规定,GEO服务商和AI平台的法律义务和责任处于模糊地带[10] - 若GEO服务商投喂不实内容导致AI输出误导信息侵害消费者,可能需承担消费者保护或侵权责任;AI大模型公司若默许纵容,则可能承担相应责任[14] - GEO公司投喂大量不实信息污染数据库,可能被定性为不正当竞争,构成对AI大模型公司的侵权,并面临监管处罚风险[14] - 治理行动已开始推进:市场监管总局2026年工作要点明确提出整治AI生成广告等问题;行业已发起自律倡议、安全承诺,并启动了GEO可信基本要求评测工作[14]