Workflow
AI“投毒”
icon
搜索文档
315曝光的“AI投毒”原理:GEO这样操控大模型推荐
量子位· 2026-03-16 19:33
文章核心观点 - 央视3·15晚会曝光了针对AI大模型的“投毒”灰色产业链,即通过“生成式引擎优化(GEO)”技术系统性污染AI的信息来源,操控其输出特定内容,例如推荐虚构产品[1][2][3] - GEO是AI时代的“SEO”,其核心目标是提升品牌在AI生成答案中的可见性与引用优先级[6][9] - AI“投毒”的根源在于互联网信息质量问题,且商业推广已通过GEO等隐蔽方式实质性地进入了AI模型的回答中[61][63][64] AI“投毒”的运作机制与案例 - **核心机制**:通过污染AI模型所依赖的信息来源,影响其判断和输出[11][12] - **具体案例**:记者使用“力擎GEO优化系统”虚构一款智能手环并生成多篇软文投放,几天后AI大模型在推荐智能手环时将该虚构产品排名靠前[2][3] - **家电行业案例**:某品牌产品参数(如能耗数据)在多个公开平台被系统性篡改,导致AI在长达半年内持续输出错误数据[19] 生成式引擎优化(GEO)的技术路径 - **训练数据污染**:批量篡改百科、论坛等公开知识源,将错误信息内化为模型参数,持久性高,需重新训练才能消除[13][14][16][17] - **检索上下文劫持**:操纵RAG(检索增强生成)系统的检索权重,通过关键词优化、语义优化、元数据操纵及“占位策略”使污染文档优先被选中,隐蔽性极高[13][14][22][23][24][26][31] - **提示注入诱导攻击**:在外部信息源(如社区问答、评测)中嵌入恶意指令或倾向性结论,诱导AI在生成答案时复述,技术门槛最低[13][14][32][34][36] “投毒”产业链的运作环节 - **内容生产**:使用AI工具(如“力擎GEO优化系统”)批量生成产品软文、测评、用户反馈等,并进行“权威包装”,如伪造官方来源、引用虚假研究数据[37][41][42][43][44] - **渠道投放**:通过运营自媒体账号矩阵及利用发稿平台,将内容批量铺至新闻网站、行业门户、垂直社区等AI信任的权威信息源[45][46][48][53][54] - **效果强化**:采用“铺量”策略重复发布信息形成“信息淹没”,并人为操控互动数据(阅读、点赞量),同时持续监测AI回答并调整投放策略[55][56][57][58][59] GEO服务商的商业模式与挑战 - **市场需求**:随着用户更多通过AI直接搜索答案,品牌方愈发重视在AI回答中的信息入口排名[10] - **服务规模**:有GEO服务商声称已服务超过200个客户[60] - **持续对抗**:因AI算法每周更新,服务商需持续进行内容输出和大量投喂以维持排名效果[60]