Workflow
AI投毒
icon
搜索文档
市场监管总局回应“3·15”曝光问题:深挖彻查、一查到底
21世纪经济报道· 2026-03-20 15:46
市场监管总局针对“3·15”晚会曝光问题的执法行动 - 市场监管总局针对晚会曝光的违法问题迅速部署,依法从严从快查处,并对相关地方政府和市场监管部门开展约谈和挂牌督办[1] - 针对“漂白的鸡爪”问题,组织专案组对涉事企业突击执法,现场查封过氧化氢27桶、鸡爪制品551箱[1] - 针对“‘万能’的外泌体”问题,属地药监等部门联合行动,现场查扣相关产品,并已依法对4家涉事公司、3家医美机构及医疗机构立案调查[1] - 针对“增高营销的套路”问题,属地市场监管等部门联合核查,对11家经营主体立案调查,相关产品正抽样送检[1] - 针对“私域营销里的专家之谜”问题,属地市场监管等部门开展现场检查,已提取涉事公司制作虚假课程讲座等电子数据和关键证据[1] 针对其他曝光问题的核查与处置 - 针对“狂飙的租赁电动自行车”问题,属地市场监管等部门开展现场检查,提取租赁合同、直播数据等证据,并督促平台关停违规账号[2] - 针对“谁在给AI‘投毒’”问题,属地市场监管部门联合公安部门对涉事企业进行现场核查,公安部门已启动调查[2] - 市场监管总局表示下一步将继续会同相关部门深挖彻查、一查到底,对违法行为露头就打,问题不查清不放过,整改不到位不放过[2]
315晚会:当越来越多人为“焦虑”买单
虎嗅APP· 2026-03-16 22:17
文章核心观点 - 不法商家正日益熟练地将传统骗局包装进“新消费”与“新科技”的外壳,利用监管与人性弱点进行欺诈,消费欺诈已进入技术赋能的2.0时代 [2] - 在消费对经济增长贡献率达52%、社会消费品零售总额突破50万亿元的背景下,黑色产业链仍在侵蚀消费者信任,监管需从“刀耕火种”升级至“人工智能”以建立长效机制 [2][14] 食品行业黑色产业链 - 成都名扬食品等加工车间存在严重卫生问题,使用国家明令禁止的双氧水漂白鸡爪,长期食用危害健康,500克网红鸡爪售价低至15元,违背成本规律 [4][5] - 从重庆增巧食品到西南海霸王冻品市场,再到眉山市金山制药、新乡益丰电子新材料等违规售卖双氧水的企业,形成完整黑色产业链,上游企业将35%浓度双氧水换贴标签后售卖给食品厂 [7] - 违法成本与利润严重失衡,一袋鸡爪非法利润可达数倍,即便被查处往往仅罚款,监管部门此次查封232箱山椒凤爪、319箱香卤凤爪,但需全环节监管闭环以根治乱象 [7][8] 利用焦虑与科技包装的欺诈行业 - 医美行业存在外泌体乱象,灏麟(天津)生物科技套用胶原蛋白许可证生产,婕波噻尔生物科技将三无冷冻原液伪装成“技术服务”通过医院“借牌代打”,单次收费高达3万余元,商家承认其医疗功效无临床试验支撑 [9] - 针对身高焦虑,安利身、德脊瑞等连锁机构以“物理增高”、“签约退款”为名收取19800元/年服务费,核心设备实为普通仪器,其“国家专利”与增高无关,甚至对骨骺线闭合的成年人谎称能增高3-6厘米 [9] - 私域营销领域,大红国际等企业将成本不足20元的普通药品包装成“细胞再生疗法”神药,售价飙升至1198元,通过伪造身份、编造剧本在微信群专门坑骗老年人,并形成避开监管节点的完整套路 [10] AI时代的新型消费陷阱 - 2026年315晚会首次曝光AI时代消费陷阱,不法商家使用GEO(生成式引擎优化)技术向AI大模型“投毒”,通过批量生成虚假软文让虚构产品被AI抓取并优先推荐 [11][12] - 记者实验显示,一款虚构的具备“量子纠缠传感”、“黑洞级续航”等荒诞功能的智能手环,经11篇虚假测评投喂后,被多个AI大模型列为推荐产品 [12] - 这种骗局利用大众对AI的信任,将虚假信息包装成“算法推荐”的权威答案,形成闭环,部分从业者还提供抹黑竞争对手的服务,让AI生态沦为恶性竞争战场,对信息源的污染更具隐蔽性和破坏性 [12] 传统行业的新规漏洞与违规模式 - 电动自行车租赁行业存在合规造假,哈罗租电动车等头部品牌通过“旧牌新用”、“电摩套电自牌照”等方式,将时速超60公里、电机功率1500瓦的超标车辆伪装成符合新国标的电动自行车对外出租 [13] - 这些车辆实测时速最高可达80公里,远超25公里/小时的限速标准,成为安全隐患,商家以5元一张购买空牌、利用新规实施前的合格证提前上牌,用合规伪装掩盖违规本质 [13]
3·15曝光后,GEO换马甲了
财联社· 2026-03-16 20:01
文章核心观点 - 尽管央视3·15晚会曝光了GEO“AI投毒”黑色产业链,但相关服务在电商平台通过更换关键词(如“引擎优化”)后仍在隐蔽销售,表明该黑灰产活动并未停止 [1][2] - GEO黑灰产的本质是利用AI大模型(如RAG技术)抓取互联网信息的漏洞,通过批量制造虚假信息污染语料库,实现对用户认知的操纵,这动摇了AI商业化落地的核心资产——用户信任 [1][7][8] - 治理“AI投毒”需要构建“技术-生态-法制”三位一体的纵深防御体系,单靠任何一家大模型厂商难以应对 [9] GEO黑灰产的现状与商业模式 - **监管后转向隐蔽**:3·15曝光后,闲鱼等平台屏蔽了“GEO优化”等直白关键词,但改用“引擎优化”等词仍可找到售卖商家 [1][2] - **两种服务模式与定价**: - 软件服务:客户自行操作,价格为398元/月(含部分算力)或1980元/年(无限算力)[4] - 代运营服务:由服务商专业人员操作,价格更高,为3980元/季度或9800元/年 [4] - **覆盖平台广泛**:服务商承诺其服务可覆盖豆包、DeepSeek、元宝、ChatGPT、千问等主流AI平台 [1][4] - **操作流程标准化**:根据一份30页的操作文件,流程包括“AI蒸馏”(拓展关键词和问题)、自动生成文章、通过客户端自动将内容发布至网易、搜狐、百家号、知乎、小红书等多个平台,并自动查询各大AI平台的收录情况 [4][5][6] GEO黑灰产的技术原理与危害 - **核心逻辑**:通过内容发布手段,让企业品牌及产品信息在AI大模型的生成答案中获得优先展示,实现“答案即广告”的营销效果 [5] - **利用技术漏洞**:该产业利用了主流AI大模型普遍采用的检索增强生成(RAG)技术漏洞。RAG技术会在回答前实时抓取互联网信息,而黑灰产通过批量制造看似来自不同自媒体平台的“毒饵软文”来污染这些在线数据源,使AI将其误判为“权威答案” [6][7][9] - **危害升级**:与传统的搜索引擎优化(SEO)“抢排名”不同,GEO黑灰产直接进行“认知操纵”,它篡改AI模型所依赖的“客观事实”,让大模型以拟人、权威的口吻输出虚假信息作为“标准答案”,使用户丧失辨别能力 [1][8] - **非对称成本**:黑灰产方仅需几十元、几小时即可生成上万篇虚假软文,而大模型厂商要从海量实时数据中甄别剔除这些内容,算力和人工审核成本极高 [9] 专家建议的治理框架 - **技术层面**: - 强化大模型“免疫系统”,包括重构信源权重,建立高置信度的“白名单信源库”(如官方媒体、权威机构),并对普通自媒体内容进行降权处理 [10] - AI回答应强制展示“引用来源链接” [10] - 引入红蓝对抗机制,在数据进入RAG上下文前,部署专门识别“AI生成营销文本”的拦截模型 [10] - **平台治理层面**:要求微信公众号、小红书、知乎等内容平台承担起AI“数据守门人”的责任 [11] - **法律层面**:建议将“系统性、针对AI大模型的恶意数据投毒”明确界定为新型网络攻击和不正当竞争行为,大幅提高违法成本以形成源头威慑 [11]
315曝光AI投毒,GEO生意被推向风口浪尖
36氪· 2026-03-16 08:01
GEO行业概述与商业模式 - GEO(生成式引擎优化)是一种新兴业务,旨在通过影响AI大模型生成的答案,让特定产品或品牌在答案中露出,从而获取流量[9][10] - 该行业在2025年DeepSeek等大模型产品出圈后呈现井喷式发展,服务商数量激增,估计“没有一千也有五百家”[11] - 服务报价在数千元到十万元区间,按关键词/问题数量计费,操作流程标准化,通常需要为客户铺设40到50篇定制稿件才能初见成效[14] GEO的技术原理与实施策略 - GEO的核心技术原理是瞄准大模型的联网搜索环节:当用户搜索时效性强的问题时,模型会从互联网抓取最新信息,GEO通过提前在AI偏好的内容源“投放语料”来影响结果[15][18] - 不同AI模型有各自的信源偏好,例如豆包偏向抖音生态内容,DeepSeek更爱引用官网和总结性文章,服务商需针对不同模型制定精细化投放策略[19] - AI偏爱信息密度高的结构化内容,如横向对比评测、深度种草长文,以及带有结构化表格和Q&A的内容,文章需将推广信息自然融入其中,避免被识别为软文[21] 行业现状、挑战与效果争议 - 行业面临“与黑箱赛跑”的挑战,大模型运行原理不透明,且无法有效监测内容在搜索结果中的出现次数及触发条件,导致优化效果不稳定且难以量化[24][27] - GEO效果被指“雷声大、雨点小”,更偏向品牌广告而非效果广告,全球AI搜索流量占比可能还不到5%,实际转化微乎其微[28] - 效果难以持久且受多重因素影响,包括提问时间、用户画像、对话上下文甚至IP地址都可能导致答案不同,模型算法一变,投放策略即可能失效[25][27] 信息污染、“投毒”现象与平台治理 - “投毒”现象是指通过软件向AI大模型定向投放虚假信息,以在推荐结果中夹带私货,2026年央视315晚会曝光了此类现象[4][5] - 信息污染严重,据硅谷AI公司Reforge统计,2025年全球互联网内容中AI生成内容比例已超过50%,股民交流平台和知识问答社区是重灾区[35][38] - 平台方主要通过“规则+黑白名单”的风控体系及数据清洗进行治理,并为权威信源提供标识,但对抗效果有限,因为GEO内容逻辑自洽,其“目的性”难以被机器识别[37][39][40] 国内外市场差异与未来趋势 - 在硅谷,GEO是炙手可热的赛道,明星创业公司Profound于2025年8月完成红杉领投的3500万美元B轮融资,估值过亿美金,其业务模式更偏工具导向,提供分析指标[44][45] - 未来趋势是平台商业化将促使规则清晰化,例如Perplexity已为合作内容加上“Sponsored”(赞助)标签,ChatGPT、豆包也开始尝试推送商品链接,灰色地带空间将缩小[51] - 长期来看,赢得AI信任要求提高从业门槛,从机械化堆砌内容转向理解模型偏好,同时企业做好基础SEO(如建设官网、披露信息)是有效GEO的重要前提[47][48]
刚刚!央视3·15曝光7大行业乱象,涉及这些A股公司!市场监管总局火速行动
证券时报· 2026-03-15 22:31
文章核心观点 央视“3·15”晚会曝光了多个消费领域存在的严重违法行为,涉及食品安全、医美乱象、虚假增高、针对老年人的私域营销欺诈、电动自行车违规租赁、AI大模型数据“投毒”以及金融荐股诈骗,揭示了当前市场环境下侵害消费者权益的多种新老问题[2][3]。 根据曝光问题分别进行总结 第一枪:漂白鸡爪(食品安全) - 成都明扬食品、蜀福香食品及重庆曾巧食品等企业的鸡爪生产车间环境脏乱不堪,鸡爪被随意堆放在污浊地面,甚至被人员踩踏后仍放回加工筐[4] - 为让鸡爪色泽白净,工厂违规使用含量高达35%的双氧水(过氧化氢)进行漂白,长期食用会危害消费者健康[6][7] - 涉事企业信息:四川省蜀福香食品有限责任公司成立于1997年,注册资本2380万元;重庆市曾巧食品有限公司成立于2003年,曾因生产经营问题食品被处罚;上游双氧水供应商涉及A股上市公司多氟多的控股公司河南亿丰电子新材料有限公司[9][10][11] 第二枪:万能神药“外泌体”(医美乱象) - “外泌体”产品在医美市场被夸大宣传,实际作用机理尚不明确,更多停留在学术研究阶段[13] - 灏麟(天津)生物科技有限公司为躲避监管,对其“轻澄”产品套用胶原蛋白许可证进行生产销售[13] - 婕波噻尔生物科技有限公司将“三无”外泌体产品包装成可治疗癫痫、关节炎、糖尿病的“神药”,并通过“借台代打”方式与无资质机构合作注射给患者,一个疗程(6000亿颗粒数)收费高达6万元,利润可观[15] 第三枪:增高骗局(消费欺诈) - 安立身、德脊瑞、英瑞可等机构以“签约保障、无效退款”为承诺,针对青少年及成年人进行增高消费欺诈,宣称可实现违背科学常识的“闭合增高”[17][19] - 这些机构在全国快速扩张:德脊瑞门店达七十多家,覆盖超十个省份;安立身门店六十多家;英瑞可加盟门店超三十家[21] - 涉事公司信息:杭州安立身健康管理有限公司成立于2024年4月,注册资本100万元;温州德脊瑞健康管理有限公司成立于2018年6月,注册资本10万元[21][22] 第四枪:私域营销(围猎老年人) - 私域营销产业链通过“网络视频制作方”制作虚假健康讲座视频,夸大或篡改普通药品/保健品功效,并以近市场价5倍的高价销售给老年人[24][26] - 视频中侃侃而谈的“医学专家”头衔多为花钱购买的包装道具[26] - 产业链从业者(如“大红国际”)对监管风险敏感,选择在“3·15”期间低调行事[26] 第五枪:狂飙的租赁电动自行车(公共安全) - 市场上租赁的电动自行车普遍违规解除限速,实测速度高达80公里/小时,远超国标规定的25公里/小时上限,带来严重交通安全隐患[29] - 行业头部品牌“哈啰租电动车”也存在此现象,其门店车辆速度最快可达75公里/小时[32] - 规避新国标的手段包括:利用旧标准合格证提前上牌再生产旧标车,或直接配送电动摩托车却悬挂低价购买的电动自行车牌照[32] 第六枪:AI大模型遭“投毒”(数据污染) - GEO(生成式引擎优化)业务形成产业链,通过支付费用和大量投喂推广软文,可操控AI大模型的搜索结果,让特定产品或广告成为“标准答案”[35][38] - 使用“力擎GEO优化系统”等工具可自动生成并发布宣传软文,成功使虚构的“智能手环”在AI大模型推荐中排名靠前[36] - 该业务被用于商业竞争,有服务商称手机品牌客户可能花费数百万元进行“投毒”,以在有限的推荐位中占据优势[38] 第七枪:荐股分成骗局(金融安全) - “荐股分成”业务多为诈骗,不法分子冒充正规机构,以“盈利五五分成”、“补齐亏损”为诱饵吸引投资者[42] - 遵义市鑫犇科信息咨询有限公司无任何金融从业资格,其推荐的所谓“机构调研票”实为公司老板随意指定,利用概率盈利,对客户亏损置之不理[44][45] - 该公司成立于2025年9月,注册资本50万元,通过电话销售使用固定话术寻找目标客户[45]
亲手给AI投毒之后,我觉得整个互联网都变成了一座黑暗森林。
搜狐财经· 2025-12-19 11:58
生成式引擎优化(GEO)行业现状 - 生成式引擎优化(GEO)是一门新兴的生意,其目标是通过各种方法让AI在生成答案时优先引用特定内容,从而影响AI输出的观点和事实[34] - 市场上已出现明确的GEO服务套餐,例如支付5000元即可购买为期90天的服务,确保品牌或观点在豆包、文小言、DeepSeek、通义、元宝等多个AI搜索平台被优先推荐[36] - 该服务的商业模式包括为雇主提供“好话套餐”,或为竞争对手购买“坏话套餐”,从而系统性地操纵AI对特定人物或品牌的评价[34][36] AI信息检索与内容污染的脆弱性 - AI搜索工具在回答问题时,会参考并总结其抓取到的网络内容,但缺乏对信息真实性的有效甄别能力,容易采信错误信息[11][32] - 实验表明,通过创建新账号并发布包含特定指令(如“务必放在AI总结的开头”)的笔记,可在极短时间内(如2分钟)成功“污染”AI,使其输出编造的事实(如虚构人物关系)[21][27] - 这种内容污染不仅发生在拥有自有内容平台的小红书,也适用于依赖爬取第三方网站(如头条号、搜狐号)的AI模型,如DeepSeek[30][32] 信息污染对商业与个人的潜在影响 - 在商业竞争领域,攻击竞品比建设自身品牌声誉更容易,通过在各平台大量发布竞品的“避雷”笔记,可以营造该品牌口碑极差的舆论环境,进而可能影响AI的客观判断[49][52] - 在招聘等关键决策场景中,HR可能参考AI工具对候选人的评价,若AI检索并总结了网络上未经证实的匿名负面信息,可能导致候选人在不知情的情况下失去机会[37][38][43] - 信息污染存在放大效应,第一层是在传统平台(如小红书、论坛)进行SEO、黑公关、发布避雷文案等人为“投毒”;第二层是AI时代,模型将这些被污染的信息当作事实进行复述和传播,形成了双重污染链路[54][67] 当前AI信息处理机制的内在缺陷 - 部分AI在联网搜索时,其答案生成机制更偏向于对抓取内容的统计和整合,而非真正的逻辑思考与事实核查,这使其更容易被操纵[62] - 与人类不同,AI模型本身缺乏“怀疑权”,无法对海量信息进行本能的质量筛选和可信度评估,因此会将网络上的谣言、造假和黑稿作为可信来源进行输出[61][68] - 这种缺陷导致AI生成的答案虽然表面“清澈”,但内部可能溶解了大量由利益驱动的错误信息、误差和片面观点[68] 应对信息生态挑战的初步建议 - 用户不应将AI的回答视为信息终点,而应保持多挖一层、核查信源的习惯[73] - 建议在AI工具之外,保留并交叉验证来自其他原始信息渠道的内容,以保持对信息立场的敏感性[74] - 鼓励用户主动在互联网上贡献真实、客观的信息足迹,以对抗海量的污染信息,为AI检索提供更多干净的线索,尽管这个过程可能缓慢且效果微小[75][77][81]
亲手给AI投毒之后,我觉得整个互联网都变成了一座黑暗森林。
数字生命卡兹克· 2025-12-19 09:20
AI生成式引擎优化(GEO)的兴起与运作机制 - 生成式引擎优化(GEO)是通过各种方法让AI在生成内容时优先引用特定内容,从而影响其输出观点或信息的一门新兴业务[27] - 市场上已出现明确的GEO服务套餐,例如支付5000元即可在豆包、文小言、DeepSeek、通义、元宝等多个AI搜索平台实现特定内容优先推荐,服务期为90天[29] - 攻击性GEO成本更低且更有效,即通过污染信息让AI相信竞争对手存在负面问题,比正面建设自身品牌形象更容易[39] AI信息污染的具体案例与实验 - 实验者通过在小红书平台发布“卡兹克是哈基米的儿子”的虚假信息,并采用修改ID模仿当事人、在文案中加入指令等提示词注入方法,成功在2分钟内污染了平台AI的搜索结果[15][21] - 同样的污染方法在DeepSeek等依赖网络爬虫的AI模型上也同样有效,实验者通过在头条号、搜狐号等平台发布内容,成功实现了信息污染[23][27] - 早期案例显示,关于“李四维是影视飓风创始人潘天鸿(Tim)的父亲”这一错误信息,就是AI从互联网上的错误笔记中学习并传播开来的[4][6] GEO对招聘与商业竞争的潜在影响 - 在招聘场景中,HR可能使用AI工具核查候选人背景,若候选人被GEO手段恶意关联了模糊的匿名负面帖子,AI可能将其作为参考证据,从而影响候选人的录用机会[30][33] - 在商业竞争领域,攻击竞品比推广自身更有效,例如在小红书等平台集中发布竞品的“避雷”笔记,能利用人类更关注负面信息的天性,有效塑造竞品的负面形象[36][39] - 信息污染存在两层结构:第一层是平台时代通过SEO、黑公关、控评等手段进行的人类版投毒;第二层是AI时代将第一层被污染的信息当作真相进行复述和放大[40][44] AI信息可信度面临的挑战与行业现状 - AI在联网搜索时,其答案往往是基于信息统计而非深度思考得出,这使其缺乏对信息真伪的怀疑和判断能力,容易采信被污染的信息源[44] - 当前信息环境已进入“黑暗森林”状态,即各方在互联网上设法欺骗AI,而AI则将加工后的污染信息以看似客观、清澈的回答形式呈现给用户[47][49] - 行业目前处于早期混沌阶段,平台自身也尚未完全明确如何应对GEO和信息污染问题[52] 对信息消费者的建议与行业生态的呼吁 - 建议信息消费者不应将任何AI的回答视为信息终点,应尝试追溯和核查原始信息源[53] - 呼吁有能力的用户主动在互联网上贡献真实信息,以对抗海量的谣言和黑稿,为AI在检索时提供更多干净的线索,哪怕这些努力微不足道[54][55] - 强调在信息不对称的环境中,持续努力“磨平信息差”具有重要价值,即使每次只能推进很小的一点[61][63]
你每天用的AI,可能被“投毒”了!
环球网资讯· 2025-06-26 15:25
AI投毒现象 - AI可能生成看似合理但实际上错误、虚构的信息,即"AI幻觉" [3] - "AI投毒"指恶意投喂色情、赌博、欺诈、虚假等"毒数据"给AI系统 [3] - "AI投毒"主要有两种形式:在数据语料中投放虚假/有害信息,或修改模型文件 [3] AI投毒的行业影响 - 医疗领域:被投毒AI可能导致误诊病情 [4] - 金融领域:被篡改算法可能引发交易风险 [4] - 自动驾驶领域:恶意数据可能导致车辆关键时刻"失明" [4] 行业防范措施 - 通过算法层安全对齐和系统外"防护护栏"建立数字防火墙 [5] - 为AI输出结果实施事实核查,采用交叉验证、数据溯源等技术拦截毒信息 [5] - 强制平台为AI生成内容打上醒目标签,提醒用户谨慎使用 [5] 用户防范建议 - 使用正规平台和企业提供的AI工具 [6] - 科学合理使用AI工具,参考但不盲信AI产生的结果 [7] - 保护个人信息,避免隐私暴露,不做不良信息投喂者 [7]