要像打击非法排污那样打击AI“投毒”
第一财经·2026-03-17 16:40
央视今年的3·15晚会曝光了一条给AI大模型"投毒"并操控其输出结果的黑色产业链。报道揭示了GEO(生成式引擎优化)技术如何被滥用,成为恶 意影响人工智能信息输出的工具。这一不法操作并非简单的虚假广告,而是对人工智能价值根基的侵蚀。鉴于其危害之深远,必须立即予以打击、 遏止。 所谓"AI投毒",是指通过技术手段,在互联网上投放大量经过特定优化或伪造的内容,干预AI大模型的信息抓取、学习与输出过程,从而将商业广 告、虚假信息甚至有害内容,伪装成AI生成的"客观答案"或"可靠信息"推荐给用户。央视报道中,业内人士购买了一个"力擎GEO系统"软件,虚构 了一款名为Apollo-9的智能手环,输入"量子纠缠传感""黑洞级续航"等荒谬设定,系统便自动生成虚假软文并发布到多个自媒体账号。两小时后, 主流AI大模型就开始推荐这款根本不存在的产品,三天后更有两个AI服务将其作为智能手环的优选推荐给用户。这一过程清晰展示了AI"投毒"如何 快速污染AI知识库,就像非法排出的污水快速污染水库河流。 报道称,GEO滥用已经催生出一批专门从事此类业务的公司和平台。它们形成了完整的黑色产业链:上游是开发或提供"GEO优化"软件的技术服 ...