瞭望 | AI“向真”须严防数据“投毒”
新华社·2025-09-30 13:25
防范数据污染、确保AI信息真实可靠,必须加快构建多方协同的治理体系。 政府部门应加强监管引领,尽快制定GEO相关行业规范标准,明确数据来源审核、质量评估及内容真 实性验证等要求;同时,要提高违法成本,对非法数据交易与恶意"投毒"行为实施严厉打击。模型企业 须强化技术自律,加强对训练数据的全流程筛查,持续提升数据清洗与异常检测能力,重点研发高精 度"毒数据"识别与过滤技术,筑牢数据真实性与可靠性的内部防线。对公众而言,也需提高对AI技术的 认知水平和对虚假信息的辨别能力,并主动反馈AI异常输出,为构建开放健康的AI治理生态贡献力 量。 "AI向善",必先"向真"。AI发展以数据为基,只有保证数据真实干净,AI发展才能行稳致远,造福于 人。■ 文 | 张翊飞 AI搜索具备智能筛选、主动生成等特征,正在深刻改变人类信息获取方式。然而,近期一种名为"生成 式引擎优化"(GEO)的操作手法,正悄然演变为数据"投毒"行为:部分服务商将定制内容或伪造的权 威信息大量投放到AI频繁抓取的高权重平台;更有甚者在代码中植入隐藏指令,干扰AI判断,使其输 出带有特定倾向性的内容。 数据"投毒"危害不容小觑。其一,破坏信息公平。被污 ...