AI生成虚假信息的现状与危害 - 网络上频繁流传如“珠峰安装电梯”等由AI生成的虚假视频图文内容，引发公众关注并被官方辟谣[1] - AI技术可将荒诞构想包装成以假乱真的视频图文，利用人类“眼见为实”的心理机制进行传播，内容因新奇怪诞而易于扩散，为制作传播者带来可观流量[1] - AI造假技术已形成完整灰色产业链，电商平台有商家提供“AI起号”服务，标榜“三天打造10万粉丝账号”，核心手段是利用AI生成虚假内容吸引点击[2] - AI换脸与声音克隆技术泛滥，出现医生张文宏被换脸售卖产品、奥运冠军全红婵声音被克隆用于售货等案例，该技术甚至延伸至刑事犯罪领域[2] - 2024年10月南京市一案件中，被告人利用AI换脸软件生成动态人脸视频，非法获取195万条公民个人信息并实施盗刷消费，被判处有期徒刑4年6个月[2] - 互联网用户数量庞大且素养参差不齐，文化水平不高的人群和老年人群缺乏信息甄别能力，极易成为AI虚假信息受害者，例如通过AI假视频直播贩卖假货的骗术[3] 治理AI虚假信息的综合体系 - 治理策略需建立技术规范、监管创新、法治完善三位一体的综合治理体系，而非仅停留于“跟随辟谣”的常规思维[3] - 应严格规范AI技术应用，推行“AI内容强制标识制度”，要求AI生成式音视频、文字产品在显著位置注明系AI生成，并对AI数字人等产品严加监管[3] - 需利用科技手段改进监管，加强人工智能、大数据等监管工具开发，通过先进技术手段识别、跟踪和剿灭网络虚假信息[4] - 监管创新应建立“平台-政府-用户”三方协同机制：平台方优化推荐算法降低未经核实AI内容权重，监管部门构建“AI虚假信息库”实现跨平台数据共享与联动处置，用户端普及数字素养教育特别是针对老年人的反AI虚假信息培训[4] - 需完善AI开发应用的法律法规，在现有网络安全法、数据安全法、个人信息保护法基础上，进一步针对AI虚假信息制作、传播、利用完善法规并切实执行，对利用AI从事不法活动者依法严厉打击以形成威慑力[4]

网络谣言事件 - 社交媒体平台出现关于“珠峰安装电梯”和“喜马拉雅山装电梯”的虚假信息 [2] - 西藏网信部门确认珠峰暂无安装电梯计划，网传图文视频为AI生成 [2] 虚假信息内容与手段 - 部分营销号利用AI伪造西藏各类打卡景点的虚假图文视频 [4] - 虚假信息采用“逼真画面+误导性表述”的话术吸引流量、诱导消费 [4] 社会影响与官方回应 - 虚假信息会误导公众认知并严重扰乱网络环境 [4] - 网信部门提醒公安机关将依法查处编造散布谣言、扰乱公共秩序的行为 [4]

文章核心观点 - AI时代信息真实性面临前所未有的挑战，真假边界愈发模糊，进入"概率真相"时代 [1][2][9] - AI虚假信息具有高度逼真性、批量生产能力和精准定向传播优势，其迷惑性与破坏力远超传统谣言 [1][9][10] - 腾讯发布《拥抱概率真相》报告，系统分析AI虚假信息的特征、传播机制及应对策略 [1][11][130] - 概率真相时代需要构建技术、制度和公众认知三位一体的防御体系 [130][131][132] AI时代信息环境新特征 - 创作体验个性化：AI实现深度用户洞察和智能响应，构建以用户为中心的信息生态系统 [13][14] - 生产主体多元化：AI从辅助工具发展为独立内容生产主体，人类角色转向协调和监督 [19][25] - 事实真相概率化：信息真实性从绝对判断演变为动态的"信任评估"过程 [9][13] - 技术赋能信息聚合：AI实现即时广泛的信息可得性，极大拓展知识获取边界 [14][18] AI虚假信息的结构性特征 - 内容层面：从文本为主(52%)向多模态(视频27%，图片18%)跃迁，完全虚构内容占比高达85% [31][32][34] - 传播层面：热点驱动(社会热点49%)搭配情绪调动，经济利益驱动占比71% [38][39][42] - 危害层面：对社会稳定(37%)、文化认同(29%)、经济信心(22%)和个人健康(12%)造成系统性冲击 [45][47] - 与传统谣言相比，AI虚假信息具有工业化生产、精准定位和高效分发特点 [49] 典型案例分析 - 嫁接真实灾情：利用真实灾害信息真空期，虚构细节煽动情绪(案例一) [55][56][57] - 模糊指向名人：不明确主体诱导人肉搜索，伪造专业细节增强可信度(案例二) [61][64][65] - 盗用素材嫁接：利用AI生成视觉内容制造弱势群体恐慌(案例三) [69][70][71] - 伪造名人爆料：假借权威人物名义挑起分配焦虑(案例四) [76][77][79] - 夸大灾情危害：AI制作虚假视觉冲击图片(案例五) [81][82][85] 个体应对策略 - 工具对抗：利用AI工具交叉验证，核查至少三个权威信源 [120][122] - 高危信号识别：警惕热点嫁接、权威伪造、情绪对立和技术恐慌四类信号 [125] - 传播三思：思考准确性、重要性和必要性，避免情绪化转发 [126] - 概率思维训练：接受真相的动态性，关注权威信息迭代更新 [127][128] - 构建多元信息源：采用侧向阅读法验证信息来源可信度 [122][123]