事件概述 - 12月19日，一张显示“阿里千问全员会”的图片在网络流传，图中疑似员工手举豆包并配有“干死豆包”标语，涉及阿里巴巴“千问”与字节跳动“豆包”两款AI应用的竞争关系，引发热议 [1][3] - 阿里千问官方迅速辟谣，确认图片为AI生成，并指出图片存在工牌、LOGO设计错误以及人群行为模式不符合逻辑等多处细节错误 [3] - 官方在辟谣后，转而宣传其千问App的生图功能，发布了多张AI生成的梗图 [3] AI伪造图片的现状与风险 - 此次事件并非孤例，AI伪造图片凭借高度逼真的视觉质感在社交平台快速传播，已引发多起不良社会影响 [6] - 具体案例包括：西藏地震后“小男孩被埋废墟”图片、广东强对流天气“冰雹比鸡蛋大、砸垮房屋”画面、广州流浪汉入侵民居虚假图片、小鹏汽车车展低俗车模虚假配图，以及伊朗宣称击落以色列“F-35”战机的虚假残骸照片 [6] - 这些虚假内容轻易误导公众认知、煽动社会情绪，其渗透范围已覆盖多个领域，对社会信任体系和公共秩序构成潜在威胁 [6] 行业监管与政策动向 - 针对AI伪造内容乱象，国家已部署开展治理工作，2024年及2025年的“清朗”系列专项行动均将规范生成合成内容标识、打击AI技术滥用作为整治重点 [7] - 2024年9月1日，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成的文字、图片、视频等内容必须添加显式和隐式两种标识以“亮明身份” [7] - 法规对传播平台也提出明确要求，规定提供网络信息内容传播服务的服务提供者需核验文件元数据中的隐式标识 [7] 治理挑战与未来方向 - 尽管立法已明确要求对AI生成内容进行标识，但AI伪造图片等虚假内容仍在网络“横行”，治理面临挑战 [8] - 中央网信办文章指出，需加强网信领域新技术研发应用，做好人工智能生成合成内容标识工作，加快技术治网能力建设，提升人工智能安全治理水平 [8] - 专家及研究报告建议，应从源头治理、溯源机制、惩治力度、科普宣传等多角度入手，推动形成多方联动的“多元共治”格局，以化解AI虚假内容治理痛点 [9] - 南都大数据研究院发布的《AI新治向：生成式人工智能内容与传播风险观察》报告，揭示了生成式AI伴生的多类风险，并解析了AI虚假内容的传播链和成因，提出了治理建议 [9]