在一个"有图有真相""有视频有真相"的时代，当AI越来越聪明，你还能分得出真假吗？近来AI成为已经 成为"羊毛党"新工具——随着图片造假产业化，AI诈骗开始入侵电商领域。 技术热潮之下，生成式AI正在挑战并重建新秩序，但其被滥用的风险也在随之提升。从深度伪造引发 的内容失真，再到AI情感陪伴所触发的伦理困境，一系列典型案例不断进入公众视野，揭示了技术滥 用的现实隐患。 2025年12月18日下午，由南方都市报社、南都数字经济治理研究中心主办的第八届啄木鸟数据治理论坛 在北京举行。会上，南都发布了一份四万字的重磅报告《生成式AI落地应用：透明度测评与案例分析 报告（2025）》。 报告回顾了近些年118起生成式AI风险案例，聚焦生成式AI带来的社会信任挑战以及人机交互伦理争议 和治理痛点，并尝试提出切实可行的政策建议。 AI造假冲击个人权利、行业秩序和社会信任机制 司法场景中，海内外均出现律师利用AI生成虚假判例的情形。2025年10月北京通州法院披露，一名律 师在代理意见中引用了不存在的"（2022）沪01民终12345号"判决。法官因案号规律异常而识破，确认 该判例系AI凭空生成。该律师因未尽核实义务，被审 ...

市场传言与股价波动 - 三花智控因“拿下特斯拉50亿元订单”的市场传言导致股价出现明显波动 [1] - 公司紧急发布公告澄清该市场传言不实 [1] - 股价波动过程呈现“虚假信息炮制—社交媒体传播—AI模型背书—触发量化策略—市场情绪共振”的闭环链条 [1] 行业现象与传播模式 - 类似案例并非孤例，今年以来三六零、慈星股份等公司也曾被市场热点概念和虚假消息扰动股价 [1] - 社交媒体和自媒体是虚假信息高频出现和传播的渠道，甚至实现跨国传播 [1] - AI技术的加持放大了信息的外溢效应，“语料污染”成为搅扰股价的始作俑者 [1] 市场关切与潜在问题 - 市场关切此类现象是否已演化为新型“抢帽子”交易 [1] - 市场质疑其间是否暗藏股价操纵产业链 [1]