“顶流明星在澳门输了10亿”系AI捏造!造谣者被行拘
21世纪经济报道·2025-03-14 09:51
AI谣言治理与平台应对 - 网民徐某强利用AI生成"顶流明星澳门输10亿"谣言信息,造成恶劣社会影响,被行政拘留8日[1][2] - 微博3月11日启动AI内容治理,重点领域包括社会民生/突发事件/科普医疗/个人权益,对未标识AI内容采取打标/限流/封号等措施[4] - 抖音/快手/微信/小红书/B站等六大社交平台均已要求用户声明AI生成内容[6] - 今日头条去年打压93万条低质AI内容,处罚3万个违规账号,AI内容典型特征为空洞/矛盾[7] - AI内容农场产业链曝光:西安案件日均生成19万篇流向6000账号,南昌MCN机构日生成4000-7000篇[8] AI内容生产成本与监管 - 国产大模型API生成单篇文章成本仅0.00138元,1分钱可生产7篇文章[8] - 2023年8月实施的《生成式AI服务管理暂行办法》要求对图片/视频等内容进行标识[9] - 2024年9月《AI生成合成内容标识办法》拟要求平台添加明显AI标识[10] - 网信办2025年"清朗"行动将重点整治AI技术滥用,强化内容标识[10] AI技术滥用风险 - AI换脸/拟声技术成为违法重灾区,雷军本人称是受害者[11][12] - 雷军两会提案呼吁加强AI换脸拟声治理,建议提前立法防范风险[13]