网红造谣的幕后生意:以AI造假起号引流,涨粉后再转型转卖
南方都市报·2025-05-14 16:06
网络虚假信息已成社会公害,有时甚至真假难辨。5月13日,南都、N视频辟谣专栏《真假即时查》调 查发现,当前,为起号引流涨粉,不法分子的手段逐渐升级。他们利用AI深度伪造,误导公众认知, 快速起号后,开始带货、卖课等。有的被明码标价放到账号交易网站上,形成"起号、转型、转卖"的灰 色产业链。 近期,四部门联合发布《人工智能生成合成内容标识办法》,要求对人工智能生成合成内容进行显示标 识和隐式标识。实际上,绝大多数社交平台均明令禁止账号转卖行为。 "百万粉丝网红疑遭勒索后自杀"消息流传两日后,被警方公开辟谣。通报透露,涉事博主孙某故意编 造"自杀离世"虚假信息发布至网络,其行为涉嫌虚构事实扰乱公共秩序,公安机关已依法立案调查。 "现在造谣造假的成本非常低,还有一些可以免费使用的AI工具。"北京邮电大学互联网治理与法律研究 中心执行主任谢永江向南都记者介绍,网络虚假信息是长期以来的顽疾,AI只是让传播变得更加便 捷。为防范AI技术滥用风险,有关部门正在行动。 自称来自俄罗斯的"思维导师"实际是数字人。 AI快速起号引流形成灰色产业链 "你知道'五乱毁一生'吗?第一就是乱花钱,第二就是乱发火,第三就是乱忍让,第四就是 ...