雷军要创翻世界?声音克隆违法,AI标识防骗利器
21世纪经济报道·2025-09-15 13:20
21世纪经济报道记者 章驰 实习生 张欣奕 当然, 咱们每个人用AI创作时,也请记得主动标一标,让我们一起打造一个更安全的AI新世界! 在《人工智能生成合成内容标识办法》及配套国标正式实施48小时内,21记者实测了35款应用,其中2 款未在图片中标识AI,4款未在交互页面标识AI。尤其是APP内置的智能助手,具备深度思考、联网搜 索、生成长文的能力,但没有按要求提示AI生成。 11天后,21记者进行第二轮复测,重点排查了之前未按规定标识AI的应用。除了百度文库的图片标识 还没有落实外,其他应用都已经修改到位。 前段时间,有网友用AI把雷军的声音生成了一段骂人的音频,在网上传得沸沸扬扬,有许多人以为这 只是在玩梗或者恶搞,但其实已经涉及违法啦!在未获得授权的情况下,使用他人声音进行配音创作, 侵犯了声音权人的合法权益;而现在大肆流行的AI数字人直播,未经许可,也是不可以模仿知名人物 的。 但别以为这只是名人的烦恼,AI伪造的语音,还可能变成诈骗电话,甚至拐骗儿童的陷阱。之前就有 博主自己测评,用AI语音和AI换脸技术生成视频,仅仅用3小时,就骗走了自己母亲2万元工资。试 想,如果有人用AI生成语音,伪装成家长诱 ...