AI深度伪造技术
搜索文档
AI伪造冒充泛滥,冲击数字时代信任体系
南方都市报· 2025-11-07 23:00
平台作为AI内容传播的关键枢纽,必须压实主体责任,落实AI内容标识义务,让AI生成内容"自带身份 证",并建立全链条管控机制,对违规账号实施黑名单管理,追溯资金流向并移交执法线索,而非简单 封号了事。还要加大技术研发投入,推广照片视频防伪技术,构建多因素身份认证体系,从源头遏制深 度伪造风险。 "赛博温峥嵘"泛滥让温峥嵘陷入自证困局,维权陷入"封一个、冒一个"的拉锯战。这起看似公众人物专 属的维权困境,实则是AI滥用向整个社会发出的信任危机预警——当技术门槛低至一部手机即可克隆 人脸、合成声音,当"证明我是我"成为数字时代的荒诞命题,AI已从服务工具异化为潜在侵权利器,其 危害正从公众人物蔓延至每一个普通人。 遏制AI滥用、重建信任体系,绝非单一主体能完成,需法律、平台、公众形成闭环治理,让技术回归 服务本质。 法治是治理AI滥用的根本保障。尽管《人工智能生成合成内容标识办法》《深度合成管理规定》等法 规已明确要求AI内容"亮明身份",禁止未经授权使用生物特征信息,但仍需强化法律的刚性约束。一方 面要细化追责条款,对AI伪造、传播侵权内容的行为提高违法成本,形成有效震慑;另一方面要完善 证据规则,降低被侵权者 ...
【金融教育宣传周】防骗那些事儿丨AI深度伪造技术诈骗之亲属声纹诈骗
新浪基金· 2025-09-19 16:08
MACD金叉信号形成,这些股涨势不错! 责任编辑:石秀珍 SF183 专题:2025金融教育宣传周:保障金融权益 助力美好生活 基金行业在行动 ...
真相来了!网传“某医院院长客死他乡”系AI造谣
央视网· 2025-06-22 03:14
AI技术滥用案例 - 上海警方查处一起利用AI工具生成虚假医疗谣言的案件,涉及"华山医院前院长客死他乡"等不实信息,该谣言通过500余个自媒体账号发布10余万条不实信息,24小时内被大量传播[1][3][4] - 涉案自媒体工作室通过AI批量生成不实信息,控制500余个账号制造爆款内容获取流量,3名运营者已被采取刑事强制措施[4] - AI深度合成技术被用于仿冒名人带货,如仿冒张伯礼院士和张文宏主任的形象声音进行引流,误导消费者进入消费陷阱[6][10] AI技术滥用手段 - AI深度合成工具多为开源软件,使用门槛低,仅需5-10分钟即可完成仿冒视频制作,只需一段清晰的声音或视频素材[12] - 技术流程包括分析面部表情、手部动作和声纹,使用相应框架进行克隆识别和内容生成[12] - 部分自媒体通过向AI工具输入关键词自动生成文章,未经核实即发布以快速增加粉丝数量[3] 行业监管动态 - 国家网信办发布《人工智能生成合成内容标识办法》,将于9月1日施行,对AI生成内容提出刚性约束[15] - "清朗·整治AI技术滥用"专项行动第一阶段处置违规AI产品3500余款,清理违法信息96万余条,处置账号3700个[17] - 北京网信办建立"用户标记-平台核查-联合处置"工作模式,上海网信办推动标识要求落地,覆盖400余家企业[17] 平台治理措施 - 腾讯规范应用程序管理,提高准入门槛,驳回处置违规小程序等570余款[18] - 微博通过策略识别和用户举报累计处置违规内容4800余条,并公布典型案例[18] - 专家建议开源模型应强制添加无法去除的水印,在生成内容时长和清晰度上做限制[13]