深度合成技术
搜索文档
临近春节,刘德华、冯巩、蔡明等AI名人拜年视频走红,专家提醒:存在法律风险
新浪财经· 2026-02-08 16:13
AI技术应用与市场现象 - 临近春节,短视频平台上掀起由AI技术生成名人拜年视频的热潮,包括影视巨星、体坛健将、商界名人甚至历史人物拱手作揖说吉祥话的场景[1] - 此类AI拜年视频为新春祝福注入新意并带来趣味,技术正以前所未有的娱乐化姿态介入传统节日[1] - 技术带来的新奇反差在短时间内赚足流量,有用户表示不仅自己看还会转发给朋友[1] 技术实现原理 - 此类视频的核心制作技术是当前人工智能最前沿的深度合成技术[2] - 视觉合成部分采用AI换脸或deep fake技术,利用深度学习和计算机视觉算法,通过大模型学习真实人物的面部特征、表情、嘴型等信息,然后将这些特征合成到新的素材中[3] - 语音合成技术能够模仿名人的声音、语调甚至语气,让AI生成的声音听起来非常逼真,视觉与语音合成结合即可生成AI拜年短视频[4] 内容识别与用户反馈 - 部分用户通过观察细节来区分视频真假,例如人物眨眼频率不自然或口型和声音对不上[2] - 有用户认为此类内容娱乐一下还可以[2] - 也有用户坦言第一反应是惊奇,随之而来的是一种难以言说的违和感[1] 法律与合规风险 - 《中华人民共和国民法典》对肖像权和声音权的保护作出了明确规定,人脸、人声等都是具有生物识别功能的敏感个人信息[5] - 未经授权的深度合成,侵犯了当事人的人格权益,包括肖像权、声音权[5] - 如果合成的声音可能涉及造成他人侮辱、诽谤,损害他人声誉,可能构成名誉权侵权[5] - 如果使用的声音来自受著作权保护的录音制品和作品,或他人声音已被注册为商标,可能还涉及侵害著作权和商标权等[6] - 《互联网信息服务深度合成管理规定》明确,提供人脸、人声等生物识别信息编辑功能的,应当提示使用者依法告知被编辑个人,并取得其单独同意[6] 平台治理与行业现状 - 记者搜索发现,一些官方账号发布的短视频标注了已获授权,但大量用户自行生成的拜年内容难以判断其合规性[6] - 某视频制作应用功能使用规范中明确,不得输入、分享任何未经授权的内容,不得侵害他人的著作权、专利权、商标权、肖像权、名誉权、荣誉权等[6] - 有短视频平台对涉及利用AI生成知名运动员形象进行虚假仿冒等违规内容进行过处理,但海量审核、用户规避等原因让治理存在防不胜防的现实困境[6] - 正规的大型AI服务平台和一些专业的视频合成工具已开始尝试加入防止滥用机制,例如强制添加AI生成标识或水印,在用户协议中明确禁止未授权使用他人的形象和声音,部分平台还在后台建立了内容检测和过滤机制[7] - 现状是仍有很多工具没有足够的防护机制,特别是一些开源模型或小型应用,可能根本没有添加标识或监管限制,给滥用留下了空间[7] 平台责任与监管要求 - 对于生产、传播此类内容的网络平台,必须履行好主体责任,建立全链条管理机制[7] - AI的经营者、平台企业应当尽到主体责任,严格落实相关的管理办法所规定的标识义务[7] - 平台应提供便捷的工具,并建立事前提示、事中审核和事后追溯的完整机制[7] - 在接到权利人发出的侵权通知之后,应当及时采取删除等措施,如果没有采取相应措施,应当就损害扩大部分承担连带责任[7]
AI声音带货、虚拟数字人形象侵权等案件写入北京“两院”报告
新浪财经· 2026-01-27 21:42
北京市司法机构年度报告揭示数字经济与AI领域关键司法实践 - 北京市高级人民法院工作报告指出 过去一年审结涉数据产权 人工智能等案件9963件 并提及多起有重要影响的新类型案件 旨在发挥裁判规则指引作用 助力新业态 新模式健康发展[1] - 北京市人民检察院工作报告强调 为突出全球数字经济标杆城市建设需求 惩治侵犯数据权益犯罪108件[2] AI生成内容与声音的侵权认定 - AI生成声音带货案入选2025年电子商务法领域年度十大典型案例 该案中 被告公司在网店销售图书时 使用与原告李某声音高度近似的AI合成声音进行推广[1] - 北京互联网法院经审理认定 未经权利人许可使用AI合成的名人声音用于带货构成侵权 委托推广商家应承担连带责任[1] - 该案件为规范电商推广行为 压实商家主体责任 治理AI“声替”乱象提供规则指引[1] 数据权益与人工智能模型训练数据的刑事保护 - 东城区人民检察院办理全市首例非法删除人工智能模型训练数据案 推动人工智能模型训练系统纳入刑法保护的“计算机信息系统”[2] - 在该案中 算法工程师王某为腾出存储空间替他人训练模型 故意删除公司模型训练数据约89TB 造成公司模型训练系统结构性破坏 经济损失20余万元[2] - 检察机关邀请专家参与证据审查 准确认定该模型训练系统属于刑法保护的“计算机信息系统” 并以破坏计算机信息系统罪对王某提起公诉[2] 其他新类型不正当竞争与侵权案件 - 北京市高级人民法院工作报告将“虚拟数字人形象侵权” “变身漫画特效不正当竞争” “非法抓取网络平台数据集合”等案件列为有重要影响的新类型案件[1]
强化个人信息权益保护
人民日报· 2025-10-21 06:10
文章核心观点 - 文章强调在数字经济时代,数据安全和个人信息保护具有重大战略意义,需构建全流程、全社会参与的保护体系 [1] - 拟态广告作为新兴广告业态,在提升商业效率的同时,也带来了数据滥用和信息生态风险,亟需制度性规制 [1][2] - 需要通过源头治理、技术跟进和夯实平台责任等多维度措施,实现技术创新与个人信息权益保护的良性互动 [3][4] 拟态广告的形态与影响 - 拟态广告利用人工智能深度合成等技术,以高度拟真的形式(如微信消息、快递取件码)呈现,悄然融入用户日常信息流 [1] - 该广告形态使用户难以辨识其商业推广本质,从而实现优于传统广告的营销效果,助力互联网广告市场规模持续增长 [1] - 平台为实现精准个性化推送,可能超出必要范围收集和处理用户行为数据,形成涉及敏感私密内容的个人信息画像,对用户权益构成威胁 [2] 数据安全与个人信息保护的治理框架 - 治理需突出源头治理,推进信息生命全周期保护,核心是落实“告知-同意”规则以及目的限制和最小化原则 [3] - 需跟进生成式人工智能等新兴技术,平台应对数据使用进行前置审查和安全评估,并为合成内容添加显式标识 [4] - 需夯实平台责任,平台应承担高标准合规义务,建立用户可追溯的信息授权和便捷退出机制,行政监管部门需对违规行为依法处罚 [4] 平台的角色与责任 - 平台是个人信息收集、处理和利用的关键枢纽,受提升盈利效率驱动推出拟态广告等新兴业态 [2] - 平台不得为逐利漠视个人信息保护,或以“个性化推荐”为由暗中扩大个人信息收集与利用范围 [4] - 平台在拟态广告投放中应坚持主流价值导向,明确合规红线,确保用户对自身信息的知情同意与自主控制权 [4]
李小龙等已故名人遭Sora 2“复活”引争议,这涉及哪些法律风险?
新浪财经· 2025-10-10 10:14
Sora 2技术引发的法律风险 - 使用已故名人(如李小龙、迈克尔·杰克逊)真实肖像生成并公开传播视频,构成肖像权商业化侵权,即便添加动态水印也符合侵权要件 [3][4] - 部分生成内容具有戏谑倾向(如霍金轮椅翻车、柯本偷鸡块),扭曲名人公众形象,涉嫌侵害逝者人格尊严及衍生权益,可能引发近亲属精神损害赔偿 [5] 数据合规与平台责任 - 技术核心依赖于非法使用已故名人的人脸特征、声纹频率等生物识别数据,这些数据多提取自公开影像资料,但未经继承人授权,违反《个人信息保护法》关于敏感信息处理的强制性规定 [6] - 平台对原始数据来源的审核机制存在漏洞,其“技术中立”抗辩难以成立,若未对训练数据合法性进行实质审查,需承担共同侵权责任 [7][8] 版权侵权风险 - 生成视频所依据的影视片段、录音等原始素材多数仍处于著作权保护期内,未经授权使用进行深度合成构成对原作品的演绎改编,超出合理使用范畴 [8] - 技术提供方若未建立有效的版权过滤机制,且明知用户生成内容侵权却未制止,将因未尽合理注意义务而承担间接侵权责任 [9] 诉讼前景分析 - 名人家属起诉胜诉概率较高,仅需证明“使用逝者肖像或生物信息、内容已公开传播、未获继承人授权”三项核心事实即可构建清晰举证链条 [10] - 平台可能主张的“历史人物例外”或“技术中立”等抗辩理由缺乏法律依据,难以对抗人格权保护的优先性,尤其在监管部门已要求AI生成需获被模仿者同意的政策背景下 [11]