AI技术滥用现象 - 已故茶界泰斗张天福被AI技术生成视频用于某茶企品牌代言 引发家属将通过法律途径维权[4] - AI伪造央视主持人形象在直播间销售可治疗多种疾病的深海多烯鱼油 被北京市海淀区市场监管局查处[5] - AI复活已故歌手李玟以及制作近现代历史人物的自拍vlog等视频在短视频平台屡见不鲜[4] 技术门槛与平台管理 - 制作AI生成视频门槛极低 仅需一段音频或视频素材即可进行深度合成[5] - 技术专家提出在用户上传素材时进行人脸人声识别并提示需取得授权可减少违规使用 但大量数据审核会给平台带来压力[5] 社会影响与消费者风险 - AI技术滥用让逝者尊严被商业利益裹挟 并对其亲人造成形象被滥用的二次伤害[4] - 利用权威媒体和主持人的信任心理大幅降低消费者警惕性 破坏市场消费信任体系[5] - AI伪造形象和合成专家代言利用有图有真相的刻板印象 对消费者造成严重误导[5] 法律框架与技术发展 - 我国《民法典》等法律法规明确规定自然人去世后其形象权与名誉权仍受法律保护[4] - 人工智能大模型快速涌现用户规模扩大 人工智能治理面临的风险与不确定性上升[5] - 需让AI在法律框架与伦理边界内发展 避免技术沦为消费逝者和误导公众的工具[6]