AI仿冒侵权现象与案例 - AI仿冒名人形象进行直播带货等商业活动的情况日益猖獗，例如演员温峥嵘形象被AI换脸用于直播间，本人质问后反被拉黑 [2] - 有案例利用AI模仿奥运冠军全红婵的声音带货销售土鸡蛋 [2] - 抖音电商在10月启动专项治理行动后，处置涉及侵权仿冒违规的达人账号多达1.1万个，其中包括AI仿冒侵权 [5] 平台应对与技术挑战 - 抖音集团副总裁李亮表示AI内容侵权识别是行业性技术难题，恶意仿冒账号不断进行技术对抗，平台将持续加大投入应对挑战 [2][7] - 检测AI换脸的技术原理在于，被篡改区域在频率变换等分析下会呈现异常的数值尖刺，与真实图像特征存在明显差异 [2][7] - 对于抖音直播这类大规模应用，理论上可通过配置顶级硬件检测或最先进防护模型来有效防范，但实现无死角安全覆盖的成本是天文数字 [3][8] - 平台需要在安全投入与风险控制之间进行权衡，庞大的用户体量使得高成本防护方案难以落地 [3][8] 法律定性与管理难点 - 盗用公众人物形象进行AI换脸直播主要侵犯肖像权甚至名誉权，不存在法律模糊地带 [9] - 内容制作者与商家是直接侵权方，若虚构事实骗取财物可能构成诈骗罪，平台在收到通知或侵权事实成为公众话题时有义务采取必要措施，否则可能承担连带责任 [9] - 治理难点在于查处的及时性，平台需要投入以进行及时识别，事后需对可追溯侵权主体施以经济罚款和账号封禁等惩罚以提高违法成本 [10] - 《人工智能生成合成内容标识办法》要求AI生成内容需添加标识，平台有义务监管 [10] 数字人带来的新挑战 - 比仿冒形象更严峻的挑战是完全虚拟的数字人，其可能凭空捏造科学家或医生等不存在的身份直接构成公众欺骗 [11] - 强制性的AI生成内容标识成为最重要底线，必须明确告知公众这不是真人 [11] - 数字人可24小时直播且成本更低，但无法对内容真实性负责，面对监管盲区，核心原则是非真实内容必须进行显著标识 [11] AI技术原理与可及性 - AI换脸技术原理是将人脸映射到特征空间的向量并进行替换，例如将向量a替换为向量b再映射回视频即生成换脸视频 [7] - 随着技术发展，利用开源模型加小型GPU即可实现AI换脸，技术门槛显著降低 [7]