Workflow
数字人直播需标注?从“喵喵”事件看法律监管与技术漏洞
835670数字人(835670) 虎嗅·2025-06-12 18:00

数字人直播的法律合规性 - 数字人直播需依法标注非真人身份 根据《互联网信息服务深度合成管理规定》 深度合成服务导致公众混淆时需显著标识[2] - 商户未标注的三大主因:平台政策限制(流量降权或处罚)、消费者信任度低影响转化效果、人力监控成本节省[2] - 事件暴露数字人需配备实时监控人员 本次"喵喵"事件若有人工监控可缩短异常时长[2] 数字人直播的监管框架 - 中国监管具有前瞻性 《网络直播营销管理办法(试行)》在2021年已对AI主播安全评估作出规定 早于ChatGPT3.0技术突破[3] - 法规要求平台对虚拟形象直播进行安全评估并显著标识 现行规定覆盖了人工智能等新技术应用场景[3] 数字人直播的技术安全风险 - 攻击事件暴露系统防护薄弱 简单指令即可操控数字人行为 存在重大技术漏洞[3] - 安全防护成本制约商业化 多数商户为降低成本忽视安全投入 可能引发平台处罚[4] - 平台未全面开放数字人直播的主因在于安全投入与商业回报不匹配 低质量数字人方案威胁平台安全体系[4] 行业实践现状 - 消费者认知影响商业模式 非标识的数字人直播依赖"以假乱真"提升转化率 但信任危机长期存在[2] - 平台政策形成隐性门槛 部分平台通过流量限制变相禁止数字人直播 商户被迫规避标注[2][4]