AI数字人直播监管动态 - 北京市消费者协会联合京东 美团 拼多多 唯品会 抖音 快手 小红书 微信直播等8家主要电商平台签订全国首份《促进AI技术规范应用承诺书》为AI技术应用划定合规红线 [1][2][3] - 承诺书要求商家在利用AI技术生成数字人主播或虚拟场景时必须在显著位置清晰标注AI生成或拟真场景等提示内容 [3] - 平台承诺对未标识的疑似AI内容采取监测措施经研判确系违规将采取在内容周边添加显著提示标识或屏蔽链接等处置手段 [3] AI直播带货市场现状与消费者态度 - AI数字人直播和虚拟场景带货等新技术应用快速普及但部分商家违规操作引发消费者担忧 [1] - 北京消协专项调查显示近九成（基于3162份有效问卷）受访者呼吁AI生成内容需显著标识超七成接受虚拟背景但强调需有显著提示 [1] - 超六成受访者认为AI数字人缺乏真情实感近三成担忧其可能误导消费决策 [1] AI技术应用中的突出问题 - 消费者知情权保障不足调查的10个AI数字人直播带货样本中有5个未在直播界面标注AI生成等提示信息导致真假难辨 [1][2] - 合成技术滥用滋生消费风险5个样本没有对体验人员问题及时回应6个样本存在未提示私下交易风险等问题部分直播存在利用AI换脸仿冒公众人物营销情况 [2] - 平台审核机制存在短板部分电商平台尚未建立健全AI内容审核专项制度缺乏有效管理规则和精准识别技术增加消费决策风险 [2] 行业规范与平台责任 - 电商平台被要求为商家及内容创作者提供便捷的AI标识工具和清晰操作指引引导主动规范使用坚决抵制恶意删除伪造或隐匿AI标识的行为 [3] - 平台需对违规账号及内容依法依规严肃处理以维护AI制度的严肃性 [3] - 消协组织将持续跟踪网络AI技术应用动态通过志愿者体验购物和追踪反馈督促企业落实承诺并向消费者普及AI技术常识提升辨别能力 [3]