AI技术滥用现状 - AI技术被滥用于制作不雅视频、克隆照片和恶意造谣，受害者包括高校导师、白领和公众人物等[1][6][8][9] - 社交平台上明星"AI换装"和"AI擦边"内容泛滥，成为流量密码，部分账号专门发布此类内容吸粉变现[2][10][11][13] 平台治理措施 - 小红书2025年上半年共处置治理虚假低质AIGC笔记60万篇，平台正加大AIGC识别模型研发投入并实施主动标识[24] - 抖音表示根据社区自律公约对低俗媚俗内容采取限制措施，无论是否通过AI生成[25] - 平台通常会在AI生成图片上标注"疑似AI创作，请谨慎甄别"等提示语，但律师认为仅标注不能自动豁免法律责任[27][28] AI应用实测结果 - 测试的12款AI应用中，5款（即梦、豆包、可灵、腾讯元宝和阶跃AI）可实现明星"一键换装"[32] - 9款应用（即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、腾讯元宝）能生成衣着暴露的"擦边"图片[40] - 部分应用如LiblibAI生成的图片尺度较大甚至露点，该平台模型创作者已突破两千万，累计生成图片逾5亿张[43] 企业回应与整改 - 星流AI和LiblibAI母公司承认新模型上线初期识别精度波动导致风险内容遗漏，已完成紧急修复优化[46][47] - 豆包和即梦表示严格遵守法律法规禁止生成色情内容，承认AI技术处于发展早期将持续改进[51] - 无界AI月独立设备数为13.5万台，公司称已采取多项防范措施[51] 技术防范瓶颈 - 专家指出拦截违规内容在技术上无根本难度，但需要消耗算力成本，可通过构建名人识别模型充当防火墙[55][56] - AI公司可对用户提示词进行合规改写，并对生成图片实施实时风险检测，但模型本身的大尺度内容漏过问题仍需解决[50] 法律监管环境 - 我国已出台多项法规包括《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等对AI内容进行规范[57][58] - 现行法律对"擦边"内容存在界定标准模糊、审核义务边界不明确等问题，导致灰色地带较多[60] - 2023年三部门联合指导意见强调利用深度合成技术发布违法信息的情形将依法从重处罚[59]

AI技术滥用现状与受害者案例 - AI技术滥用导致高校导师、白领、保时捷女销冠及台球运动员等普通人与公众人物遭受诈骗、诽谤和"黄谣"等侵害[4] - 电子科技大学人工智能专业研究生校外导师高翔收到利用AI换脸技术篡改的不雅视频进行诈骗[4] - 白领小雅发现其社交平台照片被用于AI生成"克隆人"图像，担心被用于制作色情内容而报警[4] - 青岛保时捷中心女销冠牟女士遭遇AI恶意合成的虚假视频诽谤，并受到骚扰电话"轰炸"[4] - 台球运动员王思诺和裁判王钟瑶均遭遇AI伪造淫秽视频在境外网站传播[6] 社交平台AI违规内容泛滥现象 - 社交平台充斥明星"AI换装"和"AI擦边"内容，输入"AI写真""AI诱惑"等关键词可搜出大量违规内容[7] - 某视频平台有近百个"AI美女"账号，其中一个近25万粉丝账号主要发布AI生成"擦边"视频，单条视频点赞超1.2万次，收藏转发超6000次[7] - 平台存在教程指导用户利用AI"擦边"内容起号变现，宣称"流量大得吓人"，有用户愿付5万元学费学习[8][12] - 小红书有博主传播AI生成"擦边"图片方法，附带详细提示词教程[21] - 百度图片存在大量"制服诱惑"等衣着暴露的AI女性形象，部分配文"AI更懂男人"[23] 平台治理措施与挑战 - 小红书2025年上半年处置虚假低质AIGC笔记60万篇，加大AIGC识别模型研发投入并实施AI内容主动标识[23] - 平台通常仅在AI生成图片标注"疑似AI创作"提示语，律师认为此举不能使平台自动豁免法律责任[24] - 现有识别技术不完善，人工审核成本巨大，"标注"成为成本较低的管理方式[24] - 复旦大学专家建议为AI内容添加"数字水印"以便平台快速检测违规内容来源[25] AI应用实测结果 - 记者测试12款文生图和文生视频AI应用，5款（即梦、豆包、可灵、腾讯元宝、阶跃AI）可实现明星"一键换装"[26][27] - 阶跃AI可瞬间将原图白裙"抹除"生成黑色蕾丝吊带图片，腾讯元宝成功将衣服替换为保鲜膜等物品[29] - 豆包除换装功能外还能将图片一键转换为视频[30] - 12款应用中有9款（即梦、豆包、堆友、无界AI、秒画、LiblibAI、可灵、星流AI、腾讯元宝）能生成衣着暴露的"擦边"图片[31] - LiblibAI模型创作者已突破两千万，日均保持数百万级创作交互，用户训练原创AI模型超50万，累计生成图片逾5亿张[32] 技术防护漏洞与企业回应 - 星流AI和LiblibAI因新模型上线初期识别精度波动导致风险内容遗漏，修复后生成尺度有所收敛但更换提示词仍可生成露点图片[32][33] - 星流AI风控负责人解释AI大模型存在内容漏过情况，正优化提示词合规改写和图片实时风险检测流程[34] - 豆包、即梦表示严格遵守法规禁止生成色情内容，承认AI技术处于发展早期会持续改进[34] - 无界AI品牌总监称已采取多项防范措施，该App去年8月月独立设备数为13.5万台[34] 技术防护瓶颈与政策环境 - AI工程师透露提示词写得"精巧"时可绕过系统识别，专家认为拦截技术无根本难度但需消耗算力成本[38] - 专家建议构建名人图片识别模型作为"防火墙"对生成图片进行二次识别[38] - 《人工智能生成合成内容标识办法》于9月1日施行，明确不得恶意删除、篡改AI内容标识[39] - 2023年9月三部门发布指导意见强调利用"深度合成"技术发布违法信息需依法从重处罚[39] - 律师指出现行法律对"擦边"内容存在界定标准模糊、审核义务边界不明确等灰色地带[40]

峰会主题与背景 - 第四届D20全球设计院长峰会聚焦"用技术的人"，探讨AI技术对设计行业的变革 [1][3] - 阿里国际副总裁杨光指出AI已超越预期，正在颠覆传统设计模式，但设计师的创意与洞察力不可替代 [3][4] AI对设计行业的影响 - AI取代重复性设计工作，未来50%以上的设计类工作（如广告渲染、视频剪辑）将被AI替代 [4] - AI助手可大幅提升效率，例如修改人物年龄从人工重做全片缩短至AI几小时完成 [4] - 设计师需转向策略思考和人文洞察，核心竞争力在于"用创意解决复杂问题"而非技法熟练度 [4] 行业倡议与人才标准 - 阿里设计推动AI设计人才标准共建，覆盖人才标准、课程体系、生态平台等五大要素 [5] - 联合院校、行业协会等发布《D20宣言》，旨在解决技术变革下的人才供需脱节问题 [5] 技术产品与合作 - 阿里国际发布AI智能设计协作平台"堆友"2.0版本，涵盖设计智能体、AI应用中心等模块 [6] - 与西安美术学院、四川美术学院等数十所院校及企业达成合作 [6] 重点项目落地 - "数智创意设计工具研发与服务文化和旅游部技术创新中心"获批建设并揭牌 [9] - 海南（陵水）设计创新中心揭牌，聚焦设计产能革新、人才生态共建和数字文化出海 [9] 其他活动与计划 - 峰会举办为期两天的AI设计展，展示教育、商业等领域的AI新模态成果 [9] - Ucan设计论坛将于9月联合阿里国际站举办CoCreate峰会，助力中小商家提升交易体验 [10]