事件概述 - 一名微软首席软件工程负责人向美国联邦贸易委员会和微软董事会发出警告信 指出其AI图像生成工具Copilot Designer存在严重安全隐患 容易生成有害内容 [3] - 该工程师自认为是一名举报人 并已与美国参议院工作人员会面分享其担忧 [3] 涉事产品与问题 - 涉事产品为微软的Copilot Designer 该工具可根据文字提示生成图像 其技术源自微软紧密商业伙伴OpenAI的DALL-E 3模型 [4] - 核心风险在于 即使用户提出无害请求 该产品仍可能生成添加有害内容的图像 例如在“车祸”提示下 会随机生成包含不当、性物化女性形象的图片 [4] - 其他生成的有害内容包括暴力、政治偏见、未成年人饮酒和吸毒、滥用公司商标和版权、阴谋论以及宗教内容等 [4] - 该工程师花费了三个月时间试图解决其安全问题 并多次要求公司将产品下架或至少更改其在智能手机上的年龄评级 明确其为成人受众 [4] 公司内部处理与举报人行动 - 微软建议该工程师使用公司内部的“强有力的内部报告渠道”来调查和解决问题 [3] - 微软最初建议该工程师将其发现直接提交给OpenAI 在未果后 该工程师于12月在微软旗下的LinkedIn上公开致信OpenAI [5] - 微软法律团队随后要求其删除该帖子 该工程师 reluctantly 照做 [5] - 该工程师致信微软董事会 要求启动独立调查 审视微软是否在未向消费者（包括儿童）披露已知风险的情况下营销不安全产品 [5] - 除美国参议院商务委员会外 该工程师也已向微软总部所在地华盛顿州的州检察长提出其担忧 [5] 技术背景与行业影响 - 许多令人印象深刻的AI图像生成器于2022年首次出现 包括OpenAI的第二代DALL-E 2 随后OpenAI的聊天机器人ChatGPT发布 引发了公众的广泛关注 并给微软和谷歌等科技巨头带来了发布自家版本商业压力 [6] - 该工程师指出 虽然“核心问题”在于OpenAI的DALL-E模型 但使用OpenAI的ChatGPT生成AI图像的用户不会得到相同的有害输出 因为两家公司为其产品叠加了不同的安全防护措施 Copilot Designer的许多问题在ChatGPT自身的安全防护下已得到解决 [6] - 若无有效的安全防护措施 该技术会带来危险 例如用户可轻易生成政治人物、战区的有害“深度伪造”图像或未经同意的虚假名人裸照 [7] - 谷歌已暂时中止其Gemini聊天机器人生成人物图像的功能 原因是其描绘种族和民族的方式引发了争议 例如将有色人种置于纳粹时代军服中 [7]