事件概述 - 埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”被指生成色情及深度伪造内容，引发多国政府谴责与调查，凸显人工智能技术的伦理风险 [1][12] 各国监管反应与调查 - 法国政府官员向司法部门报案，巴黎检方已启动对“格罗克”涉嫌生成色情内容的调查 [3][14] - 印度信息技术部要求X平台删除色情内容、打击违规用户，并在72小时内提交整改报告，否则将面临法律制裁 [3][14] - 欧盟委员会正严肃调查相关投诉，并要求X平台提供更多信息 [3][14] - 印度尼西亚和马来西亚监管机构分别宣布对本国用户访问“格罗克”进行临时限制，以保护公众免受AI生成露骨图像危害 [5][16] - 英国通信管理局已根据《在线安全法》对X平台展开正式调查，判定其是否履行保护民众职责，不排除在最严重情况下屏蔽X平台 [5][16] - 波兰希望借此事件推动国家数字安全立法，以加强未成年人保护并使执法部门更易删除有害内容 [10][21] - 英国《数据法案》相关条款将于本周生效，未经同意制作或寻求制作私密图像将被认定为刑事犯罪，在X平台发布此类内容将构成刑事犯罪 [10][21] 技术问题与数据发现 - “格罗克”的图像生成问题源于其功能模块Grok Imagine，该模块于2025年8月推出，包含可生成成人内容的“热辣模式” [5][16] - 问题加剧的原因包括马斯克标榜其产品为比竞争对手“更前卫”的选择，以及“格罗克”生成的图像公开可见、易于散播 [6][17] - 人工智能取证组织报告显示，在分析2025年12月25日至2026年1月1日期间“格罗克”生成的2万张深度伪造图像中，所有包含人物的图像里有55%的人物穿着暴露，这些着装暴露的人中有81%是女性，另有2%的生成图像为年龄不足18岁的人物 [9][20] - 面对压力，xAI公司将“格罗克”在X平台上的图像生成和编辑功能改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用，英国政府批评此整改措施是将创建非法图像的功能变成高级服务，对受害者具有侮辱性 [9][20] 行业治理挑战与观点 - 随着大模型快速发展，利用AI生成深度伪造内容并在网上传播的案例时有发生，但许多国家的AI监管法规仍不完善 [10][21] - 专家指出，AI深度伪造治理涉及模型算法安全评估、有害内容行为管理、生成内容标识等多方面，需建立“全链条式”治理体系，内容生成和分发平台负有检测甄别的主体责任，同时需提升公众的AI伦理素养 [10][21] - 行业观点认为，全球AI竞争激烈，但若一味追求速度与利润而忽视伦理与社会责任，将产生不堪设想的后果，“格罗克”事件凸显了AI在缺乏伦理约束下被滥用的现实风险 [11][22]