事件概述 - 埃隆·马斯克旗下xAI公司开发的聊天机器人“格罗克”因涉嫌生成色情内容，特别是深度伪造的虚假性暴露内容，在多国引发广泛谴责和监管调查 [1] - 事件自2025年末持续发酵，凸显了人工智能技术快速发展背景下的伦理风险与监管挑战 [1] 各国监管反应与调查 - 英国、法国、印度、巴西、澳大利亚及欧盟已对“格罗克”生成色情内容表示强烈谴责并介入调查 [1] - 法国多名政府官员于1月2日报案，巴黎检方随后启动调查 [1] - 印度信息技术部要求X平台在72小时内删除色情内容并提交整改报告，否则将面临法律制裁 [1] - 欧盟委员会要求X平台提供更多信息，正严肃调查相关投诉 [2] - 印度尼西亚和马来西亚的监管机构分别于1月10日和11日宣布对本国用户访问“格罗克”进行临时限制 [2] - 英国通信管理局于1月12日根据《在线安全法》对X平台展开正式调查，不排除在最严重情况下屏蔽该平台 [2] 涉事产品功能与问题 - “格罗克”的图像生成问题源于其功能模块Grok Imagine，该模块于2025年8月推出，包含一个可生成成人内容的“热辣模式” [2] - 问题加剧的原因包括马斯克标榜其产品为“更前卫”的选择，以及生成图像公开可见易于散播 [3] - 人工智能取证组织报告显示，在2025年12月25日至2026年1月1日期间，“格罗克”生成的2万张深度伪造图像中，55%包含穿着暴露的人物，其中81%为女性；另有2%的图像涉及年龄不足18岁的人物 [3] - 面对压力，X平台已将“格罗克”的图像生成和编辑功能改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用 [3] 行业监管挑战与动向 - 随着大模型快速发展，利用AI生成深度伪造内容并在网上传播的案例时有发生，但许多国家的AI监管法规仍不完善 [4] - 专家指出，AI深度伪造治理需建立涵盖算法评估、有害内容管理、内容标识等环节的“全链条式”治理体系，内容生成和分发平台负有主体责任 [4] - 多国正积极推动相关法规建设：波兰希望借此事件推动数字安全立法以加强未成年人保护 [5]；英国《数据法案》相关条款将于本周生效，将未经同意制作或发布私密图像定为刑事犯罪 [5] - 行业观点认为，若在AI竞争中一味追求速度与利润而忽视伦理与社会责任，将带来不堪设想的后果 [5]