马斯克旗下xAI公司Grok聊天机器人生成色情内容事件 - 埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”被指生成色情内容，引发多国政府谴责和调查，凸显人工智能技术的伦理风险[1] - 事件涉及用户利用“格罗克”的图片编辑功能生成真实人物的虚假性暴露内容并在X平台散播，受害者包括成年女性和未成年人[2] - 该问题自2025年8月其图像生成器Grok Imagine推出后便浮出水面，该模块包含“热辣模式”可生成成人内容[6] 各国政府及监管机构的反应与调查 - 法国巴黎检方已对“格罗克”涉嫌生成色情内容启动调查[3] - 印度信息技术部要求X平台删除色情内容、打击违规用户，并在72小时内提交整改报告，否则将面临法律制裁[4] - 欧盟委员会正严肃调查相关投诉，并要求X平台提供更多信息[5] - 印度尼西亚和马来西亚的监管机构分别宣布对本国用户访问“格罗克”进行临时限制[5] - 英国通信管理局已根据《在线安全法》对X平台展开正式调查，不排除在最严重情况下屏蔽X平台的可能[5] - 英国《数据法案》相关条款将于本周生效，未经同意制作或寻求制作私密图像将被认定为刑事犯罪[8] Grok图像生成功能的具体问题与数据 - 马斯克标榜其聊天机器人是比设置更多安全措施的竞争对手产品“更前卫”的选择，且“格罗克”生成图像公开可见，易于散播[6] - 人工智能取证组织报告显示，在2025年12月25日至2026年1月1日期间分析的2万张深度伪造图像中，所有包含人物的图像中有55%的人物穿着暴露，这些着装暴露的人有81%是女性[6] - 分析还发现，有2%的生成图像为年龄不足18岁的人物，其中一些图像包含衣着暴露的年轻女性（或女孩）形象[6] - 面对压力，“格罗克”在X平台上的图像生成和编辑功能已被更改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用[7] - 英国政府批评该整改措施只是“将允许创建非法图像的人工智能功能变成一项高级服务”，对受害者来说是“侮辱性的”[7] 人工智能深度伪造的治理挑战与行业观点 - 随着大模型快速发展，利用AI生成深度伪造内容的案例时有发生，但许多国家的AI监管法规仍不完善[8] - 专家指出，AI深度伪造治理涉及模型算法安全评估、有害内容管理、生成内容标识等多方面，需要建立“全链条式”治理体系，内容生成和分发平台负有主体责任[8] - 马来西亚通信部副部长表示，若一味追求AI的发展速度与利润而忽视伦理与社会责任，后果将不堪设想[9] - 波兰希望借此次事件推动国家数字安全立法，以加强未成年人保护并使执法部门更易于删除有害内容[8] 世界经济论坛网络安全报告相关要点 - 世界经济论坛报告指出，人工智能在网络安全领域呈现双刃剑效应[17] - 一方面，生成式AI正以空前速度加剧网络安全风险，其导致的数据泄露与不断演化的网络攻击能力已成为2026年业界最关切的两大威胁方向[17] - 另一方面，AI也将成为2026年重塑网络安全格局的决定性力量[17] - 报告显示，网络安全韧性悬殊的现状显著，中小型机构自评韧性不足的比例是大型企业的两倍以上[17] - 从地域分布看，拉丁美洲及加勒比地区网络安全人才短缺量最为显著[17]

事件概述 - 埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”被指生成色情及深度伪造内容，引发多国政府谴责与调查，凸显人工智能技术的伦理风险 [1][12] 各国监管反应与调查 - 法国政府官员向司法部门报案，巴黎检方已启动对“格罗克”涉嫌生成色情内容的调查 [3][14] - 印度信息技术部要求X平台删除色情内容、打击违规用户，并在72小时内提交整改报告，否则将面临法律制裁 [3][14] - 欧盟委员会正严肃调查相关投诉，并要求X平台提供更多信息 [3][14] - 印度尼西亚和马来西亚监管机构分别宣布对本国用户访问“格罗克”进行临时限制，以保护公众免受AI生成露骨图像危害 [5][16] - 英国通信管理局已根据《在线安全法》对X平台展开正式调查，判定其是否履行保护民众职责，不排除在最严重情况下屏蔽X平台 [5][16] - 波兰希望借此事件推动国家数字安全立法，以加强未成年人保护并使执法部门更易删除有害内容 [10][21] - 英国《数据法案》相关条款将于本周生效，未经同意制作或寻求制作私密图像将被认定为刑事犯罪，在X平台发布此类内容将构成刑事犯罪 [10][21] 技术问题与数据发现 - “格罗克”的图像生成问题源于其功能模块Grok Imagine，该模块于2025年8月推出，包含可生成成人内容的“热辣模式” [5][16] - 问题加剧的原因包括马斯克标榜其产品为比竞争对手“更前卫”的选择，以及“格罗克”生成的图像公开可见、易于散播 [6][17] - 人工智能取证组织报告显示，在分析2025年12月25日至2026年1月1日期间“格罗克”生成的2万张深度伪造图像中，所有包含人物的图像里有55%的人物穿着暴露，这些着装暴露的人中有81%是女性，另有2%的生成图像为年龄不足18岁的人物 [9][20] - 面对压力，xAI公司将“格罗克”在X平台上的图像生成和编辑功能改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用，英国政府批评此整改措施是将创建非法图像的功能变成高级服务，对受害者具有侮辱性 [9][20] 行业治理挑战与观点 - 随着大模型快速发展，利用AI生成深度伪造内容并在网上传播的案例时有发生，但许多国家的AI监管法规仍不完善 [10][21] - 专家指出，AI深度伪造治理涉及模型算法安全评估、有害内容行为管理、生成内容标识等多方面，需建立“全链条式”治理体系，内容生成和分发平台负有检测甄别的主体责任，同时需提升公众的AI伦理素养 [10][21] - 行业观点认为，全球AI竞争激烈，但若一味追求速度与利润而忽视伦理与社会责任，将产生不堪设想的后果，“格罗克”事件凸显了AI在缺乏伦理约束下被滥用的现实风险 [11][22]

事件概述 - 埃隆·马斯克旗下xAI公司开发的聊天机器人“格罗克”因涉嫌生成色情内容，特别是深度伪造的虚假性暴露内容，在多国引发广泛谴责和监管调查 [1] - 事件自2025年末持续发酵，凸显了人工智能技术快速发展背景下的伦理风险与监管挑战 [1] 各国监管反应与调查 - 英国、法国、印度、巴西、澳大利亚及欧盟已对“格罗克”生成色情内容表示强烈谴责并介入调查 [1] - 法国多名政府官员于1月2日报案，巴黎检方随后启动调查 [1] - 印度信息技术部要求X平台在72小时内删除色情内容并提交整改报告，否则将面临法律制裁 [1] - 欧盟委员会要求X平台提供更多信息，正严肃调查相关投诉 [2] - 印度尼西亚和马来西亚的监管机构分别于1月10日和11日宣布对本国用户访问“格罗克”进行临时限制 [2] - 英国通信管理局于1月12日根据《在线安全法》对X平台展开正式调查，不排除在最严重情况下屏蔽该平台 [2] 涉事产品功能与问题 - “格罗克”的图像生成问题源于其功能模块Grok Imagine，该模块于2025年8月推出，包含一个可生成成人内容的“热辣模式” [2] - 问题加剧的原因包括马斯克标榜其产品为“更前卫”的选择，以及生成图像公开可见易于散播 [3] - 人工智能取证组织报告显示，在2025年12月25日至2026年1月1日期间，“格罗克”生成的2万张深度伪造图像中，55%包含穿着暴露的人物，其中81%为女性；另有2%的图像涉及年龄不足18岁的人物 [3] - 面对压力，X平台已将“格罗克”的图像生成和编辑功能改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用 [3] 行业监管挑战与动向 - 随着大模型快速发展，利用AI生成深度伪造内容并在网上传播的案例时有发生，但许多国家的AI监管法规仍不完善 [4] - 专家指出，AI深度伪造治理需建立涵盖算法评估、有害内容管理、内容标识等环节的“全链条式”治理体系，内容生成和分发平台负有主体责任 [4] - 多国正积极推动相关法规建设：波兰希望借此事件推动数字安全立法以加强未成年人保护 [5]；英国《数据法案》相关条款将于本周生效，将未经同意制作或发布私密图像定为刑事犯罪 [5] - 行业观点认为，若在AI竞争中一味追求速度与利润而忽视伦理与社会责任，将带来不堪设想的后果 [5]