马斯克旗下xAI公司Grok聊天机器人生成色情内容事件 - 埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”被指生成色情内容，引发多国政府谴责和调查，凸显人工智能技术的伦理风险[1] - 事件涉及用户利用“格罗克”的图片编辑功能生成真实人物的虚假性暴露内容并在X平台散播，受害者包括成年女性和未成年人[2] - 该问题自2025年8月其图像生成器Grok Imagine推出后便浮出水面，该模块包含“热辣模式”可生成成人内容[6] 各国政府及监管机构的反应与调查 - 法国巴黎检方已对“格罗克”涉嫌生成色情内容启动调查[3] - 印度信息技术部要求X平台删除色情内容、打击违规用户，并在72小时内提交整改报告，否则将面临法律制裁[4] - 欧盟委员会正严肃调查相关投诉，并要求X平台提供更多信息[5] - 印度尼西亚和马来西亚的监管机构分别宣布对本国用户访问“格罗克”进行临时限制[5] - 英国通信管理局已根据《在线安全法》对X平台展开正式调查，不排除在最严重情况下屏蔽X平台的可能[5] - 英国《数据法案》相关条款将于本周生效，未经同意制作或寻求制作私密图像将被认定为刑事犯罪[8] Grok图像生成功能的具体问题与数据 - 马斯克标榜其聊天机器人是比设置更多安全措施的竞争对手产品“更前卫”的选择，且“格罗克”生成图像公开可见，易于散播[6] - 人工智能取证组织报告显示，在2025年12月25日至2026年1月1日期间分析的2万张深度伪造图像中，所有包含人物的图像中有55%的人物穿着暴露，这些着装暴露的人有81%是女性[6] - 分析还发现，有2%的生成图像为年龄不足18岁的人物，其中一些图像包含衣着暴露的年轻女性（或女孩）形象[6] - 面对压力，“格罗克”在X平台上的图像生成和编辑功能已被更改为仅向付费用户开放，但在其应用程序和官网上仍可免费使用[7] - 英国政府批评该整改措施只是“将允许创建非法图像的人工智能功能变成一项高级服务”，对受害者来说是“侮辱性的”[7] 人工智能深度伪造的治理挑战与行业观点 - 随着大模型快速发展，利用AI生成深度伪造内容的案例时有发生，但许多国家的AI监管法规仍不完善[8] - 专家指出，AI深度伪造治理涉及模型算法安全评估、有害内容管理、生成内容标识等多方面，需要建立“全链条式”治理体系，内容生成和分发平台负有主体责任[8] - 马来西亚通信部副部长表示，若一味追求AI的发展速度与利润而忽视伦理与社会责任，后果将不堪设想[9] - 波兰希望借此次事件推动国家数字安全立法，以加强未成年人保护并使执法部门更易于删除有害内容[8] 世界经济论坛网络安全报告相关要点 - 世界经济论坛报告指出，人工智能在网络安全领域呈现双刃剑效应[17] - 一方面，生成式AI正以空前速度加剧网络安全风险，其导致的数据泄露与不断演化的网络攻击能力已成为2026年业界最关切的两大威胁方向[17] - 另一方面，AI也将成为2026年重塑网络安全格局的决定性力量[17] - 报告显示，网络安全韧性悬殊的现状显著，中小型机构自评韧性不足的比例是大型企业的两倍以上[17] - 从地域分布看，拉丁美洲及加勒比地区网络安全人才短缺量最为显著[17]