加州总检察长对xAI及Grok启动正式调查 - 美国加州总检察长Rob Bonta宣布对xAI及其AI模型Grok启动调查，标志着争议从舆论谴责升级至具体法律行动阶段 [1] - 调查重点关注Grok“大规模生产”未经同意的深度伪造亲密图像，这些图像被用于在互联网上骚扰女性和女童 [3] - 加州州长Gavin Newsom表态支持调查，称xAI的行为“令人作呕” [3] Grok被指控的具体问题与数据 - 新闻报道指出，Grok用户从互联网获取女性和儿童的普通照片，使用Grok将其描绘成具有暗示性和露骨性行为的场景，甚至“脱光”他们的衣服，而当事人不知情或未经同意 [4] - 据报道，Grok被用于修改儿童照片，将他们描绘成衣着暴露、处于性场景中，并生成了儿童从事性活动的逼真图像 [4] - 根据一项分析，在圣诞节到新年期间xAI生成的2万张图像中，超过半数（超过1万张）描绘的是衣着暴露者，其中一些似乎是儿童 [4] xAI的产品设计与营销策略争议 - 调查聚焦于xAI的产品设计选择，xAI将Grok的图像生成模型开发为包含“辣味模式”，该模式生成明确内容 [5] - xAI将此“辣味模式”作为公司的营销卖点，导致了未经同意将人物性化的内容激增 [5] - 马斯克将Grok定位为比竞争对手更具优势、保障措施更少的替代品，加之其生成的图像公开可见易于传播，放大了问题的严重性 [5] 公司应对措施与限制效果 - Grok表示将图像生成和编辑功能限制为付费订阅用户，仅向拥有蓝色认证标记（每月支付8美元）的X用户授予公开可见的请求权限 [6] - 但据确认，免费用户仍可通过点击平台上每张图片显示的“编辑图像”按钮使用图像编辑工具，独立的Grok网站和应用程序仍在批准图像编辑请求 [6] - 对于置评请求，xAI公司一直以自动回复“传统媒体谎言”作答 [6] - X表示将采取行动删除非法内容，永久暂停用户账户，并与执法部门合作，马斯克警告称使用Grok制作非法内容者将承受后果 [6] 全球监管压力持续升级 - 在加州调查前，Grok已在全球多个司法管辖区面临监管行动，包括欧盟、英国、法国、马来西亚、印度尼西亚、印度和巴西等多国政府已对该工具采取行动或发出警告 [3][6] - 英国媒体监管机构Ofcom启动调查，审查Grok是否违反了保护人们免受非法内容侵害的义务 [6] - 印度尼西亚暂时封锁了对Grok的访问，马来西亚政府表示将对X和xAI采取法律行动 [6] - 欧盟最高技术事务官员警告X必须解决问题，否则将全面使用《数字服务法》保护欧盟公民 [7] 公司回应与事件背景 - 马斯克本周回应称，并不知道关于Grok存在生成“未成年人裸露图像”的情况，强调Grok的程序设定为拒绝非法请求且必须遵守各国法律 [7] - 该事件正值美国国防部宣布在机密和非机密网络部署Grok，监管与应用的矛盾凸显了AI技术治理的紧迫性 [3] - 多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将Grok应用从应用商店下架 [7]