公司面临的监管调查与法律挑战 - 加州州检察长罗布・邦塔牵头对xAI公司展开调查，指控其开发的Grok工具为大规模生成未经同意的私密深度伪造图像提供便利，这些图像被用于在互联网上骚扰女性和女孩，社交平台X成为传播渠道之一 [2][8] - 调查重点是利用Grok制作的未经同意的性露骨内容的泛滥问题，特别是涉及未成年人的图像，据互联网观察基金会调查，在部分案例中Grok甚至能让用户生成虚拟脱衣效果的未成年人图像 [2][8] - 在美国启动调查前，印度、马来西亚、印度尼西亚、爱尔兰、英国、法国、澳大利亚等多个国家的政府机构已迅速采取行动，欧盟委员会也已对此事立案调查，马来西亚和印度尼西亚已宣布暂停使用Grok工具 [2][8] 来自政府与民间组织的压力 - 美国三名民主党籍参议员联名呼吁苹果和谷歌在其应用商店下架社交平台X及Grok的应用程序，直至xAI能有效防止用户生成未经同意的露骨图像及涉及儿童性虐待的深度伪造图像 [3][9] - 多个维护妇女及儿童权益的倡导组织，包括“紫外线”组织、美国全国妇女组织、“家长联合行动”，也已呼吁应用商店下架xAI的相关应用 [3][9] - 美国参议院投票通过了《反深度伪造滥用法案》，根据该法案，深度伪造图像的受害者有权在民事法庭起诉制作或传播此类内容的公司，该法案曾于2024年在参议院获得通过，但尚未提交至众议院审议表决 [4][10] 公司回应与相关背景 - 马斯克在社交平台X上发文回应，称尽管有多个政府机构就未成年人裸体深度伪造图像问题对xAI进行质询，但他“并不知晓任何由Grok生成的相关图像”，并将潜在非法内容归咎于“用户的相关请求”和可能的“程序漏洞” [5][10] - 针对外界担忧，xAI曾宣布将部分图像生成和编辑功能仅限付费订阅用户使用，马斯克此前也表示，利用Grok制作非法内容的用户将面临与直接在社交平台X上传此类内容同等的后果 [6][11] - xAI近期完成了一轮规模达200亿美元的成长型融资，投资方包括英伟达、思科投资、英勇股权合伙公司、基石集团、富达投资、卡塔尔投资局、阿布扎比MGX集团和巴伦资本集团 [6][11] 公司业务与关联 - xAI的多个数据中心正在田纳西州孟菲斯市及其周边地区建设，该公司在内华达州注册成立，总部位于加利福尼亚州帕洛阿尔托市，与特斯拉的工程办公地点相邻 [6][11] - 特斯拉已将Grok整合为旗下车辆信息娱乐系统的一项功能 [6][11]