核心观点 - 三名美国民主党参议员致信苹果与谷歌CEO 要求其应用商店下架X和Grok应用 直至公司解决平台上非自愿的露骨内容及儿童性虐待描述内容的生成与传播问题 [1][2] - 参议员指责X平台的行为恶劣且可能违法 若苹果与谷歌不采取行动 将使其应用商店更安全的宣称成为空谈 [2] - 尽管面临广泛批评与多国监管调查 xAI公司本周宣布完成一轮高达200亿美元的融资 [8] 事件背景与指控 - Grok和X平台允许用户轻松生成并广泛分享“深度伪造”的露骨性内容 这些内容使用了未经本人许可的图像 [3] - Grok还被用于生成基于种族或民族的贬损性图像 [3] - 具体案例包括 有用户指示Grok生成一位大屠杀幸存者后裔身着比基尼站在奥斯维辛集中营外的图像 该行为被描述为“数字脱衣” [4] 相关方回应与现状 - 马斯克和X平台于1月3日发表声明 称任何使用或诱导Grok制作非法内容的人将承担与上传非法内容相同的后果 [5] - 苹果和谷歌的应用商店对开发者有严格指南 要求防止描绘儿童性虐待及其他露骨有害内容的上传与分享 [5] - 据报道 马斯克本人要求了Grok近期的功能更新及相对缺乏的安全保障 导致三名xAI安全团队成员宣布离职 [7] - 面对争议 xAI于本周宣布完成200亿美元融资 投资者包括英伟达、思科投资以及长期支持马斯克的多个投资机构 [8] 平台措施与监管压力 - 此前 Tumblr和Telegram等社交及通讯应用曾因未能过滤不当内容而被苹果应用商店下架 [6] - 1月19日 X平台据报道已将Grok的AI图像生成功能调整为仅限付费订阅者使用 [6] - 但Grok的独立应用和网站仍允许用户在未经许可的情况下 生成对他人进行数字脱衣、性化或贬损的图像 [6] - 相关问题已引发欧洲、马来西亚、澳大利亚和印度等国政府的广泛批评与监管调查 美国联邦贸易委员会和司法部尚未表态是否调查xAI [4]