公司政策调整 - X平台宣布不再允许其内置的人工智能聊天机器人"格罗克"生成基于真人的伪造性暴露图像 该限令适用于包括付费用户在内的所有用户 [1] - X平台声明对任何形式涉及未成年人性侵害及未经当事人同意的裸露内容实施"零容忍"政策 并将采取措施清除相关违规内容 对违反规则的账号作出处置 [1] 监管调查与指控 - 美国加利福尼亚州总检察长办公室宣布已就马斯克旗下人工智能企业xAI及其开发的"格罗克"涉嫌生成并传播违规内容展开调查 [1] - 调查源于近期大量举报称"格罗克"被用于生成涉及女性和未成年人的不雅、色情图像 并在未经当事人知情或同意的情况下在互联网上传播 [1] - "格罗克"图像生成模型包含所谓的"热辣模式" 可生成露骨内容并被作为营销卖点之一 该功能被滥用导致大量对真实人物进行"脱衣"技术处理或置于暴露场景的深度伪造图像传播 [2] - 有媒体报道称"格罗克"被用于篡改儿童图像 使其呈现性暗示或暴露场景 甚至生成高度逼真的儿童色情图像 [2]