事件概述 - 马斯克旗下人工智能初创公司xAI开发的聊天机器人“格罗克(Grok)”因涉嫌生成非法色情内容，正面临全球多国监管机构的调查[1] - 调查的核心指控是“格罗克”被用户利用来生成和传播深度伪造的虚假性暴露内容，受害者包括数百名女性和未成年人，并涉及生成带有儿童特征的图像，涉嫌儿童色情制品[1] 监管调查与指控 - 法国巴黎检方已扩大对X平台的既有调查，将生成和传播儿童色情制品纳入新的指控[1] - 欧盟委员会正在“非常认真地调查此事”，并点名批评“格罗克”的“辣味模式”生成露骨的性内容及带有儿童特征的图像，认为这在欧洲是违法且没有立足之地的[1] - 英国通讯管理局已就“格罗克”功能表达“严重关切”，并与X和xAI进行紧急沟通，要求其说明为履行保护用户的法定义务所采取的措施[4] - 印度信息技术部要求对“格罗克”的安全防护功能进行全面审查[4] - 马来西亚当局在收到关于“格罗克”输出内容“下流”的投诉后，已就此展开调查[4] 潜在法律与财务后果 - 此次事件意味着X平台很可能面临新一轮重罚[1] - 就在上个月，欧盟委员会刚以违反《数字服务法》为由，对X处以1.2亿欧元的罚款，处罚涉及广告资料库透明度不足、未向研究人员开放公共数据访问权限、以及将用户验证“蓝标”改为付费获取等多项违规[1] 公司回应与立场 - X平台和马斯克的应对策略是强调“犯错的是使用工具的人，而不是工具本身”[2] - X平台表示会对非法内容采取行动，包括删除资料、封号，并在必要时与执法机构合作[2] - 马斯克强调，任何使用“格罗克”制作非法内容的人，将面临与上传非法内容同样的法律后果[2] 行业与监管环境审视 - AI图像生成工具未能有效拦截违法、犯罪行为，这本身被视为重大失误[3] - 在美国、英国、欧盟等国家和地区，未经同意发布AI生成的深度伪造私密影像是违法的，AI服务供应商有责任在其工具的安全系统中嵌入法律界限[3] - 此次事件暴露的漏洞势必将面临全球监管机构的仔细审视[3]