事件概述 - 印度尼西亚和马来西亚成为首批因深度伪造问题而封禁马斯克旗下大模型Grok的国家 [1] - 封禁的直接原因是大量用户利用Grok的图像生成功能，将真实女性及未成年人照片恶意篡改为裸露或穿着暴露的图像 [1] - 该行为引发了受害者和公众的强烈抗议，矛头指向马斯克及其公司，要求加强管控 [1] 政府监管行动 - 印度尼西亚数字部长于1月10日宣布禁令，旨在保护妇女、儿童及公众免受AI生成的虚假色情内容风险 [1] - 马来西亚于1月11日宣布临时禁令，原因是Grok被滥用于生成涉及妇女和未成年人的淫秽、冒犯性伪造图像 [1] - 英国首相斯塔默谴责该行为“可耻”和“令人作呕”，科技大臣表示支持根据《在线安全法案》封锁违规服务商 [3] 公司回应与现状 - 马斯克和xAI曾表示正通过封禁违规账户以及与当地政府合作来解决问题 [2] - 有消息人士透露，马斯克在xAI内部一直抵制为Grok设置审查和安全防护机制 [2] - 截至新闻发布，X平台及马斯克方面尚未就印尼和马来西亚的封禁做出正式回应 [3] - 尽管公司声称采取措施，但X平台仍然充斥着此类利用Grok生成的伪造图像 [2] 具体案例与影响 - 一位印尼残障人士表示，陌生人利用Grok将其坐在轮椅上的照片篡改为身穿比基尼的图像 [2] - 受害者尝试调整隐私设置和投诉，但收效甚微 [2] - 此次事件凸显了AI图像生成技术被滥用于制作非自愿深度伪造色情内容的具体风险 [1][2]