深度伪造技术 - 深度伪造技术是一种利用人工智能生成逼真的音频、视频或图像，可能被不良行为者利用来破坏民主、剽窃艺术家和表演者、骚扰和伤害普通人的挑战之一[1] - 深度伪造已经被用于传播选举虚假信息、利用音乐家未经授权的模仿、制作未经同意的未成年人、普通公民和名人的色情内容[2] - IBM签署了《打击2024年选举中人工智能欺骗使用的科技协议》（慕尼黑科技协议），承诺帮助减轻人工智能被用于欺骗公众和破坏选举的风险[3] 政策建议 - 政策制定者应该禁止分发与选举相关的具有实质性欺骗性的深度伪造内容，例如《防止选举中使用欺骗性人工智能法案》[5] - 政策制定者应该对制作未经授权的深度伪造内容的人负责，并对知情传播此类未经授权内容的平台负责[7] - 政策制定者应该为传播非自愿亲密音视频内容的人以及威胁这样做的人设立严格的刑事和民事责任，尤其是在受害者为未成年人时[10] - IBM鼓励政策制定者抓住这个机会，迅速针对深度伪造的三个最重要的有害应用，以确保人工智能继续成为全球经济和社会的积极力量[13]