技术发展唯有持续向善，方能持续向上。始终以规则护航发展，才能让AI真正成为推动社会进步的力 量。■ 让"院士"代言护肤产品，让"演员"直播带货，用奥运冠军声音卖土鸡蛋……近期，利用AI换脸、语音合 成等技术生成虚假内容谋取私利或虚构突发事件、编造公共政策、捏造社会民生谣言的热点事件多发。 AI合成乱象侵犯了相关人士的肖像权、声音权，还可能误导公众、损害消费者权益，甚至影响到社会 信任乃至公共秩序。维护安全、清朗的网络空间，应明确使用AI技术的底线与红线。 文 | 刘淏煜 一方面，技术服务提供商和内容发布平台应严守标识规定，加大技术投入、强化内容审核，优化用户举 报和维权通道，健全追溯、下架以及追责机制。另一方面，需持续完善相关规定，实现从内容生成到公 共传播的全链条治理，以源头严防、过程严管、违规严惩，有效消除侵权造假的土壤。 内容标识，是遏制AI合成乱象的第一道"防火墙"。9月1日起施行的《人工智能生成合成内容标识办法》 聚焦人工智能"生成合成内容标识"关键点，明确相关服务主体的标识责任义务，规范内容制作、传播各 环节标识行为，既为公众提供辨识真伪的标准，逐步形成"以标识为准"的意识，更为后续追责提供证 据 ...

核心观点 - 算法应用日益广泛，但伴随算法备案风险和用户权益保护问题，需通过内容标识、技术应用和行业标准制定等手段应对挑战 [1][2] 内容标识 - 算法生成内容难以追溯来源及真实性，缺乏有效标识机制可能导致用户被误导 [1] - 需建立科学的内容标识体系，包含内容来源、生成算法特征、发布时间及审核机制等信息，以帮助用户判断信息可靠性 [1] 用户权益保护 - 用户对隐私和数据安全存在担忧，保护用户权益需确保数据安全并防止信息泄露 [1] - 平台应制定严格数据保护政策，并赋予用户对其个人信息的查看、删除或修改等控制权，以增强用户信任 [1] 技术应用 - 自然语言处理技术可用于内容自动审核，帮助识别潜在虚假信息 [2] - 区块链技术可实现内容的不可篡改性和有效追溯，确保用户获得真实可靠信息 [2] 行业标准与规范 - 行业尚未形成统一标准，导致各平台在内容标识和用户权益保护方面存在差异 [2] - 行业内需加强合作，共同制定适用于各类平台的算法备案和内容标识标准，以提升整体水平和用户体验 [2] - 已有多项相关法规和管理办法出台，如《生成式人工智能服务管理暂行办法》等 [3] 未来发展趋势 - 智能化是趋势，通过算法分析可实时监测内容变化，及时识别风险并干预 [5] - 用户参与度将提高，用户反馈将有助于优化内容标识和风险防控措施 [7] - 跨平台合作将成为常态，通过信息共享和资源整合提升整体风险防控能力，建立更安全可信的网络环境 [7]