《人工智能科技伦理审查与服务办法（试行）》政策解读 政策核心与定位 - 工信部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》，是我国统筹人工智能发展与安全、创新与责任、效率与公平的重大制度安排，旨在为人工智能技术向善与智能产业高质量发展提供明确的科技伦理规范 [2] - 该办法填补了我国人工智能领域专门性伦理审查制度的空白，并在关键领域划定了不可触碰的“红线”，违规将面临严厉处罚 [5][6] 人工智能行业需遵循的核心伦理原则 - 开展人工智能科技活动需将科技伦理要求贯穿全过程，遵循八大原则：增进人类福祉、尊重生命权利、尊重知识产权、坚持公平公正、合理控制风险、保持公开透明、确保可控可信、强化责任担当 [2] - 人工智能发展的根本伦理立场是坚守“人是目的而非工具”，确保技术始终服务于人，而非颠覆人的主体地位 [3] 需进行专家复核的三大重点领域 - **领域一：对人类主观行为、心理情绪和生命健康有强影响的人机融合系统研发**，如脑机接口、情感计算、神经调控、增强认知等技术，因其直接作用于人的感知、情绪、认知乃至生命机能，发展失序可能导致人格异化、自主意识被干预、生命健康受损等严重后果 [3][4] - **领域二：具有舆论社会动员和社会意识引导能力的算法模型、应用程序及系统研发**，旨在防范“算法权力”带来的公共风险，如利用生成式人工智能、算法推荐、深度合成、舆情引导系统制造信息茧房、放大社会对立或操纵公共舆论 [4] - **领域三：具有高度自主能力的自动化决策系统研发**，特别是在交通、医疗、工业、应急、公共管理等涉及人身安全与重大公共利益的场景中，系统一旦出现算法偏见、逻辑漏洞或失控运行，可能直接造成人身伤亡、重大财产损失与系统性风险 [5] 当前人工智能行业面临的伦理风险 - 算法黑箱与算法歧视加剧社会不公 [2] - 深度合成、内容操纵等技术冲击舆论生态 [2] - 数据滥用与隐私侵害直接侵犯公民人格尊严 [2] - 高度自主决策系统模糊责任边界、挑战人类主体地位 [2] - 部分人机融合技术直接触及生命健康与人格尊严的核心底线 [2] - 部分人工智能的研发和应用单纯出于追逐利益，并不具有科学价值和社会价值 [2]

中央网信办算法治理专项行动 核心观点 - 中央网信办针对算法推荐导致的低俗信息泛滥、"信息茧房"、观点极化等问题开展专项治理，重点平台通过优化算法规则、提升透明度、创新功能等方式响应整改 [1][2] - 抖音、小红书、微博、快手、微信视频号、哔哩哔哩等平台在正能量内容加权推荐、用户自主权保障、内容多样性优化等环节推出系统性改进措施 [1][2] - 当前治理成效初显但仍存不足，网信部门将持续督导平台优化算法机制，探索多样化"破茧"路径 [3] 算法透明度提升 - 抖音开设"安全与信任中心"网站并举办开放日活动，公开推荐逻辑及干预机制 [1] - 微博公示热搜上榜规则及数据规则，新增热度标签标示推动因素 [1] - 微信视频号发布《一图读懂微信视频号算法推荐》等图文视频材料，以通俗方式解释算法原理 [1] "信息茧房"破除措施 - 抖音升级"使用管理助手"，通过可视化图表展示用户近期浏览内容偏好 [2] - 小红书推出"内容偏好评估与调节"功能，支持一键探索多元化内容 [2] - 快手在算法中增加对"正向""温暖"等内容的挖掘权重 [2] 推荐内容审核机制 - 微信视频号建立"好友推荐+算法推荐"双重机制，迭代识别模型拦截低俗信息 [2] - 抖音推出热点当事人核实机制，打击摆拍造假、仿冒蹭热等行为 [2] 用户赋权功能优化 - 快手提供可滑动调节的兴趣标签管理功能，支持精细化控制内容推送强度 [2] - 微博设置"不感兴趣""不看此博主"等多样化负反馈选项 [2] 现存问题与后续计划 - 部分平台功能使用效果未达预期，推荐内容质量仍有提升空间 [3] - 网信办将开展常态化巡查，推动平台持续优化算法管理规则和"破茧"路径 [3]