Workflow
蛋白质折叠
icon
搜索文档
开创多元协同治理格局 促进人工智能安全有序发展
科技日报· 2025-08-29 14:37
人工智能战略定位 - AI从辅助工具跃升为驱动社会变革的核心引擎 国务院出台《人工智能+》行动意见推动技术与应用双向赋能 [1] - AI成为高质量发展的关键增量 核心价值体现在赋能 减负 提质 增效四个维度 [3] - 意见紧扣全球科技趋势 以战略性布局引领方向 科学性设计推动融合 指导性举措明确路径 及时性部署抢抓机遇 [4] 产业赋能应用 - AI拓展科学研究认知边界 如AlphaFold破解蛋白质折叠难题 支持科研范式转型加速创新成果转化 [3] - 智能制造领域车企通过AI维护系统将设备故障率降低20% 教育领域AI定制学习路径 医疗领域成为智能助手 [3] - AI通过自动化技术将人们从危险繁重工作中解放 创造智能化就业机会和工作方式 关注民生提振消费 [3] - 社会治理领域提升应急效率 生态治理领域实现实时监测模拟推演 推进治理能力精准提升 [4] 技术风险挑战 - 大模型存在黑箱特征 不可解释性导致决策逻辑难理解 鲁棒性不足易受对抗攻击 幻觉问题生成虚假内容 [6] - AI价值观是数据投射 训练数据偏见被模型放大 可能无意识传播与主流价值观相悖内容 影响社会和谐 [6] - 深度伪造技术生成以假乱真音视频 海量数据依赖导致隐私泄露风险 AI驱动网络攻击威胁个人安全与社会稳定 [6] 安全治理体系 - 构建四位一体协同治理体系 完善法律法规体系 构建多元公共安全体系 建设网络空间治理体系 建立智能应急体系 [8] - 技术安全方面开发可解释AI使决策透明化 通过对抗训练提升模型抗攻击能力 研发内容真实性检测算法 [9] - 伦理安全方面通过强化学习将中华传统文化与社会主义核心价值观嵌入模型 优化内容审核与行为约束技术 [9] - 应用安全方面制定数据保密网络安全供应链安全管理办法 引导安全行业数智转型 提升公众风险意识 [9] - 国家安全层面加快建设全维度安全测评体系 参与全球治理规则和技术标准制定 推动智能向上向善理念 [9]