WAIC2025前沿聚焦(7):安远AI举办“人工智能安全和治理论坛”并发布系列重磅报告
海通国际证券·2025-07-29 21:38
行业投资评级 - 报告未明确提及具体行业投资评级 [1][2][3][4][5] 核心观点 - 中国AI安全治理体系正从理论框架转向可操作的实践阶段,首次构建了应对前沿AI风险的系统性方法论 [2] - 提出的"AI-45°定律"强调能力与安全协同发展,风险管理流程对标国际标准 [2] - 中国顶尖AI研究机构探索兼顾创新与安全的全球兼容性治理路径 [2] 核心发现 - 多数前沿AI模型已进入需要加强缓解措施的"黄区",在劝说与操纵、自我复制及战略欺骗等领域风险等级较高 [3] - 模型更强的推理和自主能力往往直接转化为更高的安全风险,新发布模型的安全评分在网络攻击等领域呈下降趋势 [3] - 生命科学成为AI风险"深水区",AI系统性降低生物威胁门槛,可能通过生物设计工具创造新型病原体 [4] 战略意义 - 中国正从原则倡导转向以技术研究为基础,深度参与全球AI安全治理议程 [5] - 通过双边对话、联合国平台及国内标准制定构建AI治理话语权和影响力 [5] - 将AI安全定义为"全球公共产品",呼吁国际合作应对无国界风险 [5] 焦点议题 - 生物安全风险需构建覆盖AI研发机构、生命科学界、政府及国际组织的多主体责任矩阵 [4] - 应对生物风险需建立从模型开发到DNA合成的全链条数字-物理界面安全体系 [4] - 中国发布对齐国际主流关切的风险框架与评估报告,释放参与全球治理的重要信号 [5]