人工智能全球治理 - 2025世界人工智能大会以"智能时代 同球共济"为主题 强调全球AI治理与合作的重要性 [1] - 大会发布《人工智能全球治理行动计划》并成立"全球人工智能创新治理中心" 推动规则协同与机构化实践 [1][6] - 中国网络空间研究院提出需将人工智能治理纳入法治轨道 以解决治理赤字问题 [6] AI安全与伦理挑战 - "AI教父"辛顿以"驯虎"比喻人类与AI关系 呼吁通过全球合作确保AI安全可控 防止反噬人类 [2] - 姚期智指出AI善良本质受人类社会生态影响 需"双向治理"：既要设定AI伦理边界 也要推动人类社会包容性发展 [2] - 当前AI幻觉问题阻碍可靠性落地 70%受访者称遭遇AI幻觉与错误决策 行业已出现文本核查、法律溯源等解决方案 [3] 训练数据与模型优化 - 辛顿强调需用精细调整的数据训练AI 英伟达提出利用物理仿真生成模拟场景解决数据获取难题 [4] - 智谱华章指出行业数据质量是关键 需用行业专用数据提升大模型落地能力 [4] - 商汤科技提出多模态交互数据可打破单一模态局限 帮助AI更全面理解物理世界 [5] 技术瓶颈与产业突破 - 中国工程院院士郑南宁指出大模型缺乏结构化表征与因果推理能力 难以实现认知跃迁 [3] - 英伟达全球开发者生态副总裁提到合成数据需辅助验证真实性 不能完全替代真实数据 [4] - 破除AI幻觉被视为产业破局关键抓手 涉及人机良性共生的长远命题 [3] 全球规范与标准构建 - WAIC正演变为"规范的市场" 交易内容涵盖全球性规范与标准而不仅是产品服务 [6] - 大会尝试解决创新与安全的动态平衡问题 推动跨文化、制度的全球治理机制建设 [6]

对人类来说，你是什么，未来的AI就是什么，每个人的一言一行，都将影响未来与什么样的AI相处。 因此，如何训练AI，用什么样的数据训练AI，是构造AI未来安全信念的最基础、最底层的逻辑。 我们可能并不清楚如何与比人类更聪明的AI相处，但至少不能让人类的贪癫痴、尔虞我诈等陋习污染 AI，这才是未来AI最大的安全隐患。 人工智能的全球治理框架和规则，不应是简单地为AI规划匡定路线图，而应该是收敛控制欲和好胜 感，用人类数千年积累的善念共识为AI注入悲悯人间的心智结构。 未来正不可逆地迎面走来。 26日在上海开幕的2025世界人工智能大会暨人工智能全球治理高级别会议，以"智能时代 同球共济"为 主题，突出AI全球治理，追求AI向善的力量。国务院总理李强在开幕式的致辞中提出更加注重普及普 惠、更加注重创新合作、更加注重共同治理等三点建议。 当前全球智能化浪潮风起云涌，AI领域创新呈群体性突破之势，语言大模型、多模态大模型和具身智 能等日新月异。随着AI Agent进入生活，AI与实体经济的深度融合已次第铺开，AI正在成为经济增长的 新引擎，深刻改变经济社会的结构，重构人与人、人与自然和人与社会的多维度关系。 在这场开弓 ...