论坛概况 - 2025从都国际论坛于12月1日至12月3日在广州举行 主题为“同球共济 共赢未来” [1] - 论坛核心议题为改革完善全球治理 维护世界和平与发展 [1] - 来自23个国家的28位外国前政要和国际组织前负责人及中外政商学界代表参与 [1] 讨论议题 - 与会嘉宾围绕“改革完善全球治理 增强稳定性和确定性”及“提供全球公共产品 落实2030年可持续发展议程”等议题进行深入探讨 [1] - 当前全球治理体系面临新一轮科技革命与地缘政治变迁的激荡 传统与非传统安全威胁交织叠加 [1] - 全球发展失衡 地缘冲突风险 人工智能治理 气候变化应对等议题呼唤全球合作与共同行动 [1]

论坛概况 - 论坛于2025年12月1日至3日在广州从都国际会议中心举行，主题为“同球共济 共赢未来” [2] - 论坛汇聚超过200位嘉宾，包括30多位前国家元首、政府首脑、国际组织负责人以及100多位中外知名专家学者和商界领袖 [2] - 活动包含开闭幕式、闭门会议、大会讨论、平行论坛等共十场 [2] 主要议题 - 议题涵盖全球安全挑战、全球治理改革、人工智能创新与安全治理、可持续发展、绿色低碳发展及世界经济发展走势 [2] - 重点讨论了在不确定性时代增强全球治理体系的稳定性和确定性 [4] 全球治理与改革 - 与会嘉宾深入探讨当前全球治理体系的不足与改革方向，认为联合国等战后建立的国际机构需改革以适应21世纪的新问题 [4] - 有建议提出，应借鉴国际原子能机构的成功经验，建立如国际人工智能署的监督机构，以防止技术垄断并确保人工智能技术惠及全人类 [4] 全球合作与共识 - 论坛被评价为在相互理解与对话中凝聚共识、弥合信任裂缝、消除国际社会隔阂与分裂的重要平台 [6] - 面对全球发展失衡、地缘冲突风险、人工智能治理、气候变化等非传统安全威胁，国际社会前所未有地呼唤全球合作与共同行动 [6]

项目概述 - 卡内基梅隆大学发布首个系统刻画AI供应链的数据集 涵盖数据、算力、模型、资本和人才流向 [1] - 数据集通过抓取数千篇文章、新闻稿和SEC文件构建 并持续每周更新 [3] - 项目旨在绘制AI参与者之间的互动关系 弥补当前行业报告只点名关键机构但缺乏关系刻画的缺口 [9] 数据集规模与关键参与者 - 数据集中包含13,694个独特参与者和18,547对独特参与者组合 [2] - 描述中最常见的词包括openai（出现7,419次）、microsoft（5,273次）、nvidia（5,066次）和google（4,762次） [2] - OpenAI以5,702次关系提及和1,168个独特合作伙伴位居榜首 Microsoft以3,649次关系提及和1,013个独特合作伙伴紧随其后 [2] AI供应链结构与行业演变 - AI供应链描述AI模型、数据和工件在上游生产 以及在下游适配和使用的过程 [3] - 供应链最上游可追溯至人工标注员 最下游延伸至各类AI应用的终端用户 [14][15] - AI行业从过去企业内独立完成各环节 演变为专业化公司接管研发流程中的独立环节 标志着行业走向成熟 [17][19][20] 供应链分析的关键应用 - 识别上游市场集中度造成的瓶颈 可能导致产品或服务中断时的连锁故障 [5] - 揭示市场力量聚集之处 帮助理解生态中不同层级的竞争演化 [9] - 发现AI组织之间的密切财务关系 包括相互投资和循环投资 [6] - 追踪AI在下游各行业的使用与采用情况 有助于追踪AI的危害和同质化等问题 [7] 供应链透明度的重要性 - 看清供应链有助于识别谁在制造瓶颈、攫取超额收益和转嫁风险 避免被技术神话与商业宣传误导 [21] - 理解上下游依赖是设计算力、信息披露、责任归属与安全监管等干预措施的基础 [9] - 未来AI治理需要对整条供应链问责 包括谁提供算力与数据、谁推动落地与扩散、谁获利和承担后果 [22]

广东省数字经济发展目标 - 力争到2027年数字经济核心产业增加值占GDP比重超过16% [1] - 数据产业规模年均复合增长率目标超15% [1] - 人工智能核心产业规模目标超过4400亿元 [1] 数字化转型的领域与机遇 - 数字化转型领域包括跨境电子商务、数字支付系统、人工智能、智慧医疗、在线教育、多媒体传播、数字农业和农业生产高科技 [1] - 数字化转型被视为助力中小型企业增长、提高生产率和建设区域共同数字生态体系的重大机遇 [4] 数字经济发展的挑战与合作建议 - 数字经济发展提出对人工智能治理、网络安全、防范网络犯罪和在线风险控制的迫切要求 [4] - 建议东盟和中国紧密合作，共同建立法律框架和统一标准以应对挑战 [4]

论坛核心信息 - 2025年世界互联网大会乌镇峰会网络法治论坛于11月9日在浙江乌镇举行，主题为“建构人工智能良法善治共识” [3] - 论坛设置“人工智能治理的法治实践”、“人工智能治理与人类共同命运”等议题，探讨人工智能治理的共同挑战和方法路径 [3] - 论坛倡议推进人工智能法治的国际交流与多方合作，深化人工智能良法善治的国际共识 [3] 行业发展与区域经济 - 2025年1月至9月，浙江省人工智能核心产业企业数量持续增长，营业收入突破4900亿元 [4] - 通义千问、DeepSeek等一批大模型迭代突破，形成以龙头企业为引领、高校院所为支撑、创新型企业协同发展的产学研用深度融合发展格局 [4] - 人工智能被定义为新一轮科技革命和产业变革的核心驱动力，正在重塑全球治理格局与法律秩序的底层逻辑 [4] 法治建设与司法实践 - 中国网络法治系统化规范化程度日益提升，网络安全防护保障能力大幅跃升，平台经济有序发展 [4] - 互联网法院受理的人工智能案件主要集中在人格权侵权、著作权侵权和合同领域 [6] - 司法实践中通过裁判树立规则，以规则促进治理，个案认定规则以平衡创新和利益保护 [6] - 北京检察机关依法打击涉人工智能违法犯罪，累计办理网络违法犯罪1万余件 [6] 企业观点与平衡之道 - 企业代表认为法治为互联网产业提供了空间、信任和未来，确定了发展的底线和红线 [4][5] - 中国互联网法治摸索出了在发展与安全上最平衡的做法，实现了多赢局面 [5] - 企业致力于运用现行法律应对人工智能问题，基本理念是在创新与治理之间寻求均衡 [6] 全球治理与国际合作 - 推动技术规范有序发展是全球网络法治建设的重要主题，各国在关键领域的合作与竞争并存 [4] - 人工智能治理需避免恶性竞争，采取多维度参与、动态且具参与度的方法，兼顾经济效益与社会权利保护 [7] - 人工智能技术的无国界性决定了治理必须是全球性的，需在尊重各国主权和文化差异的基础上加强国际合作 [7]

文章核心观点 - 人工智能治理正从基于规则的智能转向自我学习进化的智能，模型治理成为关键议题 [2] - 中美欧在通用及前沿大模型治理上形成三种差异化路径：欧盟构建复杂义务体系，美国加州采取轻监管模式，中国从应用场景延伸至模型治理 [2][3] - 三方共性包括柔性治理倾向、构建评估生态、以透明度为核心工具，差异体现在监管范围、义务强度与风险判断逻辑 [2][11][12] 欧盟模型治理路径 - 在原有AI系统四级风险体系外，平行构建针对通用模型的治理机制，区分有无"系统性风险"的模型 [4] - 系统性风险判断结合理念性标准（如"高影响能力"）与技术性量化指标（如训练计算量超过10^26 FLOPs） [4] - 模型义务扩展至应用场景，如要求模型提供者构建未来风险情景和收集最终用户反馈，超出其对模型自身的控制范围 [5] - 治理框架复杂笨重，模型风险与应用风险混同，导致模型提供者承担无法预见的责任，欧盟正推动立法简化方案 [5] 美国加州模型治理路径 - 监管起点高且范围窄，仅覆盖训练计算量超过10^26 FLOPs的"前沿开发者"，"大型前沿开发者"需额外满足年总收入超5亿美元门槛 [5] - 义务轻量化，透明度报告仅要求基础信息，如网站、沟通机制和预期用途，对比欧盟对技术文档的细节要求极为限缩 [5][6] - 立法主线为促进产业发展，避免过多制约，过去三年出台的AI法规多针对细分场景（如伴侣聊天机器人、医疗AI误用） [6] 中国模型治理路径 - 以应用服务为切入点，自下而上延伸至模型治理，通过算法推荐、深度合成、生成式AI等服务规制间接约束模型层 [7][8] - 采用"内生风险—应用风险—衍生风险"三层结构，将模型算法风险归入内生风险范畴（如可解释性不足、鲁棒性不强），厘清风险边界 [9] - 治理工具务实，依托算法备案、安全评估、内容标识等具体抓手，形成系统完善的治理机制 [8][9] 三方治理共性 - 均体现柔性治理倾向：欧盟《实践准则》为自愿性承诺，美国加州SB 53以企业自律主导，中国以指导性文件推进治理 [11] - 重视构建评估生态：欧盟建议社区驱动模型评估榜单，美国要求第三方灾难性风险评估，中国提出建立安全测评体系 [11] - 透明度成为核心工具：欧盟按披露对象分级设置信息层级，加州按开发者规模纵向分级，中国通过算法备案实现模型功能可见性 [12]

AI仿冒侵权现象与案例 - AI仿冒名人形象进行直播带货等商业活动的情况日益猖獗，例如演员温峥嵘形象被AI换脸用于直播间，本人质问后反被拉黑 [2] - 有案例利用AI模仿奥运冠军全红婵的声音带货销售土鸡蛋 [2] - 抖音电商在10月启动专项治理行动后，处置涉及侵权仿冒违规的达人账号多达1.1万个，其中包括AI仿冒侵权 [5] 平台应对与技术挑战 - 抖音集团副总裁李亮表示AI内容侵权识别是行业性技术难题，恶意仿冒账号不断进行技术对抗，平台将持续加大投入应对挑战 [2][7] - 检测AI换脸的技术原理在于，被篡改区域在频率变换等分析下会呈现异常的数值尖刺，与真实图像特征存在明显差异 [2][7] - 对于抖音直播这类大规模应用，理论上可通过配置顶级硬件检测或最先进防护模型来有效防范，但实现无死角安全覆盖的成本是天文数字 [3][8] - 平台需要在安全投入与风险控制之间进行权衡，庞大的用户体量使得高成本防护方案难以落地 [3][8] 法律定性与管理难点 - 盗用公众人物形象进行AI换脸直播主要侵犯肖像权甚至名誉权，不存在法律模糊地带 [9] - 内容制作者与商家是直接侵权方，若虚构事实骗取财物可能构成诈骗罪，平台在收到通知或侵权事实成为公众话题时有义务采取必要措施，否则可能承担连带责任 [9] - 治理难点在于查处的及时性，平台需要投入以进行及时识别，事后需对可追溯侵权主体施以经济罚款和账号封禁等惩罚以提高违法成本 [10] - 《人工智能生成合成内容标识办法》要求AI生成内容需添加标识，平台有义务监管 [10] 数字人带来的新挑战 - 比仿冒形象更严峻的挑战是完全虚拟的数字人，其可能凭空捏造科学家或医生等不存在的身份直接构成公众欺骗 [11] - 强制性的AI生成内容标识成为最重要底线，必须明确告知公众这不是真人 [11] - 数字人可24小时直播且成本更低，但无法对内容真实性负责，面对监管盲区，核心原则是非真实内容必须进行显著标识 [11] AI技术原理与可及性 - AI换脸技术原理是将人脸映射到特征空间的向量并进行替换，例如将向量a替换为向量b再映射回视频即生成换脸视频 [7] - 随着技术发展，利用开源模型加小型GPU即可实现AI换脸，技术门槛显著降低 [7]

会议背景与核心议题 - 会议为"北京大学人工智能治理国际圆桌对话会"，由北京大学社会科学部、人工智能研究院等机构联合主办，并获启明创投支持 [1] - 会议核心议题是深化全球人工智能治理合作，平衡人工智能发展中的安全与创新 [1] 人工智能的行业影响与治理必要性 - 人工智能正以前所未有的速度重塑产业、社会与全球格局 [2] - 人工智能作为新一轮科技革命的核心驱动力，在带来巨大机遇的同时也伴随着复杂风险 [4] - 人工智能技术在大力提升生产效率的同时，也带来了伦理困境与失控风险等现实挑战 [6][10] 全球人工智能治理路径与共识 - 需在防范具有自我意识的人工智能、界定人工智能伦理红线、禁止人工智能介入核决策、打击人工智能赋能国际犯罪等关键问题上建立全球共识与底线 [10] - 国际社会应推动建立更具效能与包容性的全球治理架构，并善用技术手段驾驭风险 [7] - 各国人工智能治理模式的区别主要体现在实施重点与路径选择上，治理模式需与国家制度能力相匹配 [7] - 可通过跨国示范项目与系统性培训提升各国监管者对前沿技术的理解与接纳能力 [7] 治理原则与未来方向 - 未来的人工智能治理应建立在重申人类价值与责任的基础上，保证人类在技术演进中的主体地位 [7] - 有效的人工智能治理需兼容技术架构与社会结构演变 [8] - 应秉承服务人类、负责任、促发展、保安全、促公平、促开放的原则，共同构建包容、可持续的智能未来 [4] - 呼吁国际社会加快构建基于人类共同价值的人工智能治理框架，在坚守安全底线的同时充分激发创新活力 [10]

全球人工智能治理格局 - 全球主要形成三种人工智能治理体系 包括美国推动的中心-外围结构和欧盟强调个人隐私导致发展成本过高的体系 [1] - 中国在人工智能治理方面扮演引领者角色 其治理框架被描述为标志性体系 [1] 中国人工智能治理体系特点 - 中国发布了《网络空间国际合作战略》《全球人工智能治理倡议》和《人工智能生成合成内容标识办法》等文件 [2] - 该体系核心特征是统筹发展与安全 均衡数字经济发展、国家安全和个人隐私保障等目标 [2] - 治理模式为政府发挥主导作用 企业、行业协会、个人技术社群以各自比较优势加入形成分工合作 [2] - 中国人工智能治理体系的比较优势正在逐渐体现 [2] 网络空间命运共同体理念 - 构建网络空间命运共同体理念以尊重网络主权原则为基础 包含四项原则和五点主张 [3] - 该理念为全球网络空间良性治理贡献中国智慧 旨在构建让各方以对等姿态讨论治理议题的秩序安排 [3] - 尊重网络主权原则为构建公平公正的全球网络空间治理秩序提供法理前提 强调主权国家对境内基础设施和数据具备有效管辖权 [3] 国际共识与成果 - 2025年世界互联网大会乌镇峰会主题为"共筑开放合作、安全普惠的数智未来——携手构建网络空间命运共同体" [2] - 峰会成果文件显示推动网络主权成为国际共识 越来越多国家认同该理念是对全球网络空间治理难题最有效的回应方案 [4]

大会概况与成果 - 2025年世界互联网大会乌镇峰会主题为“共筑开放合作、安全普惠的数智未来——携手构建网络空间命运共同体” [1] - 大会吸引来自130多个国家和地区的1600多名嘉宾参会 [1] - 大会成为展示新技术赋能各行各业新成果的重要平台 [1] 国际合作与治理倡议 - 中方发布《全球治理倡议概念文件》，针对网络空间、人工智能等治理赤字较大领域提出加大治理合作 [2] - 中国发布《全球人工智能治理倡议》和《网络空间国际合作战略》，推动成立世界人工智能合作组织 [2] - 国际社会坚持共商共建共享原则，致力于让每个国家、每个人在网络空间享有平等发展权利 [1] 未来发展愿景 - 行业将加强网络空间交流合作，促进互联网普惠包容发展，目标是将“网络鸿沟”转变为“数字通途” [2] - 全球互联网治理体系将朝着更加公正合理的方向发展 [2] - 构建网络空间命运共同体理念已提出十周年，世界互联网大会乌镇峰会已连续成功举办十余年 [1][2]