研讨会概况 - 第十一届东盟与中日韩“10+3”媒体合作研讨会于9月17日下午在昆明举行，主题为“互联互通 共建共赢” [2] - 13位来自不同国家的主流媒体代表围绕主题致辞或作主旨发言，多位嘉宾现场就“打造新动能，共享新机遇”等议题交流对话 [2] 行业合作背景与意义 - 中日韩三国与东盟国家地缘相近、人缘相亲、文缘相通，交往历史源远流长 [3] - 在当前国际形势下，亚洲媒体需汇聚智慧与力量，唱响共建人类命运共同体的时代强音 [3] - 媒体在东盟与中日韩合作中扮演促进民心相通的桥梁角色，发挥重要而独特的作用 [3] 公司业务与网络 - 公司构建了包括日文、韩文、印尼文、泰文等在内的多语种传播矩阵，各类社交媒体账号总粉丝量超过10亿 [3] - 公司在日本、韩国以及每个东盟国家均设有分社，与当地媒体智库开展宽领域、多层次合作 [3] - 公司与日本共同社、韩国韩通社、马来西亚国家新闻社、新加坡《联合早报》、泰国大众传播机构等多家机构建立了长期紧密的合作关系 [3] 行业合作方向建议 - 提升叙事水平：需用真实、立体、多元的叙事展现亚洲国家发展成果，完善自主叙事体系，打破西方话语霸权，提升亚洲声音的全球影响力 [4] - 拥抱技术变革：应把握生成式人工智能技术带来的媒介革命，拓展媒体新技术应用交流合作，并积极参与人工智能规则标准的制定，引导技术健康发展 [4] - 加强媒体对话交流：需发挥好各种媒体交流平台作用，加大人文相通力度，展现文明交流互鉴，为构建周边命运共同体贡献力量 [4]

联合实验室的角色定位 - 提供统一的人工智能安全评测平台以降低产业合规成本并释放应用发展潜力 [3] - 探索人工智能治理规则特别是生成式AI在不同法律和监管方向上的协同赋能 [3] - 作为"定海神针"推动政产学研用各环节协同发展并加强企业安全管理与合规流程 [4] 人才发展与产业生态建设 - 通过实验室培养更多AI人才以弥补行业较大人才缺口 [2] - 利用深信服在香港的布局进行宣传推广吸引香港企业投资 [2] - 汇聚企业、研究机构和政府力量共同制定技术标准和接口规范 [5] 企业应用与合规价值 - 帮助企业把握商业价值与数据安全之间的平衡度并参与标准制定 [4] - 提供合规案例指导行业解决产品落地时的幻觉问题和价值观对齐挑战 [4][5] - 通过网络安全技术攻坚提升企业数据安全使用和网络风险防范能力 [2][4]

AI伦理与治理框架 - 构建可信可靠可追溯的AI治理体系成为技术发展内在要求和社会责任必然选择 [1] - 全球人工智能治理走向促发展和柔性监管方向 建立敏捷治理体系 以政策指引促进产业主动自律 [3] - 2025年7月《人工智能安全承诺》获18家行业领军企业参与 形成20条实践标签和43条安全案例 [3] 医疗领域AI应用 - AI医疗应用需经过医疗伦理 医疗安全 医疗合规 通用安全和医学专业性五大方面审视 [4] - 医疗大模型可能促进医疗公平公正 解决区域医疗资源分配不均衡问题 [6] - AI在偏远地区可作为医生助手 为优势医疗资源难以覆盖的病患群体带来希望 [6] 企业实践与技术创新 - 蚂蚁集团通过预警测试修复动态机制提升AI风险弹性 [4] - 企业制定"平等尊重可信负责"基本科技伦理原则 设立科技伦理委员会协同内外部互动 [4] - 产学研合作持续推进 信百会研究院与蚂蚁集团科技伦理委员会共建安全可信AI生态 [7] 人机价值对齐 - AI与人类价值对齐问题是确保人工智能科技向善的根本 [3] - 需通过强化学习让大模型学习人类价值和偏好 创建安全符合伦理的人工智能系统 [3] - 人类需确保负责任地应用AI 做好技术发展中的长期风险防控 [3] 患者诊疗体验优化 - 穿戴设备可监测心率血压运动步数及用药提醒 帮助医患同步达成健康共识 [7] - AI让患者在诊前对自身情况形成科学基础认知 提升诊中诊后对诊疗方案的依从性 [7] - 需关注患者情感心理需求和精神状态等难以量化的部分 将患者作为完整的人进行治疗 [6]

在华美企盈利与营商环境 - 71%受访在华美国企业在2024年实现盈利 较2023年66%的历史低点回升[1] - 48%受访企业认为中国市场监管环境透明 较去年大幅提升13个百分点[1] - 41%企业对中国进一步开放市场抱有信心 较去年大幅上升[1] - 营商环境改善体现在透明度、知识产权保护、市场准入等多个维度[1] 关税政策影响与企业诉求 - 64%受访美企预计关税战将直接导致营收下降[1] - 48%受访企业呼吁美国政府取消所有对华商品关税和非关税壁垒[1] - 33%企业希望取消2025年4月实施的"对等关税"及其他附加关税[1] - 美国延长178项中国产品关税豁免期限至2025年11月29日[3] - 企业认为90天豁免期限过短 希望尽早达成协议[3] 中国制造业生态与供应链优势 - 中国制造业生态被评价为全球最强 具备市场规模、产业链生态、基础设施和高素质人力等优势[3] - 越南和印度等国家无法比拟中国制造业的综合优势[3] - 供应链调整非一蹴而就 最佳模式是通过国际贸易分工实现互利共赢[3] 中美企业竞争格局 - 本土竞争被列为在华美企未来三五年第二大挑战 仅次于双边关系[5] - 41%受访美企认为中国企业在AI技术应用方面更为领先[5] - 零售与消费品行业美企重点关注电商直播、短视频购物和虚拟试穿等个性化互动领域[5] - 汽车领域超半数美企认为与中国车企在AI技术运用方面旗鼓相当[5] - 物流行业约半数美企认为中国企业在新兴技术（如物联网、区块链、无人机）上更具竞争力[5] 进博会参与与成果 - 上海美国商会将第三度携手美国农业部参加进博会 展台面积和规模较去年扩大[7] - 2024年进博会期间计划举办研讨会促进中美行业交流[7] - 2023年进博会美国馆达成7.11亿美元合作意向 较2023年首秀增长41%[7] - 进博会被视为鼓励美国中小农产品企业进入中国市场的重要双赢平台[7] 中美合作潜在领域 - 人工智能治理、气候变化和公共健康被列为中美必须共同努力的三大领域[6] - 需要建立适用于所有国家的AI治理协议和规则以应对潜在风险[6]

峰会概况 - 第25届全球监管者峰会于9月1日在沙特利雅得举行，由沙特与国际电信联盟共同主办 [1] - 峰会主题为“可持续数字发展监管”，吸引了190个国家的监管机构与产业代表参会 [1] - 会议聚焦全球数字鸿沟、人工智能治理、数字包容与监管创新等核心议题 [1] 沙特数字发展成就 - 沙特数字经济占其国内生产总值的15% [1] - 沙特科技岗位数量超过38万个 [1] - 沙特2024年互联网普及率达到99% [1] 峰会核心议题与目标 - 强调通过能力建设、治理框架和投资对接来推动普惠互联 [1] - 计划就后数字时代的监管原则达成共识 [1]

制度框架与设计特点 - 首次在国家层面系统构建人工智能生成内容的标识框架 通过显式标识和隐式标识双重要求建立用户可感知、机器可识别的信任机制 [1] - 适用范围覆盖视频、文本、图片、音频四大类主流文件格式 提供操作层级的规范要求 在当前相关制度中覆盖范围领先 [1] - 明确标识内容、位置、格式及读取方式等关键要素 使各类企业能在统一框架下推进技术改造 提升全行业合规效率 [1] 实施路径与产业适配 - 采用先立后破、分步实施策略 构建跨部门、多主体、长周期的系统工程 需要政府和企业持续协同与投入 [2] - 针对不同主体构建全链条责任机制 包括用户发布需主动声明、社交平台审核标识材料、服务提供者履行标识义务 [2] - 创新提出文本符号标识等低成本标识方法 考虑企业实际能力差异 体现制度设计的梯度性与阶段性 [2] 技术演进与监管机制 - 未来需引进轻量化数字水印、频域嵌入、分布式身份标识等抗攻击性强、跨平台兼容的技术手段 [3] - 随着多模态大模型与生成式人工智能技术融合 内容生成形式与复杂度将提升 标识认定维度将继续拓展 [3] - 推进沙盒试点 形成有效反馈机制 定期修订技术指南与实施路径 强化平台审核责任与违规处置联动机制 [3] 制度意义与发展方向 - 以元数据隐式标识为核心机制 推动技术标准、制度规范、产业实践的协同创新 [4] - 有效兼顾治理刚性与发展弹性 为复杂技术治理提供动态平衡的实现路径 [4] - 需持续拓展标识维度和识别精度 推进跨模态、跨平台的可信认证技术体系建设 增强制度覆盖性、操作性和国际兼容性 [4]

人工智能治理的必要性与紧迫性 - 人工智能具有跨境传播特性和系统性风险 治理不能局限于国家层面[1][6] - 当前存在认知误区 认为治理会束缚技术创新 这种观点低估了技术风险并忽视治理对技术发展的关键引导作用[1] - 人工智能在认知领域进展迅速 部分模型在数学奥林匹克竞赛解题准确率已超越人类平均水平 增强了AGI可行性预期和治理紧迫感[1] 人工智能治理的多维框架 - 治理是多维度、多工具、多主体参与的系统性过程 旨在协调技术进步与社会价值[2] - 伦理与价值维度关注安全可控性、透明可解释性、公平非歧视性和责任可追溯性 中国2019年提出"负责任人工智能"八项准则 欧盟和OECD发布多套伦理框架[3] - 政策支持维度通过财政投入、研发资助和基础设施建设提供制度土壤 中国2017年《新一代人工智能发展规划》采用"三步走"战略推动产业发展[3] - 规制与标准维度包括法律法规、技术标准和分级管理 欧盟《人工智能法案》将AI系统分为四类实施差异化监管[4] 全球人工智能治理核心挑战 - 技术路径差异导致治理分化 各国对风险认知存在本质分歧 例如国产大模型DeepSeek在中文语义建构方面突破显著 引发是否需与国外模型采用同等评估标准的争议[7] - 治理节奏与技术发展错配 AI技术呈指数级演进而治理体系滞后 GPT-4发布半年内多款对标模型上线 但多数国家监管机制仍未落地[8] - 全球治理机制复合体缺乏协调 联合国教科文组织、OECD、欧盟和世界经济论坛等机制存在目标重叠和规则冲突 导致治理效能低下和合规困境[9] - 地缘政治因素形成合作壁垒 AGI研发演变为少数国家主导的竞赛型项目 全球协同开发与风险共担路径难以实现[10] 人工智能治理的未来方向 - 治理需具备合作性、包容性和合法性 否则将加剧跨境风险、智能鸿沟和信任危机[11] - 治理是与技术共同进化的制度生态工程 需同步协调安全风险管控、社会结构塑形和市场机制构造三大任务[11]

人工智能治理认知误区 - 存在认为人工智能治理过早束缚技术创新的典型认知误区 低估技术社会风险和治理机制引导作用[1] - 治理并非创新对立面 而是实现人工智能健康有序可持续发展不可或缺的制度性支撑[1] 人工智能技术进展 - 人工智能在人类认知领域进展惊人 数学奥林匹克竞赛解题准确率部分超越人类平均水平[1] - 技术跃升增强通用人工智能可行性预期 加强社会各界治理紧迫感[1] 人工智能治理框架维度 - 伦理与价值维度关注安全可控性 透明可解释性 公平非歧视性和责任可追溯性等基本原则[3] - 中国2019年提出"负责任人工智能"八项治理准则 欧盟OECD等发布多套伦理框架[3] - 政策支持与市场激励维度通过财政投入 研发资助 反垄断等手段维护创新生态多样性[4] - 中国2017年《新一代人工智能发展规划》采用三步走战略推动产业发展[5] - 规制与标准维度包括法律法规 技术标准 分级管理等 欧盟人工智能法案采用四类风险分级监管[5] 全球人工智能治理挑战 - 技术路径不同导致治理差异化 各国对风险治理认识存在本质分歧[6] - 国产大模型DeepSeek2024年初引发中文语料特殊保护机制等治理工具适配问题[6] - 治理节奏与技术发展错配 监管政策制定周期性与技术迭代速度难以同步[7] - GPT-4发布半年内多款对标模型上线 但多数国家大模型法律分类仍未落地[7] - 全球治理机制复合体缺乏协调 联合国教科文组织 OECD 欧盟等机制存在目标重叠和冲突[8] - 机制复合体导致治理效能低 话语权失衡和合规困境等现实难题[9] - 地缘政治因素形成合作壁垒 AGI研发演变为少数国家主导的竞赛型项目[10] - 缺乏合作性难以应对跨境风险 缺乏包容性加剧智能鸿沟 缺乏合法性削弱公众信任[10] 人工智能治理定位 - 治理是与技术共同进化的制度生态构建工程 需同步协调安全风险管控 社会结构塑形和市场机制构造[10]

更安全的AI - 深度学习教父Geoffrey Hinton首次访华并在WAIC 2025发表主题演讲 强调AI治理需中国参与 标志着全球AI安全合作进入新阶段 [3] - Hinton提出LLM与人类认知相似性理论：两者均通过模式补全生成意义 且数字智能可依托硬件替换实现"永生" [3] - 人类知识转移效率低下 而AI可实现即时精确的模型复制 能源成本降低后将超越人类认知能力 [3] - AI与人类一致性仍是未解难题 缺乏可靠方法确保超人类智能系统选择帮助人类 最坏情况下人类或沦为附属品 [3] 阿里巴巴的开源战略 - 发布三款高性能开源模型：Qwen3-235B-A22B-Instruct-2507（非推理模型超越Kimi K2）、Qwen3-235B-A22B-Thinking-2507（推理模型媲美GPT-4）、Qwen3-Coder（4800亿参数MoE编码模型） [7] - 推出无屏幕AI智能眼镜 深度集成Qwen模型 通过垂直场景建立用户黏性 成为持续AI交互的"特洛伊木马" [4][5] - 开源策略推动中国开发者生态普及 降低对海外API依赖 同时将阿里云定位为默认基础设施 采用"聚合理论"商业模式 [8] 宇树科技机器人突破 - 发布新一代人形机器人R1 重量25公斤 售价5600美元（特斯拉Optimus价格的1/5） 定位大众市场开发者和研究机构 [6] - 具备动态运动和多模态交互能力 提供即插即用API 可能催生第三方应用生态 类似早期智能手机市场 [6][9] - 中国硬件创新模式快速迭代 威胁特斯拉市场地位 若形成应用生态或抢先建立人形机器人iOS式平台 [9] 全球AI治理动向 - WAIC 2025吸引40国800余家企业 展示3000+创新成果 中国提议设立全球AI治理机构并发布13项合作框架 [2] - 欧洲、东南亚及非洲国家签署多边AI治理框架 显示中国从产业规模转向开放安全原则的基调转变 [3][4]

人工智能发展态势 - 人工智能技术正以难以预测的速度加速迭代演进 [4] - 行业面临从"让人工智能变得安全"到"打造安全的人工智能"的范式转变 [8] - 技术发展带来巨大机遇但治理机制和国际共识仍滞后于技术进步 [4] 中国人工智能治理框架 - 治理需在设定明确底线前提下为发展留出充足空间 [5] - 鼓励创新应作为人工智能治理的第一原则 [5] - 倡导构建动态敏捷、多元协同的人工智能治理格局 [6] - 需要将一致性评估和合规性审查引入监管机制 [6] 技术安全创新方向 - 亟须创新升级数字安全防护体系构建AI驱动的主动免疫 [7][8] - 需探索通用AI训练方法使人工智能向善发展 [8] - 采用"内生安全"新思路强调安全的内生性和原生性 [8] 产业化推进策略 - 深入实施"人工智能+"行动大力推进规模化商业化应用 [5] - 推动人工智能在各领域加快普及和深度融合 [5] - 形成以创新带应用、以应用促创新的良性循环 [5] 国际合作与全球治理 - 人工智能治理需要国际合作因风险挑战具有跨国界特性 [6] - 中国倡导通过多双边框架推动AI技术务实合作 [6] - 应打造全方位多层次具有包容性平等性的国际治理框架 [6] - 摒弃"小院高墙"政策加强全球协同治理 [6]