AI治理
搜索文档
陆洪磊、蒙昕晰:完善AI治理,在四个层面发力
环球网资讯· 2025-08-21 07:03
AI治理平台责任 - 平台需建立有效内容审核机制拦截处置违规AI内容[2] - 平台需加大惩戒力度防止违法账号更换马甲继续牟利[2] - 平台需加强与政府媒体科研机构协同提升治理能力探索识别防范技术[2] AI治理监管措施 - 中央网信办部署专项行动清理整治违规AI应用程序推动平台提升检测鉴伪能力[2] - 监管层实施从技术源头到应用末端全链条治理应对AI挑战[2] - 相关部门需推出针对性政策强化动态治理能力应对造谣易辟谣难剪刀差[2] AI治理法律框架 - 《民法典》将自然人声音纳入人格权保护范围[3] - 《人工智能生成合成内容标识办法》要求服务提供者对AI生成内容添加显著标识并核验[1][3] - 互联网应用分发平台需在上架审核时核验相关材料实现生产分发传播全环节法律规制[3] 全球AI治理比较 - 欧盟通过《人工智能法案》探索立法[4] - 美国以行业规范和企业自律为主[4] - 中国强调前瞻性法律制度建设与技术监管同步升级展现制度优势[4]
美国《AI行动计划》将加剧全球AI治理失序
第一财经· 2025-08-12 21:01
美国AI行动计划核心战略 - 以"美国优先"为导向的全球AI治理规则将导致技术标准生态割裂与监管模式对立[1] - 计划包含三大支柱:加速AI创新与去监管化、构建AI基础设施、主导全球AI治理规则[1] - 政策目标是通过技术优势建立全球AI霸权地位[13] AI基础设施建设 能源战略 - 数据中心电力消耗占比将从2023年4.4%升至2028年12%[2] - 三重能源战略:松绑传统能源审批(天然气/核电/燃煤)、电网数字化升级、创新融资工具[3] - 设立"基荷能源信用增强计划"为长周期能源项目提供联邦风险分担[3] 算力建设 - 数据中心加速计划:简化环评流程、开放联邦土地、审批时限压缩至数月[4] - 半导体供应链本土化:将5纳米以下芯片厂纳入国防关键基础设施[5] - 2028年前完成外国芯片替代,启动"电子复兴计划2.0"攻关3D堆叠等颠覆性技术[5] 人才培养 - 教育部更新职业课程,能源部每年资助2000名核电/超算学员[6] - 军方建立AI人才速成项目,财政部提供培训税收优惠[6] - 劳工部联合社区学院定向培养电工/半导体工程师等紧缺工种[6] 创新生态系统构建 监管松绑 - 废除阻碍AI开发的联邦法规,撤销拜登时期AI安全行政令[8] - 限制州级AI立法权,联邦资金分配与监管环境挂钩[9] - 医疗/农业等领域设立监管沙盒,允许绕过部分审批要求[10] 技术突破 - 国家自动化云实验室覆盖材料/化学/生物等多学科领域[11] - 增加AI可解释性/可控性研究的联邦资助[11] - 建设开源金融生态解决模型可持续性问题[9] 全球规则主导战略 - 向盟友出口全栈技术(硬件/模型/软件/应用),对中国加强芯片管制[15] - 通过G7平台组建"民主国家AI联盟"对抗中国治理模式[15] - 国防部制定抗量子加密标准,国土安全部组建AI安全响应小组[13] 行业影响 - 医疗/能源/农业成为AI应用试点优先领域,享受监管灵活性[10] - 国防与情报领域加速军事AI部署,建立科学数据集支持训练[10] - 半导体行业获制造业回流基金支持,先进制程进入快速审批通道[5]
当AI“看见”世界,商业的未来正在被彻底重塑 | 两说
第一财经· 2025-08-07 18:20
AI与未来商业 - 五位顶级科学家在2025世界人工智能大会特别节目中探讨AI如何重塑商业未来 包括图灵奖得主杰弗里·辛顿 北斗三号总设计师林宝军 多模态AI先锋梅涛 世界模型探索者申恒涛 中国计算机之父姚期智 [1][3] - AI不仅接管重复性工作 更成为创造性脑力劳动的合作者 不懂AI不用AI的人将首先被淘汰 [7] - AI正从数字世界向物理世界拓展 带来从"字节"到"空间"的范式转变 [13] AI对劳动力市场的冲击 - AI可能在5年内完成电视节目脚本写作等创造性工作 [7] - 从快递员 收银员到金融分析师 节目编剧 多个职业将被AI重构 [7] AI赋能北斗产业 - 中国北斗系统具有站得高 看得远 精度更高的优势 [10] - AI赋能PNT体系后 北斗将实现精准调度洪水救援 城市红绿灯优化 车道级出行规划等功能 [10] - AI推动卫星系统向"高精度 低延迟 全感知"的产业进化 [10] 世界模型发展 - 世界模型是下一代AI方向 能感知空间 推理关系 执行任务 [13] - 世界模型是支撑空间智能和机器人产业的关键底座 [13] - 应用场景包括森林火灾预警 集装箱智能卸货等复杂物理环境 [13] AIGC内容产业革命 - 使用AI的视频创作者效率是传统创作者的10倍以上 [15] - AI不仅提高效率 更赋予普通人表达的可能 [15] - 一部AI辅助制作的电影仅需数月 未来三万亿美元内容产业将重新洗牌 [15] AI治理与发展 - AI发展的终极命题是治理 如何让AI"不想统治世界"是真正难题 [18] - 中国已在AI国际治理中开始发挥话语权 [18] - AI治理需要全人类共同参与 是未来科技与伦理的核心战场 [18]
全球AI领域科学家相聚总台《2025中国·AI盛典》,在上海共话相AI相生
央视新闻客户端· 2025-07-31 23:02
活动概况 - 活动名称为《2025中国·AI盛典》,主题为“相AI相生”,于7月26日在上海市西岸国际会展中心举行 [1] - 活动汇聚全球顶尖科学家、产业领袖和技术先锋,展现人工智能领域的活力与潜力 [1] - 活动核心环节包括“AI解码时刻”和“2025年度发布”,旨在呈现思想碰撞并彰显中国在AI领域的国际影响力 [1][4] AI人才培养 - 专家探讨AI人才的国际化交流、全球培养、梯次培养与生态多样性 [3] - 周伯文提出AI时代人才培养从专注单一领域的“I型人才”转向兼具专业深度与跨学科广度的“T型人才”和“π型人才” [3] AI治理与安全 - 专家探讨AI技术带来的安全与伦理挑战及治理破局之道 [3] - 郑庆华提出通过技术手段、教育引导、法治规范建设,从“攻”“防”两个渠道平行推进,让人工智能为人类赋能 [3] 人工智能向善 - 专家探讨技术中性背后的社会责任,认为“AI向善”需全球协作、开源共享、伦理先行 [4] - 未来应推动技术标准化、技能普及和跨领域合作,确保AI从诞生之初即承载造福人类的使命 [4] 行业实力展示 - “2025年度发布”环节揭晓10位“2025年度AI人物”,彰显中国AI领域的雄厚实力 [4] - 获奖人物按姓氏笔画排序分别为王兴兴、陈宁、陈维良、张鹏、周靖人、姜大昕、夏立雪、韩璧丞、彭志辉、戴文渊 [4] - 活动以“老中青”三代科学家同台,诠释中国科研事业的薪火相传 [4] 活动影响与传播 - 活动展现了中国AI生态的蓬勃活力,为人工智能发展提供了重要的交流窗口和创新思路 [5] - 盛典将于8月中旬在总台央视综合频道(CCTV-1)、央视频新媒体矩阵播出 [6]
21书评|“数据合作社”应使用什么样的数字货币?
21世纪经济报道· 2025-07-30 19:19
数据作为新生产要素 - 数据已成为与土地 劳动力和金融资本并驾齐驱的核心生产要素[5] - 数据不再只是信息而是推动经济和社会发展的新生产要素[3][4] - 数据垄断导致大量宝贵数据资源被锁在数据孤岛中阻碍经济发展和社会进步[5] 数据共享机制创新 - 通过建立数据合作社创新机制让数据真正服务于社区而非被少数科技巨头垄断[5] - 数据合作社模式可保障隐私前提下共享数据提高数据利用效率并提升社区决策能力[6] - 数据共享理念契合中国推动数据治理和数据要素市场化配置改革的战略目标[6] 分布式经济系统构建 - 未来经济系统需要更强适应性和恢复力从中心化向分布式转型[6] - 分布式系统在医疗数据共享网络和城市创新联盟等领域展现生命力[6] - 基于数据和算法的分布式新型数字货币体系可建立更透明高效的金融体系[7] 数字货币体系发展 - 数字货币提供更便捷透明交易环境彻底改变现有交易方式[7] - 区块链技术可提高交易效率降低交易成本为国际贸易带来新可能性[7] - 数字人民币作为新经济基础设施对建立更公平全球金融秩序拥有广阔前景[7] AI治理与算法伦理 - 算法已成为决策过程核心工具需建立透明负责任的AI系统[8] - 算法设计必须具备公平性和透明性以避免可能的偏见和不公正[8] - AI治理需确保发展以人为本契合中国建立负责任可持续数字经济生态系统的政策目标[8] 数字经济时代转型 - 数字革命将带领进入全新数字时代需平衡效率与公平及隐私保护与数据价值释放[9] - 数据应成为所有人共同财富而非少数人专利每个人可成为数据主人[9] - 著作提供关于经济转型和数字时代社会正义的深刻思考[9]
驯服AI“猛虎”,企业需有治理思维
21世纪经济报道· 2025-07-30 06:52
AI安全与治理 - 诺奖得主辛顿将超级AI比作"养不大的老虎",强调必须训练AI"不想消灭人类",安全投入从"可选项"变为与算力、数据并列的必要生产要素 [1] - 前谷歌CEO施密特呼吁"先立规矩再谈创新",建议企业自行搭建可计算、可审计、可问责的安全标准,将安全市场内部化 [2] - AI治理需构建"差异化责任"体系,通过分级付费机制平衡各方利益,开源生态可能成为打破治理僵局的变量 [2] - 全球AI竞赛焦点正从"算力军备"转向"安全红利",引发产业链上游安全芯片、中游AI安全云平台、下游安全认证三重重构 [2] 商业模式与竞争格局 - "安全即服务"(Safety-as-a-Service)商业模式可将合规成本转化为竞争壁垒,先跑通者将获得优势 [2] - 价值分配机制重塑,提供算法审计服务的企业获得订单溢价,开源策略带来市场份额增长,"安全换市场"模式改写"规模为王"逻辑 [3] - 全球化策略需差异化:欧美市场采用"合规优先",新兴市场采用"技术换规则"路径 [3] - 组织能力重构表现为"人机协同+分布式研发"架构,如AI伦理委员会嵌入产品全流程、众包模式响应合规要求 [3] 技术发展与产业趋势 - AI产业呈现"技术螺旋"(模型+数据+能源复合竞争)与"制度螺旋"(从主权规则到人类共同体治理)交织形态 [4] - OpenAI投资核聚变公司为超算中心提供可持续算力,显示技术螺旋发展趋势 [4] - 由中国牵头的联合国"人工智能能力建设国际合作之友小组"可能催生"数字时代的WTO" [5] - 企业竞争逻辑从零和博弈转向正和创造,需将治理思维嵌入商业基因 [5]
直击WAIC 2025 | 专访德勤TMT行业主管合伙人程中:有效的AI治理范式应从被动向主动转变
每日经济新闻· 2025-07-28 21:49
生成式AI价值挖掘与风险防控 - 生成式AI热潮下企业面临技术狂奔与风险管理的落差,传统框架难以适配新变量[1] - 企业需通过人员权责明确、全生命周期控险合规、技术平台破解黑箱难题三方面协同占据竞争主动[1] - 企业AI化焦点从"是否做"转向"如何做得更好",需优先投资可验证回报的实际案例[1] 企业AI化重构阶段 - AI化重构分为四个阶段:战略愿景(ROI预期落差)、试点探索(价值量化难)、深度嵌入(路径依赖)、财务映射(间接收益难量化)[4] - 财务映射阶段需建立AI投资与财务指标直接关联,但客户满意度等间接收益仍难量化[4] AI架构升级方案 - 轻量化方案采用"轻架构(API封装)、软集成(智能体/RPA协同)、分布式演进(高ROI场景优先)"[5] - 规避技术颠覆风险需保持技术选型灵活性,布局新兴技术并与供应商签订灵活合同[5] AI幻觉与可信框架 - 结构性幻觉(表格/图表/摘要中的数据虚构)风险高于开放式文本幻觉,需优先解决[6] - 可信AI框架通过人工审核、事实核查、留痕学习机制降低幻觉成本,量化指标包括输出准确率、重工人效损失等[6] - 高风险场景(医疗/金融/司法)需采用小模型+专家规则混合架构,对接专属知识库提升可解释性[7] AI智能体战略部署 - 董事会需明确AI智能体为"增强工具",媒体行业应设"AI使用红线"(如敏感内容人工审核)[10] - AI写稿风险包括事实偏差、版权纠纷,建议从低风险场景(资讯/数据稿)逐步拓展[10] AI治理范式 - 有效治理需战略层面明确AI定位、组织层面设立专门治理团队、技术层面采用可解释AI工具、文化层面培养员工素养[11] - 企业需将AI安全视为核心支柱,统一架构整合治理模型,案例显示AI安全投入可减少60%事件响应时间或40%停机时间[12]
东西问丨宋海涛:国际合作为何是人工智能时代“鲜明底色”?
环球网资讯· 2025-07-27 14:35
人工智能全球治理 - 人工智能作为新一轮全球科技革命与产业变革的核心驱动力,正在推动全球生产方式、经济结构和产业模式的深刻变革 [6] - AI治理框架需突破传统技术规制的局限,形成兼顾技术伦理、文明多样性、全球公共产品供给的新型治理范式 [6] - AI治理旨在构建技术向善、伦理治理、全球协作的三维治理体系 [6] - 技术向善相当于人类社会的"宪法",为AI搭建基本体系架构 [6] - 伦理治理关注AI如何符合人类安全和社会伦理的需求 [6] - 全球协作需要建立跨文化伦理框架、包容性治理机制和开源共享机制 [6] 国际合作重要性 - AI技术的演进和适用性提升与标准规范统一相辅相成,有赖于广泛国际合作 [7] - AI是第四次工业革命的核心使能技术,必须在技术、伦理等标准上形成全球广泛认同 [8] - AI最大的特点在于用的人越多就越智能,发展就越快 [8] - 中国具有完善的科技研发体系和制造业全产业链优势,为AI落地提供"全场景实验室" [8] - 中国希望与各国合作推动AI快速发展,帮助欠发达国家降低技术使用门槛与成本 [8] - 中国已举办两届人工智能能力建设培训班,面向全球南方国家 [8] AI全球治理挑战 - 当前AI全球治理呈现"三轨并行"的复杂格局 [10] - 技术霸权范式通过"芯片—算法—数据"三位一体控制体系构建技术"护城河" [10] - 伦理规则范式可能阻碍欧洲AI生态的创新活力与全球竞争力 [10] - 全球南方国家倡导发展权优先范式 [10] - 中国构建技术开源体系,率先发布开源大模型 [10] - 中国倡导标准共建机制和基础设施共享 [10] 文化包容性 - AI全球治理中的"文化包容性"本质上是数字文明时代的技术伦理问题 [11] - 需在算法设计层面避免文化偏见,在治理架构上建立广泛国家参与机制 [11] - 全球语料库中超80%为英语语料,汉语语料占比不足10% [11] - 开源大模型DeepSeek打破西方算力封锁与语料库不足的限制 [11] - 需构建既保持技术开放性又尊重文明多样性的治理路径 [12] 具身智能 - 具身智能作为AI演进的新阶段,其"感知—决策—执行"闭环特性正在重构全球产业分工格局 [14] - 具身智能需整合视觉、触觉、语言等多模态数据,技术复杂度远超传统AI系统 [14] - 完整的具身智能产业链涉及数十个关键环节,技术互补性决定了国际合作的必然性 [16] - 具身智能的文化适配性要求进一步凸显跨文明协作的重要性 [16] - 具身智能的发展需要多学科人才的共创和规模化商业上量 [16]
炉边对话 | 施密特与沈向洋议AI:靠竞争谋发展,靠合作守底线
36氪· 2025-07-26 21:59
人工智能全球竞争与合作 - 前微软执行副总裁沈向洋与前谷歌首席执行官埃里克·施密特在2025世界人工智能大会上探讨AI时代的全球竞争与合作[3] - 两位科技领袖亲历从PC到互联网、云计算再到AI的技术浪潮变迁[5] - AI技术已超越工程和商业范畴 开始影响社会治理、伦理秩序和全球格局[5] AI治理与跨国合作 - AI发展迅速但缺乏明确规则 关键在于由谁通过什么方式设定技术边界[5] - 施密特引用基辛格观点 认为中美AI合作需建立共同目标和信任[6] - 必须通过跨国对话解决AI控制武器、自我复制等关键问题[6] AI价值观与伦理框架 - AI治理最核心问题是价值观 目前尚无彻底让AI"守规矩"的方法[8] - 理想状态是从训练阶段就让AI"根本不会学会做坏事"[8] - 《Genesis》一书提出AI必须置于哲学、伦理和治理框架下才能造福社会[11] 开源与安全平衡 - 施密特主导Android开源战略 认为开放有利于技术进步[9] - 开源模型存在安全隐患 闭源模型由公司管理相对更可控[9] - 基辛格曾强调需在AI发展中平衡技术进步与人类尊严[9]
“知东汇西:中美青年共话未来”在北京启动
中国新闻网· 2025-07-09 09:41
活动概述 - "知东汇西:中美青年共话未来"活动于7月8日在北京启动,25位中美青年代表将前往西安、苏州和上海进行参访与对话交流,并参加"中美未来外交官"夏令营 [1][3] - 活动由中国外文局美洲传播中心(北京周报社)、美国国际学生会议和西交利物浦大学共同主办,西安交通大学协办,旨在推动中美人文交流,增进两国青年相互了解 [4] 活动内容 - 启动仪式上中美青年代表共同演唱中文歌曲《北京欢迎你》和英文歌曲《亲爱的卡洛琳》 [3] - 举行两场主题圆桌论坛,分别围绕"教育合作"与"未来经济"展开,现场嘉宾和青年代表就科技创新、AI治理等话题进行交流 [3] 嘉宾观点 - 中国外文局副局长于运全强调青年应深化对话,坚持开放包容的心态,秉持合作共赢的理念,跨越语言与文化差异 [3] - 美国前驻亚太经济合作组织大使唐伟康分享参与美国国际学生会议的经历,希望青年通过活动成长为未来领导者和倾听者 [3] - "第五届中美学生会议"主席可兰·涅维斯·诺埃尔表示青年能搭建理解的桥梁 [3]