Artificial Intelligence Governance
搜索文档
Alphabet investors push for safeguards on use of its cloud, AI tech
Reuters· 2026-04-29 23:23
事件核心 - 一群Alphabet股东要求公司就政府使用其云和AI技术进行监控的治理和控制措施进行解释,此前公司拒绝了要求加强披露的股东提案[1] - 股东群体由42家机构和14名个人组成,管理资产总额达1.15万亿美元,持有Alphabet股份价值约22亿美元[2][3] - Alphabet认为其现有的数据隐私和安全框架已足够,并称额外报告是重复且低效的资源使用[4] 股东诉求与担忧 - 股东要求与公司管理层会面,以了解Alphabet如何评估和减轻其技术与服务被滥用的风险[5] - 股东特别关注公司如何确保政府合同赋予其干预或取消协议的权利,以防风险升级[5] - 担忧源于Alphabet在2025年修订其AI原则时,移除了“限制特定武器和监控应用的明确措辞”,这增加了合同保障和董事会监督的重要性[9] - 具体担忧案例包括:向美国移民当局提供服务、参与价值12亿美元的以色列“Nimbus项目”云计算合同,以及在沙特的运营[7] 公司回应与现状 - Alphabet在敦促股东否决相关提案时表示,其拥有“强大、多层次的数据隐私和安全框架”,且现有披露“已就政府数据访问提供了有意义的透明度”[4] - 公司拒绝与提出诉求的投资者进行接触,被投资者代表描述为“非常令人不安”[10] - 去年一项要求公司披露人权尽职调查数据的提案,获得了约11.9%的独立股东投票支持,但由于内部人士(如创始人)的投票权,总得票率仅为4.5%[6] 行业背景 - 此次事件是投资者在微软、亚马逊和苹果等公司中,更广泛地推动数据隐私和人工智能治理的一部分[5] - 背景是云和AI服务日益融入政府和军事行动[5] - 美国国防部AI负责人确认将扩大使用谷歌的Gemini AI模型[9] 潜在影响 - 技术滥用可能使Alphabet面临诉讼、监管行动或高额罚款,包括根据欧洲《通用数据保护条例》最高可达营收4%的处罚[10]
瞭望 | 上海设立人工智能安全护栏
新华社· 2025-07-07 16:21
政策创新与制度建设 - 《上海市促进人工智能产业发展条例》设立"激发创新活力"条款,为探索阶段的新业态提供制度试错空间 [1][3] - 条例设立轻微违法行为免罚清单,解决科研人员边界不明确问题 [3] - 上海相继出台《推动人工智能大模型创新发展若干措施》等配套政策,2023年国务院要求建立AI伦理道德和治理框架 [3] 企业治理实践 - 商汤科技发布SenseTrust治理平台,数据有毒检测率超95%,偏见识别和对抗样本检出率达98% [7] - MiniMax采用线性注意力机制混合MoE架构降低幻觉率,研发安全审核模型进行内容过滤 [8] - 腾讯、蚂蚁集团成立AI伦理委员会,百度构建可信AI技术体系参与全球规则对话 [1][8] 技术治理进展 - 截至2025年6月上海完成82款大模型备案和95款生成式AI应用登记 [5] - 微软亚洲研究院开发"价值观罗盘",将人类伦理转化为机器参数 [9] - 行业提出"AI治理AI"模式,利用技术能力赋能治理工具研发 [9] 人才培养机制 - 上海交通大学开设"人工智能治理与法律"微专业 [10] - 复旦大学联合多校建设"AI+X"微专业项目,培养跨学科人才 [10] - AI企业同时具备技术和社会科学背景的治理人才占比不足 [9] 行业认知与挑战 - 人工智能治理适用"木桶原理",需政策、技术、伦理三位一体 [1][10] - 现有治理手段对多模态模型和AGI存在适配性不足风险 [9] - 价值观对齐和算法公平性等领域缺乏复合型人才 [9]
中国人民大学成立人工智能治理研究院
中国新闻网· 2025-06-09 18:48
人工智能治理研究院成立 - 中国人民大学成立人工智能治理研究院,旨在构建以人为本、安全可信、包容普惠的人工智能治理体系 [1] - 研究院聚焦技术创新与伦理约束、效率追求与公平保障、本土化实践与全球化协作的动态平衡 [1] - 研究院由校方领导、法学专家及百度首席技术官王海峰共同揭牌成立 [1] 研究院发展愿景与活动 - 研究院发布标识及"汇聚、创新、向善"三大核心理念,强调学科交叉与文理交融的平台特征 [3] - 主论坛探讨人工智能治理挑战、伦理风险及人机关系变革路径 [3] - 研讨会设置6个平行分论坛和研究生论坛,覆盖学者与学生群体的跨学科交流 [3]