Workflow
人工智能治理
icon
搜索文档
OpenAI被扒了个底朝天!
华尔街见闻· 2025-06-20 16:55
公司治理演变 - OpenAI从非营利研究实验室系统性转变为营利实体,核心道德与结构支柱被拆除,包括"利润上限"与"非营利监督"机制的瓦解 [1][3] - 最初的"利润上限"模式被逐步掏空,从利润倍数下调到引入"每年自动增长20%"条款,最终计划完全移除上限 [3] - 监督机制从非营利组织完全控制转型为特拉华州公益公司,法律义务变为"平衡股东利益和公共利益",公益承诺可能沦为法律掩护 [3] CEO行为与诚信 - CEO奥特曼存在长期言行不一、操纵信息和规避监督的行为模式,包括在员工非贬低协议、股权持有等问题上公开撒谎或误导 [4][5] - 前董事会成员指控奥特曼通过"隐瞒信息、歪曲事实、甚至直接撒谎"阻碍董事会履职,类似行为模式贯穿其职业生涯 [5][6] - 奥特曼在被董事会解雇后,以罢免董事会成员并安插盟友为条件回归,实现对监督体系的"反噬" [6] 安全与透明度问题 - OpenAI在安全和透明度方面言行不一,公开承诺与内部实践脱节,公司文化呈现"唯快不破"倾向 [7] - 公司承诺将20%计算资源投入安全团队但未兑现,GPT-4o开发中安全测试被要求"快速完成",评估前已计划发布活动 [7] - 公司使用严苛离职协议威胁批评公司的员工,并解雇越级报告安全问题的员工,2023年发生技术细节被盗事件但未及时报告 [7] 利益冲突 - CEO奥特曼建立庞大个人投资网络,与OpenAI业务、技术和战略伙伴关系存在深刻利益冲突 [8][9] - 典型案例包括主导OpenAI从Helion购买能源(奥特曼为Helion董事长)、OpenAI与Worldcoin合作(奥特曼为联合创始人)、Humane依赖OpenAI模型(奥特曼为最大股东) [11] - 这些关系严重侵蚀CEO信托责任,决策可能优先考虑个人财富增长而非公司使命 [9]
《向未成年人提供生成式人工智能服务安全指引》发布,君同参与守护未成年人AI安全
搜狐财经· 2025-06-16 19:21
《向未成年人提供生成式人工智能服务安全指引》发布 - 《指引》由中国网络空间安全协会牵头,联合60家单位编写,旨在为未成年人提供生成式人工智能服务的安全保障 [1] - 《指引》以"最有利于未成年人"为核心原则,构建"安全可控、权责清晰、协同共治"的治理框架 [2] - 《指引》贯穿生成式人工智能服务全生命周期,覆盖训练数据合规性审查、模型开发安全设计、场景应用风险管控等关键环节 [2] 君同未来参与及贡献 - 君同未来深度参与《指引》制定,与阿里巴巴、腾讯、百度等互联网大厂共同贡献专业智识 [1] - 公司聚焦人工智能可信算法核心赛道,自主研发全链路算法治理框架,构建全生命周期治理体系 [1] - 在未成年人保护场景中,公司融合多模态内容识别技术与青少年认知发展模型,提供全周期可信治理能力 [1] 行业标准与治理实践 - 《指引》创新提出"主体责任+社会共治"协同模式,鼓励产学研多方联动推进适龄化产品研发与AI素养教育 [2] - 君同未来已主导或参与20余项国家及行业级标准的研制工作,推动人工智能产业规范化高质量发展 [3] - 《指引》在附录中细化生成内容审核、未成年人模式搭建等实操指南,为行业提供可落地的治理标准 [2]
985,成立重磅研究院!
搜狐财经· 2025-06-11 20:56
人工智能治理研究院成立 - 中国人民大学人工智能治理研究院正式成立,由校长林尚立、姜伟、王利明、王海峰、刘玮共同宣布 [1][3] - 研究院成立大会同期举办首届人工智能治理学术研讨会,汇聚多方力量探讨治理议题 [1] 研究院核心研究方向 - 林尚立强调需构建以人为本、安全可信、包容普惠的人工智能治理体系,平衡技术创新与伦理约束、效率与公平、本土化与全球化 [2] - 姜伟提出研究院四大目标:产出国际影响力学术成果、建构中国自主治理知识体系、服务国家战略需求、发挥法治功能保障安全 [2] - 百度首席技术官王海峰期待通过产学研协同,共建平台生态与复合人才,推动中国特色人工智能发展路径 [2] 参与方背景与角色 - 参与机构包括中国人民大学、最高人民法院咨询委员会、中国法学会、百度及深度学习技术国家工程研究中心 [1][2] - 核心人物涵盖法学界(姜伟、王利明)、高校(林尚立)、企业技术专家(王海峰)及研究院负责人(刘玮) [1][2][3]
中国国家互联网信息办公室副主任王京涛应约会见韩国个人信息保护委员会副委员长崔壮赫
快讯· 2025-05-28 21:27
中韩数据治理合作 - 中国国家互联网信息办公室副主任王京涛会见韩国个人信息保护委员会副委员长崔壮赫 [1] - 双方讨论重点包括个人信息保护、数据跨境流动和人工智能治理三大议题 [1] - 此次会晤标志着中韩在数字经济领域加强政策协调的意向 [1]
王京涛会见巴西公共管理与创新部常务副部长,围绕网络安全、人工智能治理等深入交流
快讯· 2025-05-23 20:54
中巴网络安全与人工智能治理会谈 - 中国国家互联网信息办公室副主任王京涛会见巴西公共管理与创新部常务副部长克里斯蒂娜·莫里 [1] - 双方围绕网络安全议题进行深入交流 [1] - 人工智能治理成为会谈重点讨论领域 [1]
张晓:中西文明互鉴,共创人工智能治理新范式
环球网资讯· 2025-05-16 08:03
东西方哲学思想在人工智能治理中的融合 - 西方理性主义为人工智能治理奠定方法论基础 强调分析性与系统性的思维方式 欧盟《人工智能法案》将技术透明性原则写入法律条文 [1] - 中华文明整体观为技术发展注入生态智慧 中国《新一代人工智能伦理规范》提出"生态优先"原则 杭州"城市大脑"项目实现拥堵指数下降15% 能源消耗降低12% [2] - 两种认知范式形成互补 西方分析性思维拆解技术黑箱 东方整体性视角把握生态脉络 融合创造理解人工智能的新维度 [2] 人工智能治理范式的协同进化 - 西方权利本位治理体系构建数据隐私保护法律屏障 欧盟GDPR确立被遗忘权 可携带权等新型权利 算法歧视审查机制 [3] - 东方责任伦理开创技术治理新境界 中国《生成式人工智能服务管理暂行办法》首创算法备案与伦理审查联动机制 深圳成立"人工智能伦理委员会" [3] - 权利保障与责任共担辩证统一 欧盟《人工智能法案》引入"高风险系统"分级制度 中国推行"政府-企业-公众"协同治理模式 [4] 技术创新与人文关怀的平衡实践 - 数据治理领域西方发展知情同意原则 GDPR构筑隐私防线 东方发展场景化数据利用模式 中国《个人信息保护法》创设"单独同意"制度 [4] - 算法治理层面西方推动可解释AI技术攻关 欧盟要求高风险系统提供决策解释 中国倡导技术应用场景化评估 持续迭代优化算法伦理 [4] 全球人工智能治理的文明互鉴 - 联合国教科文组织《人工智能伦理建议书》吸收各国文明成果 "以人为本"原则融合东西方哲学智慧 [5] - 中国"数字包容"理念在非洲农村实践 接入北斗导航系统播撒智慧种子 [5] - 人工智能治理本质是价值观选择 西方理性主义与东方生态智慧结合 创造超越文明界限的治理智慧 [6]
张欣:如何牢牢掌握AI治理主动权
环球网资讯· 2025-04-28 07:16
人工智能的战略地位 - 人工智能正深刻重塑人类社会的生产生活方式与国际竞争格局,具有颠覆性力量 [1] - 中共中央总书记习近平指出人工智能带来前所未有发展机遇和风险挑战,为行业发展提供根本遵循 [1] - 人工智能是发展新质生产力、推动高质量发展的新动能,助力中国式现代化建设 [2] 行业发展优势与机遇 - 中国拥有海量数据资源、完备产业体系、广阔应用场景和巨大市场空间,为人工智能技术迭代创新提供独特优势 [2] - 人工智能可赋能千行百业、优化社会治理、改善民生福祉、加速科研突破,应用前景无限广阔 [2] - 推动人工智能与实体经济深度融合,能赋能传统产业转型升级并催生新产业新业态新模式 [2] 技术治理框架 - 需构建覆盖法律法规、政策制度、应用规范、伦理准则的治理体系,实现技术监测、风险预警、应急响应 [3] - 中国已建立算法备案制度,对深度合成、生成式人工智能等服务实施动态追踪管理 [4] - 采用分级分类监管框架,根据不同场景风险等级实施差异化应急处置策略 [4] - 探索"软硬法协同"治理模式,释放多元化治理效能 [4] 技术发展核心原则 - "安全"是底线要求,需防范技术缺陷和外部滥用风险,保障个人及国家安全 [3] - "可靠"是稳定保障,确保系统在关键领域能持续可信运行 [3] - "可控"是主导前提,要求人类始终保持对技术研发部署的主导权 [3] 国际竞争态势 - 个别西方国家将科技问题政治化,实施技术封锁和"小院高墙"策略,加剧全球人工智能领域不确定性 [2] - 中国治理经验为全球应对人工智能挑战提供可借鉴的制度工具箱 [4]