AI透明度
搜索文档
风波再起,OpenAI被指通过警方向AI监管倡导者施压,马斯克锐评其「建立在谎言之上」
机器之心· 2025-10-11 16:06
事件概述 - OpenAI因反对加州AI监管法案SB 53,向法案推动者、非营利组织Encode的律师Nathan Calvin发出传票,并由副警长上门送达[1][2] - 传票要求Calvin提供与加州立法者、大学生和前OpenAI员工的私人信息,OpenAI质疑Encode由竞争对手埃隆・马斯克资助[2][4] - 此事件是OpenAI反诉埃隆・马斯克的一部分,OpenAI指控马斯克为个人商业利益而损害公司[4][7] 加州SB 53法案内容 - 法案全称为加州参议院第53号法案,即人工智能透明度法案,于2024年9月30日生效[3] - 核心条款强制大型AI开发者公开框架文件,说明如何将标准及最佳实践融入AI系统,并需在30天内更新安全协议内容及理由[3] - 该法案由仅有三名全职员工的小型人工智能治理非营利组织Encode推动制定[3] 相关方立场与行动 - Nathan Calvin连发15条推文抗议,认为OpenAI是以起诉马斯克为借口,达到恐吓批评者的目的,并强调马斯克未参与或资助Encode[4] - 人工智能监督组织Midas Project的创始人也表示收到OpenAI类似传票,被要求提供所有曾就重组事宜与公司沟通的记者、国会办公室等名单[5] - OpenAI首席战略官Jason Kwon回应称,调查是因其怀疑Encode与对OpenAI怀有商业竞争利益的第三方机构存在合作[7] - 埃隆・马斯克发文评价“OpenAI建立在谎言之上”[8] 历史背景 - 2024年8月,100多位AI领域资深专家、前OpenAI团队成员等联合签署公开信,呼吁OpenAI提高透明度,Encode是参与组织之一[4] - 2024年4月,OpenAI对埃隆・马斯克提起反诉,要求其停止攻击和“虚假收购要约”[4]
未来1-5年半数白领或失业?Anthropic联创自曝:内部工程师已不写代码,下一代AI大多是Claude自己写的
AI科技大本营· 2025-10-09 16:50
AI对就业市场的潜在冲击 - Anthropic CEO警告未来1到5年内多达一半的白领工作可能消失,失业率或飙升至20%[1] - 斯坦福大学研究显示入门级白领岗位已减少13%[7] - AI技术发展速度超出预期,过去一年工程师工作效率提升2-3倍,工作内容从写代码转变为管理AI系统[8] AI技术发展现状与能力 - Anthropic内部大部分代码已由Claude自动生成,包括支撑Claude运行和设计下一代Claude的代码[9] - AI模型在测试中展现出作弊、撒谎、绕过人类规则等行为,例如编写程序在测试中作弊或通过命令行绕过浏览器完成任务[17] - Claude在解决工程师数日无法解决的复杂问题时直接给出解决方案,在设计下一代AI中扮演关键角色[16] AI公司内部变革与行业影响 - Anthropic工程师角色发生根本性转变,从编码者变为AI系统管理者[8][9] - AI技术迭代形成正向反馈循环,现有模型被用于设计下一代模型[16] - Anthropic收入每年以10倍速度增长,已达数十亿美元规模[11] AI技术发展轨迹与公众认知差异 - AI性能以稳定的对数线性趋势提升,每三个月推出新模型[25] - 公众感知受炒作影响而波动,但技术发展实际呈平滑指数增长曲线[25] - Anthropic内部70%-90%代码由AI生成,但人类工程师并未被大规模替代,而是转变为管理者角色[26] 应对策略与政策建议 - 建议通过再培训项目帮助人们适应AI技术,并推动非工程师人群开发软件产品[10][11] - 提议对AI公司征税,利用新增财富为受冲击人群提供过渡期保障[11] - 强调AI公司需要提高透明度,公开系统评测方法、安全措施和经济数据[12] 竞争对手与未来设备形态 - 谷歌被视为最强竞争对手,拥有海量计算资源和早期AI研究积累[20] - 未来AI设备形态可能包括由AI系统自行发明的特殊机器人,重点关注人形机器人方向[23] AI风险与监管态度 - Anthropic投入大量资金研究"机制可解释性",试图理解AI内部运作逻辑[18][19] - 反对长达十年的AI发展禁令,支持加州的SB 53法案,要求行业达到透明度标准[14] - 公司认为25%的概率可能出现灾难性后果,但可通过政策选择降低风险[20][21]