行业文化与发展模式 - 术语“YOLO”在AI行业中被重新使用 用以描述一种鲁莽、不计风险、凭直觉快速推进的发展模式 [1] - Anthropic公司CEO批评部分竞争对手 如OpenAI和Meta 在开发AI模型时“YOLO”行事 将风险拨盘推得过远 而Anthropic自身则力求负责任地管理增长 [2] - Meta的研究人员将“yolo runs”描述为一种本能的心流状态 研究人员在此状态下会抛开谨慎 直接实施雄心勃勃的新模型 而不对各个组件进行广泛的风险排除 并主要依靠直觉来设定超参数值、决定模型的关键部分以及预测潜在问题 [3][4] - 哈佛大学教授指出 “YOLO模式”由创始人和风险投资家驱动 他们快速尝试任何想法 如果公司倒闭就转向下一家初创公司 如果成功则兑现收益 [5] 行业竞争与资本投入 - AI行业竞争激烈 每当竞争对手推出成功的新模型 科技巨头就会向团队发出“红色警报” [7] - 资本正在大量涌入 亚马逊、谷歌、Meta和微软本季度在AI芯片、服务器和数据中心上的资本支出均创下纪录 [7] - AI支出的规模推动标普500指数和纳斯达克指数在最近几周创下历史新高 [7] 潜在风险与担忧 - “YOLO”文化的兴起凸显了AI行业全力竞相构建更大更智能模型的竞赛 与呼吁谨慎的注重安全的声音之间日益紧张的关系 [6] - 有警告称这种“YOLO”文化忽视了AI的潜在威胁 包括恶意行为者的滥用和AI模型非预期的行为 [8] - AI“教父”Geoffrey Hinton指出 AI的快速发展可能引发大规模失业、加剧不平等 甚至改变人际关系的本质 [8] - AlphaSense的分析发现 有418家市值超过10亿美元的上市公司在提交给美国证券交易委员会的报告中将AI列为对其声誉和安全的威胁 [9] - 许多公司在急于提高生产力的过程中 迟迟未设立AI伦理官员和治理专家 [9]