行业AI安全与监管争议 - OpenAI CEO Sam Altman警告AI发展可能走向两种“非常糟糕”的方向:一是人类可能失去对未来的控制,二是权力过度集中导致反乌托邦结果[1][2] - 中国外交部发言人郭嘉昆将美国公司的警告称为“恐惧宣传”和“冷战”策略,认为这只会破坏全球AI治理进程[4] - 中国官方媒体《环球时报》将要求中国放缓AI发展的呼吁比作“冷战”策略[4] - 中国国家主席习近平在新德里峰会上表示,中国将在促进发展中国家间全球AI合作方面发挥引领作用[6] - 美国总统特朗普对AI安全担忧不以为然,称这些预测“不会发生”,并称美国在AI竞赛中领先中国[6] 行业AI安全倡议与内部争议 - Altman与竞争对手Elon Musk支持Anthropic CEO Dario Amodei的公开信,呼吁全球公司放缓顶级AI模型开发[2] - Anthropic研究员Jacob Coxon辞职并警告,Anthropic和OpenAI等公司“拿我们的生命赌博”,AI“可能在本十年末杀死我们所有人”[3] - Altman提出全球AI安全措施具体建议,包括联邦法规和独立审计员,称“每个前沿实验室都必须实现这一点”[10] - Altman强调“当我们谈论‘节奏’时,我们不是指‘停止’”,但进展应比原本可能的速度更慢[11] - Anthropic CEO Amodei讨论递归自我改进(RSI)风险,即AI模型变得足够聪明以独立发展,可能超出人类理解和控制能力[12][13] 行业公司财务与市场影响 - 全球科技股周一暴跌,投资者担忧公司在AI领域投入过多资金,若被迫放缓开发将导致利润下滑[7] - 美股Nvidia下跌3.7%,AMD下跌5.2%,SpaceX下跌1.4%,Amazon下跌2%[7] - 欧洲股ASML下跌5.6%,Infineon下跌6.5%,Siemens Energy下跌7.3%[7] - 亚洲股SoftBank暴跌13.5%,TSMC下跌2.4%,SK Hynix下跌6.3%[7] - Anthropic和OpenAI原计划最早今年秋季进行大规模股票市场首次公开募股,但Altman表示OpenAI因安全问题不会在2026年上市[12] 行业全球合作挑战与建议 - Amodei提出三步计划,不牺牲“商业优势或美国在AI领域的领先地位”,要求顶级AI公司向外部评估员提供“类似员工的访问权限”[13] - Amodei承认全球合作可能是最大问题,因为“超越对手的动机和由此获得的军事优势如此之大”,不确定是否可能实现但应尝试[14] - Altman表示政府干预对确保全球AI和科技公司国际合作至关重要,但这可能是一个严峻挑战[11]