Workflow
安全AI
icon
搜索文档
当 AI 进入战场:Anthropic 与五角大楼的正面冲突,以及无人承担的道德代价|声东击西
声动活泼· 2026-03-13 18:08
事件背景与核心冲突 - 硅谷AI公司与美国国防部因一份价值约2亿美元的军事合同产生冲突,争议核心是AI技术在军事应用中的伦理边界与使用权限 [2] - 冲突一方是强调“安全AI”的Anthropic公司,另一方是拥有全球最强军事机器的美国五角大楼 [2] - 事件揭示了AI已成为战争基础设施后,关于“谁有权决定它能做什么、不能做什么”的根本性争议 [2] Anthropic与五角大楼合作及冲突升级过程 - **合作起始**:Anthropic与五角大楼的合作始于2023年左右,其Claude模型于2025年7月成为首个进入美国军事机密系统的大语言模型,合同价值约2亿美元 [4] - **技术整合与应用**:Claude通过整合进Palantir的Maven智能系统,为军方提供视频分析、情报整合、作战规划等支持,在美对伊朗军事行动中用于实时分析战场数据,据称若纯靠人工分析需要约800万名工程师 [4] - **冲突导火索**:2026年1月3日,美国特种部队在委内瑞拉执行逮捕总统马杜罗的突袭行动,该行动由Maven系统进行规划分析,Anthropic对自身技术被用于此次行动表示不满,导致军方对其“忠诚度”产生质疑 [7] - **争议核心**:国防部要求修改合同,移除所有限制,允许“所有合法用途”,但Anthropic坚守两条红线:1) 禁止将技术用于大规模国内监控;2) 禁止用于完全自主的致命武器 [8] - **冲突升级**:2025年2月底,特朗普政府将Anthropic列为“供应链风险”,并下令联邦机构停止使用其技术,Anthropic就此提起法律诉讼 [8] 行业竞争格局与市场反应 - **竞标情况**:在五角大楼的竞标中,Google、OpenAI、xAI均参与,但最终只有Claude进入了机密级别 [4] - **竞争对手介入**:在五角大楼宣布封禁Anthropic后数小时,OpenAI宣布与五角大楼签约,引发舆论哗然,加剧了Anthropic与OpenAI之间长期的创始恩怨与竞争关系 [9] - **市场反应**:冲突事件导致Anthropic的Claude应用在全球20多个国家的苹果App下载榜登顶,形成了一波声援式的营销效果 [9] - **公司立场差异**:OpenAI虽接下政府订单,合同写明“可用于合法目的”,但Sam Altman也公开表示其同样设有红线,禁止用于大规模国内监控和致命自主武器 [9] - **政治倾向影响**:在硅谷右翼看来,Anthropic被视为“觉醒派”,而OpenAI和xAI被视为“自己人”,这影响了政府订单的流向,有消息称OpenAI总裁Greg Brockman曾向特朗普的超级政治行动委员会捐款2500万美元 [10] AI在军事领域的应用现状与影响 - **军事工作流AI化**:AI已能辅助完成军事“杀伤链”(F2T2EA)中除“执行打击”外的几乎所有环节,包括发现、确认、跟踪、确定攻击目标优先级及战损评估,让战争变得更快 [11][12] - **应用案例**:Palantir在伊拉克战争中利用视频识别技术快速识别路边炸弹放置者,大幅减少了美军伤亡,体现了AI在军事中“一体两面”的性质 [12] - **以色列“薰衣草”系统**:以色列国防军使用AI系统“薰衣草”分析加沙约230万居民的数据,判断其“是哈马斯成员的概率”,系统依赖社交媒体、手机信号等数据,存在因数据偏见和关联错误(如手机转手、昵称相似)而误判的风险 [13] - **决策流程与道德滑坡**:AI系统使决策流程急剧加速,以色列军方对“薰衣草”系统标记的目标仅进行约20秒的性别核查,配套的“爸爸在哪”系统倾向于在凌晨打击目标住宅,并使用杀伤范围更广的非制导炸弹 [14] - **道德阈值变化**:随着AI系统运转,可接受的平民附带伤亡阈值不断降低,从最初个位数,到伊拉克战争时约20多人,再到以色列这场战争为杀死一名高级官员而允许杀死100名平民,导致了“道德的不断滑坡” [14][15] 行业伦理、监管与未来挑战 - **科技公司的伦理困境**:科技公司(如Anthropic)试图通过自身伦理标准(如设定使用红线)来影响政府如何使用其技术,这引发了关于科技公司是否有权左右政府战争决策的争议 [16] - **监管与法律空白**:针对“自主杀伤性武器”等AI军事应用,国际社会(如联合国自2018年讨论)及各国国内立法均处于非常空白的状态,缺乏有效的问责机制和国际条约 [20] - **技术国有化的风险**:如果AI技术被完全垄断国有化,可能被用于操纵信息、监控全民和优化战争,从而走向暴政,因此保持行业多元化竞争被认为是必要的 [19] - **技术的民用与军用天平**:硅谷技术(如互联网前身阿帕网、GPS)最初多源于军事,后逐渐转向民用,但目前国家间摩擦加剧,“黑暗森林”逻辑回归,天平正从和平方向摆回 [18] - **AI的隐形基础设施化**:AI已潜移默化地变成战争和社会的背景基础设施,其影响边界模糊,不像原子弹那样具有实体和可见的作用范围 [20]
滴滴启动国庆中秋安全保障 AI助力全流程守护
格隆汇· 2025-09-28 13:11
假期安全保障部署 - 公司在主管部门指导下全面部署假期安保工作,完成风险排查、组织应急演练并升级技术体系 [1] - 各业务线、区域及安全团队结合节假日特点加强全天候值班部署,并针对台风等极端天气制定风险防范方案 [11] - 平台通过分析出行热区、实时动态研判、多种激励措施引导司机出车,并在交通枢纽、景区等区域加强车辆调度 [11] 技术驱动安全体系建设 - 公司应用大数据和AI技术升级安全体系,实现从风险识别到及时干预的订单全过程实时关注,安全客服与专家提供7×24小时服务 [4] - 研发安全AI模型平台,借助多模态风险研判大模型和信号融合异常识别技术,针对不同风险场景进行分级提醒与干预 [6] - 基于桔视的智能识别模型日均提示司机环境风险约1000万次,通过车联网技术向附近车辆实时提示风险 [6] - 系统智能识别驾驶安全隐患,日均阻断疲劳驾驶隐患1300余单,识别并提醒分心驾驶5000余单 [6] 用户服务与体验优化 - 平台提供多种引导工具如滴滴车站、上车点实景图、图文指引和AR导航,以帮助司乘快速会合 [11] - 车费卫士服务通过拦截、退还、赔偿三项功能保障用户车费无忧,应对未坐车收费、未及时结束订单等异常情况 [11] - 在全国超200个城市上线秋季及假期专属优惠活动,天天打车5折起,同时向司机端发放超4亿元司机奖励 [15] 司乘行为引导与协作 - 平台恳请司乘双方相互尊重、文明沟通,建议司机避免急躁、超速和疲劳驾驶,建议乘客尊重司机劳动并协助保持车内整洁 [11] - 建议乘客上车前核对车辆和司机信息,系好安全带,开启录音录像保护,并设置"亲友守护"功能分享行程 [15] - 平台鼓励用户反馈个性化安全需求,如设置"亲友守护"、报备醉酒乘车信息或选择无障碍等精准服务 [8] 账号安全与风险防范 - 平台将账号安全作为重点,识别到异常登录行为时自动启动安全防护机制并进行多重验证 [12] - 平台提醒用户切勿泄漏验证码,避免线下交易以防脱离平台保障,遭遇价格欺诈或人身安全风险 [12]
出行量上升 滴滴发布国庆假期安全提醒
央广网· 2025-09-28 11:19
假期安全保障部署 - 公司在主管部门指导下全面部署假期安保工作,完成风险排查、组织应急演练并升级技术体系 [1] - 各业务线、区域及安全、客服、应急办等团队结合节假日特点加强全天候值班部署,并针对台风等极端天气制定风险防范方案 [14] - 平台与警方紧密协作,以保障紧急情况下用户的安全与合法权益 [14] 技术体系与AI应用 - 安全体系借助大数据和AI技术进行升级,实现从风险识别、分析研判、预警到干预的订单全过程实时关注 [3] - 安全客服和安全专家提供7×24小时在线服务,以应对各类安全需求 [3] - 公司研发安全AI模型平台,利用多模态风险研判大模型和信号融合异常识别技术,针对不同风险场景和行为进行分级提醒与干预 [5] - 基于桔视的智能识别模型日均向司机提示环境风险约1000万次,并通过车联网技术向附近车辆实时提示风险 [5] - 系统智能识别驾驶安全隐患,日均阻断疲劳驾驶隐患1300余单,识别并提醒分心驾驶5000余单 [5] 司乘体验与纠纷处理 - 平台分析出行热区并实时动态研判,通过激励措施引导司机出车,并在交通枢纽、景区等区域进行车辆调度 [14] - 采用滴滴车站、上车点实景图、图文指引、AR导航等方式引导司乘快速会面 [14] - 车费卫士服务为用户在未坐车收费、未及时结束订单等场景下的车费异常问题提供拦截、退还和赔偿三项功能保障 [14] - 呼吁司乘双方相互尊重、文明沟通,司机应避免急躁、超速和疲劳驾驶,乘客应尊重司机劳动并协助保持车内整洁 [14] 账号安全与风险防范 - 平台重点守护账号安全,识别到异常登录行为时将自动启动安全防护机制并进行多重登录验证 [15] - 平台提醒用户切勿泄漏验证码,如账号出现异常登录将第一时间发送预警信息,并避免进行脱离平台的线下交易 [15] 假期供需平衡与激励措施 - 为平衡供需,公司在超200个城市上线秋季及“十一”假期专属优惠活动,提供天天打车5折起的优惠 [16] - 在司机端发放超4亿元司机奖励,并举办司机家宴、送月饼等关怀活动 [16] - 提示乘客上车前核对车辆和司机信息,系好安全带,建议开启录音录像保护并设置“亲友守护”分享行程 [16] - 建议司机师傅规律作息,平稳驾驶 [16] 安全生态共建与挑战 - 出行场景生态复杂,安全治理面临信息少、识别难、研判和干预难度大等挑战,同时需兼顾司乘体验 [13] - 平台在夯实通用安全体系的同时,鼓励用户反馈以定制更适合自身的安全功能,如个性化设置“亲友守护”、报备醉酒乘车信息、选择无障碍或宠物出行等服务 [13]