AI风险
搜索文档
对“AI惹祸”投保?保险公司“不敢接”
华尔街见闻· 2025-11-24 09:19
行业核心观点 - 全球主要保险公司正采取行动 试图将人工智能相关风险排除在标准企业保单之外 标志着保险业对AI风险态度的重大转变 [1] - 保险公司撤退的核心原因在于AI风险的不可预测性和潜在的巨大规模 特别是对系统性、聚合性风险的担忧 [2] - 面对市场需求 部分保险公司正在探索折中方案 但提供的保障往往范围狭窄且限制严格 [4] 保险公司具体行动 - 美国国际集团、Great American和WR Berkley等行业巨头已向美国监管机构提交申请 寻求批准其在保单中加入免责条款 明确排除因企业部署聊天机器人、AI代理等工具而引发的各类责任 [1] - WR Berkley提出的免责条款范围极广 旨在排除涉及"任何实际或声称使用"AI技术所引发的索赔 [2] - AIG向监管机构表示 生成式AI是一项"范围广泛的技术" 未来导致索赔的可能性可能会随着时间的推移而增加 [2] AI风险特性与行业担忧 - 保险公司普遍担心AI模型的决策过程不透明 如同一个"黑箱" 一旦出错责任难以界定 [1][2] - 单一AI模型的缺陷可能导致成千上万起关联索赔 形成行业无法承受的系统性风险 例如一个AI提供商的错误可能导致1000或10000起损失 [1][2] - AI风险涉及开发者、模型构建者和终端用户等多方 责任链条复杂 其潜在市场影响可能是指数级的 [2] 现实风险案例 - 加拿大航空的聊天机器人杜撰折扣被判赔付 [1] - 谷歌的AI搜索功能因提供错误信息而被索赔1.1亿美元 [1] - 英国工程集团Arup因欺诈者使用高管的数字克隆版本在视频会议中下令转账 损失了2500万美元 [3] 市场变通方案 - 保险公司QBE推出了一项针对欧盟《人工智能法案》相关罚款的背书 但将AI相关罚款的赔付上限限制在总保额的2.5% [4] - Chubb同意承保某些AI风险 但明确排除了"广泛性"AI事件 即一个模型问题同时影响多个客户的情况 [4] - 有法律专家警告 当AI驱动的损失大幅增加时 保险公司可能会开始在法庭上对索赔提出异议 [4]
张亚勤院士:AI五大新趋势,物理智能快速演进,2035年机器人数量或比人多
机器人圈· 2025-10-20 17:16
AI产业规模与代际演进 - 人工智能时代产业规模预计将比前一代(移动互联时代)至少大100倍[5] - 移动互联时代产业规模比PC互联时代至少大10倍[5] AI技术发展的五大新趋势 - 趋势一:AI技术从鉴别式、生成式走向智能体AI,过去7个月智能体AI任务长度翻倍且准确度超过50%[7] - 趋势二:预训练阶段规模定律放缓,更多工作转移至训练后阶段如推理和智能体应用,前沿模型智力上限仍在提升但迭代速度放缓[7] - 趋势三:物理智能和生物智能快速发展,VLA模型推动智能驾驶规模化落地,预计2030年10%车辆将具备L4功能[7] - 趋势四:AI风险快速上升,智能体出现使AI风险至少增加一倍[8] - 趋势五:AI产业新格局形成,呈现基础大模型+垂直模型+边缘模型架构,后两者未来发展空间更大[8] 大模型发展格局预测 - 预计2026年全球基础大模型约8-10个,中国占3-4个,美国占3-4个[8] - 中国大模型发展具独特性,表现为更快算法、更高效率、更低价格[8] - 未来开源模型将成为主流,开源与闭源模型比例预计为4:1[8] 成本与算力动态 - 过去一年推理成本降低10倍,但智能体复杂性使算力需求上涨10倍,形成乘数效应[7] 长期产业机遇 - 新一代人工智能是原子、分子和比特融合,是信息智能、物理智能和生物智能融合[3] - 具身智能快速爆发,预计2035年机器人数量有望超过人类[8]
专家:2035年机器人数量或比人多
21世纪经济报道· 2025-10-04 13:41
AI产业规模与代际演进 - 新一代人工智能是原子、分子和比特的融合,是信息智能、物理智能和生物智能的融合 [1] - 移动互联时代产业规模比PC互联时代至少大10倍,人工智能时代产业规模将比前一代至少大100倍 [1] AI产业发展五大新趋势 - 第一大趋势是从鉴别式AI到生成式AI,并走向智能体AI,过去7个月智能体AI的任务长度翻倍、准确度超过50% [3] - 第二大趋势是预训练阶段的规模定律(Scaling Law)放缓,更多工作转移至训练后阶段如推理和智能体应用,推理成本降低10倍,但智能体复杂性使算力上涨10倍 [3] - 第三大趋势是物理智能和生物智能快速发展,如VLA模型规模化落地智能驾驶,预计2030年10%的车辆将具备L4功能 [3] - 第四大趋势是AI风险快速上升,智能体出现后让AI风险至少增加一倍 [4] - 第五大趋势是AI呈现新的产业格局,形成基础大模型+垂直模型+边缘模型局面,未来更大发展在于垂直模型和边缘模型 [4] AI模型产业格局与预测 - 预计2026年全球基础大模型约有8至10个,其中中国有3至4个,美国有3至4个 [4] - 中国在发展大模型方面呈现独特性,表现为更快的算法、更高效率、更低的价格 [4] - 未来开源模型将成为主流,开源与闭源模型之间的比例预计约为4:1 [4] 具身智能发展预测 - 具身智能将快速爆发,预计到2035年机器人数量有望超过人类数量 [4]
AI大家说 | 我们是否需要重新定义与AI的边界?
红杉汇· 2025-06-08 15:36
AI功能演进 - AI从"工具箱"转变为"工作搭子",实现全天候互动[5] - 行业指标从DAU转向DPU,用户注意力争夺成为关键[6] - AI产品形态从效率工具升级为生活接口,进入陪伴阶段[6] - 物理智能体加速崛起,自动驾驶等应用进入商业化运营[6] - 2025年将成为Agent元年,AI进化为新型数字劳动力[6] 行业渗透现状 - AI在农业领域实现无农药除草,通过计算机视觉替代人工[6] - 金融/医疗/制造/零售行业正用AI重构业务流程[6] - 企业AI应用目标扩展至岗位自动化/客户互动优化/新营收探索[6] 技术边界突破 - AI推理能力进步显著且持续加速,错误率快速下降[9] - 人类能力不存在不可复制性,AI可模拟认知行为层面的情感[10] - 专用AI将呈现差异化发展,类似工业时代专业化机器[13] - 小数据AI模型兴起,打破大公司数据垄断格局[14] 社会应用挑战 - AI创新落地需重构工作流程与协作方式,渗透速度慢于技术发展[15] - 社会消化AI变革需较长时间,涉及生活模式重组[14] - 国际协作成为必要,需建立AI设计/部署/使用的全球标准[19] 未来潜力展望 - AI可能实现治愈所有疾病/开发新能源等突破[18] - 技术乐观场景包括星际旅行与人类最大繁荣[19] - RLHF等微调技术已证明AI实用化比预期更容易[20]