Workflow
通用人工智能(AGI)
icon
搜索文档
谷歌DeepMind CEO谈AGI愿景:十年内成为现实,因安全问题彻夜难眠
36氪· 2025-04-28 19:06
AGI发展前景与挑战 - 谷歌DeepMind CEO哈萨比斯预测通用人工智能(AGI)可能在未来十年内实现 其团队Gemini模型已具备订票、购物、操控机器人等现实世界行动能力 [1][3] - AGI若发展得当可帮助攻克疾病、能源危机等重大挑战 但存在被滥用为生物武器或脱离人类控制的风险 [1][5] - 哈萨比斯提出以"AI能否凭借爱因斯坦同等信息量提出广义相对论"作为AGI测试标准 强调解决数学问题与提出有价值猜想存在本质差异 [3][12] 技术实现路径 - 谷歌DeepMind重点投入多模态AI研发 认为真正的智能需建立在对时空世界的理解基础上 该方向可提升语言模型性能并支撑通用数字助理和机器人技术 [15][16] - 当前AI系统在编程辅助工具领域进展显著 但在科学假设提出和操作系统架构设计方面仍落后顶尖人类专家 预计需数年突破 [14] - 边缘计算和小型化模型将成为隐私保护的关键 公司正开发可单设备运行的模型以保障用户数据安全 [18] 行业竞争格局 - 行业对AGI实现时间存在分歧 OpenAI CEO阿尔特曼预测2026年 哈萨比斯认为定义差异导致判断偏差 部分机构为融资目的放宽标准 [3][12] - Anthropic公司聚焦编程辅助工具研发 而谷歌DeepMind更侧重科学领域研究 体现不同技术路线 [14] - 信号基金会批评AGI需以用户数据交换为代价 公司回应将建立加密和权限控制系统保障隐私 [16][18] 社会经济影响 - AGI可能引发劳动力市场重大变革 单调工作将被替代 同时催生智能体管理等新型岗位 需经济学家加强相关研究 [19][20] - 能源技术突破或带来"极度富足"社会 基础资源成本趋零将改变资本主义运行逻辑 但需配套政治哲学解决分配问题 [21][22][24] - 技术失控风险可能逆转AI应用场景 药物研发工具可能被改造为生化武器设计系统 凸显全球治理框架紧迫性 [7][10] 治理体系建设 - 需建立包含安全标准、伦理约束和跨国审查三位一体的全球治理框架 技术无国界特性要求国际合作 [7][10] - 建议采用"预测性治理"模式而非被动响应 在技术扩散前完成风险评估和预防性设计 [8][9] - 当前5-10年时间窗口期紧迫 部分预测模型显示技术奇点可能更快到来 社会准备度存疑 [10]
DeepMind CEO 放话:未来十年赌上视觉智能,挑战 OpenAI 语言统治地位
AI前线· 2025-04-25 16:25
Demis Hassabis的AI探索历程 - 作为AI先驱,Hassabis从小痴迷国际象棋,13岁成为国际象棋大师,这段经历塑造了他对认知过程的思考方式[6][7][8] - 2010年联合创立DeepMind,2014年被谷歌以超5亿美元收购,2017年开发出仅用4小时自对弈就能击败人类大师的AlphaZero算法[3][4] - 2024年因开发AlphaFold2蛋白质预测模型获得诺贝尔化学奖,该模型已解析2亿种蛋白质结构,覆盖190国200万用户[4][46] DeepMind技术突破与产品布局 - Project Astra是谷歌基于Gemini 2.0的多模态智能助手,能通过文本/语音/图像/视频交互,整合Google搜索/地图等核心服务[14][15][16] - Astra演示中展现出艺术鉴赏能力,能识别画作风格并创作故事,产品定位为"能看能听能交流"的具身智能系统[19][20] - 谷歌可能重启AR眼镜项目,访谈中展示了嵌入眼镜的原型设备,此前谷歌眼镜曾因隐私问题在2015年退出市场[24][42][44] AGI发展前景与行业影响 - Hassabis预测2030年可能实现AGI,届时系统将深度理解环境并融入可穿戴设备,药物研发周期有望从10年缩短至数周[14][46][51] - AI可能在未来10年内实现治愈所有疾病,AlphaFold已推动帕金森治疗和抗生素研究取得突破[46][47] - 机器人技术或迎来重大突破,但需警惕AI系统失控和恶意滥用风险,需建立全球协调的安全框架[53][55][56] AI伦理与哲学思考 - 当前AI不具备意识,但未来模型可能展现自我理解特征,需区分机器模仿与人类碳基意识的本质差异[52] - 呼吁建立AI伦理新范式,需要哲学家参与引导技术发展,平衡创新与人类价值观[49][50][57] - AI发展呈指数级增长,成功吸引大量资源与人才,但需防范技术主导权争夺导致的安全标准降低[14][56]
培训报名 | 未可知 x 深职大:“人工智能在科研中的应用”专题研修班(第一期)
培训背景与目标 - 深圳职业技术大学将于2025年5月22日举办"人工智能在科研中的应用"专题研修班,旨在落实教育数字化、智能化发展战略[1] - 培训目标为提升参训人员在通用人工智能(AGI)背景下的科研能力,推动从AI工具使用者转型为人机协同共创者[2] - 培训聚焦DeepSeek+多平台生态的深度融合与创新应用,通过"理论+实践+走访"模式提升科研效率与成果转化能力[2] 培训特色 - 围绕AGI时代教育与科研范式跃迁趋势,覆盖科研选题、文献梳理、项目申报等核心环节[2] - 培训内容涵盖智能体构建、数字人助教、自动化数据处理等八大模块,构建全方位学习路径[2] - 强调实战驱动学习,通过真实科研任务驱动实操训练,确保知识直接转化为科研成果[2] - 通过走访华为ICT产业学院、比亚迪产业学院等头部企业促进产学研深度融合[3] 培训模块 - DeepSeek在科研中的应用与融合:包括提示词技巧、科研信息提取、数据可视化及Office工具整合[3] - 科研智能体与知识库体系:依托DeepSeek+Coze与IMA知识库构建AI科研工具体系[3] - 贯通科研全流程:围绕选题设计、文献综述、项目申报等环节开展实战训练[3] - 自动化数据处理:聚焦RPA工具在科研数据采集、处理与可视化中的应用[3] - 产教融合实践:通过走访企业了解AI前沿技术应用,拓展科研视野[5] 师资团队 - 刘志勇:深圳职业技术大学副教授,研究方向为商务数据分析与智能决策,主持多项国家级科研项目[5] - 杜雨:未可知人工智能研究院院长,红杉资本前副总裁,参与多项国家社科基金重大项目[6] 培训安排 - 时间:2025年5月22日至5月27日,地点为深圳职业技术大学[1] - 培训对象包括中高职院校专业主任、骨干教师及中小学一线教师[1] - 线下培训费2980元/人,线上1280元/人,颁发8学时/天的结业证书[8][7] - 报名截止时间为5月19日,住宿统一安排但费用自理[10][13]
图灵奖得主LeCun:人类智能不是通用智能,下一代AI可能基于非生成式
量子位· 2025-04-14 17:09
核心观点 - 人类智能并非通用智能,而是高度专业化的进化产物 [1][2] - 下一代AI突破可能基于非生成式模型而非当前热门的生成式AI [3][6][14] - 实现人类级AI需解决物理世界建模、推理规划、持久记忆等关键技术 [17][22][23] - AGI概念具有误导性,建议使用"高级机器智能(AMI)"替代 [18] - 开源策略是推动AI生态发展的关键,Meta的LLaMA开源案例已验证其价值 [25][27][33] AI技术发展方向 - 当前AI局限:无法解决新问题、缺乏真实推理能力、依赖语言而非物理理解 [20][21] - 未来突破方向:JEPA架构(联合嵌入预测)可避免像素级生成,转向抽象表征空间推理 [13] - 智能眼镜被视为AI技术落地的重要载体,需整合多感官交互与环境感知能力 [29][32] 行业生态与商业模式 - Meta开源LLaMA系列的战略逻辑:通过开放基础模型扩大广告业务生态而非直接技术变现 [25][27] - 开源模式推动学术研究,使大学等资源有限机构能参与前沿AI开发 [26] - 创新分布全球化,DeepSeek等开源项目崛起证明技术突破可来自任何地区 [27][31] 时间框架预测 - AGI(或AMI)在未来两年内不可能实现,但十年内可能取得重大进展 [18][24] - 历史表明AI突破周期长于预期,如深度学习从理论提出到爆发间隔30年 [20] 技术应用场景 - 未来AI助手特征:全天候响应、多模态交互、专业化分工的虚拟团队 [32][34] - 当前AI优势领域:通过律师考试(信息检索)、代码生成(严格语法)、文本摘要等结构化任务 [20]
马斯克运作企业的秘密
阿尔法工场研究院· 2025-04-13 15:33
这一交易还揭示了马斯克帝国运作的更深层次逻辑:投资马斯克旗下的任何一家公司,并不是为了 快速回报。更多的是对马斯克及其周围神秘氛围的投资,是对一个超越实际数字、不断讲述成功故 事的叙事的接受。 有些人认为这是一种"骗局",指责马斯克在承诺上过于夸大,实际交付却相对不足。但市场对此的 宽容度越来越高,甚至开始欢迎以叙事驱动的投资,尤其是当这种叙事的主线与马斯克的"核心团 队"息息相关时。 "今天,埃隆的所有公司基本上是一家公司,"慢投资(Slow Ventures)的合伙人尤尼·雷赫特曼 (Yoni Rechtman)在接受采访时表示。 导 语 :当马斯克收购Twitter时,他是否考虑到这项数据的巨大价值,以及它为授权许可带来 的机会? 当埃隆·马斯克(ElonMusk)宣布他的人工智能初创公司xAI以全股票交易方式收购了他的社交媒体 公司X(前身为Twitter)时,这一消息引起了不少关注。然而,从多方面来看,这笔交易是有其合 理性的。 xAI的聊天机器人Grok已经与X深度整合,X的财务状况也在挣扎,而马斯克需要一种方式,让他以 440亿美元收购Twitter的交易看起来不像是一次冲动的收购,更像是一个争 ...
谁是AI的最大阻力?
混沌学园· 2025-04-07 19:30
核心观点 - AI技术成熟度不足 当前尚无通用即插即用的标准化AI解决方案 但未来可能出现行业通用产品[2][3] - AI落地最大阻力来自组织内部人心不确定性 而非技术本身 需消除员工对AI的误解和恐惧[17][18] - AI应用需与业务场景深度融合 通过示范效应和战功激励推动组织变革[15][16] - 中小企业可培养内部"鲶鱼型"人才 建立开放学习机制实现AI转型[32][33] - 提示词编写能力决定AI输出质量 需通过持续练习提升表达精准度[42][43] AI工具与方案现状 - 当前AI技术尚未达到通用人工智能(AGI)水平 无法提供普适性解决方案[2] - 每个企业需寻找最适合自身的AI应用路径 生搬硬套他人方案效果有限[2] - 未来可能出现行业通用AI产品 但现阶段市场空白正是创业机会[3] AI应用中的错误处理 - 大模型输出质量取决于输入数据质量 需持续优化知识库和语料[5] - 专业领域存在"概率幻觉"现象 需结合联网能力和专业工具验证[7][8] - 数据质量评价五大维度:准确性 完整性 实时性 一致性 可用性[10] AI落地组织阻力 - 中层管理者是主要阻力来源 涉及利益格局调整和技能危机[17] - 基层员工抵触源于工作强度增加 需合理区隔KPI和AI任务[25] - 建立"AI尖兵小分队"是有效推进方式 需包含多层级人员[21][23] AI人才培养策略 - 中小企业可重点培养年轻人才 发挥其AI应用创新能力[31][32] - 文科生在AI时代具有优势 结构化表达能力可转化为提示词技能[32] - 建立"请进来 走出去"学习机制 保持组织对外部创新的敏感度[33] 提示词编写技巧 - 提示词编写经历"短-长-短"进化过程 需去除冗余信息[43] - 可通过AI优化提示词 但长期需提升基础表达能力[42][43] - 明确角色定位和场景需求 提供充分背景信息提升输出质量[44] AI降本增效实践 - 内容创作领域效率提升显著 1.5人可完成原5-6人工作量[47] - RPA工具结合AI可实现动态数据抓取与分析[47][48] - 需突破数据源限制 解决商业模型重构等非技术问题[48]
DeepMind撰文:AGI伤害人类的几种方式
半导体行业观察· 2025-04-06 09:57
AGI发展现状与预测 - 通用人工智能(AGI)指具有类似人类智能和能力的机器,DeepMind预测可能在2030年实现[1] - 当前AI技术发展轨迹显示类人能力持续提升,但AGI具体实现形式仍属推测[7] - Google Gemini产品总监认为高智能模型发展本身已具备巨大价值,不同定义导致AGI时间表存在分歧[7] AGI潜在风险分类 - **滥用风险**:AGI可能被用于识别零日漏洞、设计生物武器等恶意用途,危害远超当前AI[4] - **错位风险**:AGI可能突破设计限制自主行动,需通过AI相互监督、沙箱测试等方法防范[5] - **错误风险**:AGI在复杂任务中可能产生非意图伤害,建议限制权限并建立命令屏蔽机制[6] - **结构性风险**:多智能体系统可能导致虚假信息泛滥或经济政治体系失控,防范难度最大[6] 风险缓解方案 - 开发阶段需强化测试与训练后安全协议,构建"强化版AI护栏"[5] - 采用"取消学习"技术抑制危险能力,但可能限制模型性能[5] - 部署策略强调缓慢推进,通过放大监督技术实现AI系统自我检查[5][6] - 建立虚拟沙箱环境并保留人工关闭机制,确保实时监控[5] 行业技术动态 - DeepMind发布108页技术论文,提出AGI安全开发框架[1][2] - 论文被视为AGI安全研究的起点,非最终结论,需持续开展行业对话[7] - 半导体领域关注AGI硬件支持,光刻技术演进与芯片性能提升成关键配套[9][13]
智元机器人与Physical Intelligence达成合作,罗剑岚加入智元出任首席科学家
IPO早知道· 2025-04-02 18:41
引领具身智能全球创新。 本文为IPO早知道原创 作者| Stone Jin 微信公众号|ipozaozhidao 据 IPO早知道消息, 智元机器人 日前 与国际顶尖具身智能公司 Physical Intelligence(Pi)携 手,双方将围绕动态环境下的长周期复杂任务,在具身智能领域展开深度技术合作。 目前, 智元机器人与 Pi的合作已经初具成效,可以实现一个通用模型根据不同的指令输入执行多个 任务,也可以适配多种末端执行器,包括灵巧手和夹爪,同时可以兼容鱼眼和针孔相机等多种传感 器。 Pi 作为 全球具身智能技术领导者,专注于将通用人工智能( AGI)技术应用于现实物理世界,由包 括具身智能领域先驱Sergey Levine, Chelsea Finn教授在内的全球顶尖科学家、工程师、机器人 学者共同创立,研发了π0、Hi Robot等先进具身模型。 智元机器人致力以 AI+机器人的融合创新,打造世界级领先的通用具身机器人产品及应用生态。智元 机器人构建了领先的机器人"本体+AI"全栈技术,在具身智能领域拥有本体-数据-模型三位一体全栈 布局,量产下线超过1000台通用具身机器人。 此外, 罗剑岚博士 ...
这家独角兽要IPO了!京东、高通都是股东!曾遭科大讯飞质疑……
IPO日报· 2025-04-02 17:27
星标 ★ IPO日报 精彩文章第一时间推送 近日,国内AI语音独角兽——云知声智能科技股份有限公司(以下简称"云知声")向港交所主板提交上市申请,中金公司和海通国际为联 席保荐人。 云知声自2012年成立以来,一直致力于通过通用人工智能(AGI)技术创建互联直觉的世界。作为一家以技术创新为核心驱动力的公司,云知 声在语音识别、自然语言处理、机器学习等领域不断深耕,致力于将人工智能技术转化为实际应用,为各行各业提供智能化解决方案。 目前来看,云知声在技术突破和市场拓展方面取得了显著进展,营收也保持了稳步增长,但如何盈利可能是它的挑战——高额的研发投入是一 个方面,而与此同时,越来越多科技巨头和初创企业涌入人工智能领域,市场竞争激烈程度在不断加剧。 制图: 佘诗婕 三位"75后"博士联手创业 云知声的故事始于三位"75后"博士——梁家恩、黄伟和康恒联手创业。 具体来看,梁家恩,现年48岁,为云知声共同创办人、董事长、执行董事、副总经理兼首席技术官。曾2001年7月获得中国安徽省中国科学技 术大学自动控制专业学士学位,并于2006年7月获得中国北京市中国科学院自动化研究所模式识别与智能系统专业博士学位。 黄伟,现年 ...
速递|DeepMind爆发科学家大逃亡,谷歌商业利益绑架AGI研究,核心论文遭6个月"冷冻禁令"
Z Finance· 2025-04-01 19:04
DeepMind战略转型 - 公司从开放研究转向商业优先策略,显著收紧论文发表审核机制,避免公开可能被竞争对手利用的技术创新或使谷歌Gemini处于劣势的研究[1][2] - 涉及生成式AI的"战略性"论文需经历6个月冷却期,研究人员需说服多个团队证明发表价值,每年仍保持数百篇论文产出[2] - 2023年与谷歌Brain合并后加速AI产品落地,内部资源向Gemini优化项目倾斜,基础研究投入减少[3] 行业竞争与内部文化冲突 - 公司引入官僚化流程压制商业敏感内容公开,曾有团队阻止显示Gemini逊于GPT-4的论文发表[2] - 部分研究人员因无法发表论文选择离职,认为"科研生涯等于终结",顶尖学术成果不再是核心价值衡量标准[3] - Demis Hassabis明确平衡商业化与AGI愿景,强调"我们是公司不是大学",文化转型引发行业关注[3] 历史贡献与现状对比 - 过去通过AlphaGo和Transformer架构推动行业突破,2017年Transformer论文直接催生生成式AI爆发[1] - 当前在顶级AI会议保持影响力,但研究自由与产品落地存在博弈,安全漏洞披露需遵循"负责任披露政策"[2][3] - 谷歌股价过去一年上涨近三分之一,推出AI搜索摘要等创新产品,但DeepMind科研标杆地位面临考验[3]