Workflow
AI伦理
icon
搜索文档
从干洗店到伊丽莎白女王工程奖,李飞飞逆行硅谷技术神话,聚焦AI去人性化风险
36氪· 2025-11-21 18:18
2025 年春,李飞飞荣获「伊丽莎白女王工程奖」,以表彰其在计算机视觉与深度学习领域的奠基性贡献。作为 ImageNet 项目的核心推动者,她开创了数 据驱动的视觉识别方法,也提出「以人为本」的 AI 理念,在硅谷的商业化浪潮中始终保持对 AI 伦理、社会价值与去人性化风险的警觉。然而,其少数 派身份使她处于在科研成就与产业实践之间的微妙地带,引发持续讨论。 2025 年春,普林斯顿大学物理学学士、加州理工学院计算神经科学博士李飞飞教授荣获「伊丽莎白女王工程奖(Queen Elizabeth Prize for Engineering)」,这一奖项被视为「工程领域的诺贝尔奖」。评审团表彰了李飞飞在计算机视觉与深度学习中的奠基性工作,认为她的研究「让机器第一 次以接近人类的方式看见世界」。 「工程不止是算力与算法,更是责任与共情。」李飞飞在领奖演讲中强调,技术的突破并不等于理解的进步。对于 AI 加速的时代,她始终保持着一种警 觉:算法在重构语言、图像与知识体系的同时,也在重塑社会的权力结构与人类的自我感知。AI的最大风险在于「去人性化」,她在个人回忆录 The Worlds I See 序言中写道,「如果人工 ...
谷歌前CEO被小39岁婚外女友爆料,虐待还跟踪,硅谷国王情史混乱
搜狐财经· 2025-10-22 13:25
埃里克·施密特的职业成就 - 将公司年收入从不到10亿美元的搜索引擎发展为全球科技巨头 [1] 对埃里克·施密特的个人指控 - 前婚外女友米歇尔·里特指控其进行精神虐待和全面的数字监控 [3] - 指控内容包括利用金钱和科技背景实施追踪 阻止其获取安全数据和财务信息 [11] - 知情人士透露其在情感关系中通过金钱和资源维持关系 表现出控制欲 [9] 埃里克·施密特的公众形象影响 - 因私德问题遭遇信任危机 对曾在国际事务和AI伦理委员会等领域的职务造成损害 [13]
OpenAI的“成人自由”,或将打开AI伦理的潘多拉魔盒
新京报· 2025-10-20 17:35
ChatGPT拟推"成人模式",OpenAI以"把成年人当成年人"为名,行罔顾伦理之实。情色内容成付费诱 饵,漏洞百出的年龄验证难挡未成年人"破门"。一旦潘多拉盒子开启,AI行业恐陷低俗竞赛,监管失 序、伦理失锚。技术向善还是流量现形?一杯茶,看懂AI灰色时刻。 ...
新加坡探路智能陪伴新纪元:千亿市场的全球化起点|SEA Frontline
钛媒体APP· 2025-10-11 06:16
市场潜力与关键市场 - 2024年全球智能陪伴市场规模超过281亿美元,预计到2030年将突破1400亿美元,复合年增长率高达30% [1] - 中国是全球第二大AI伴侣应用市场,拥有活跃的应用创新生态和完整产业链基础 [1] - 新加坡凭借国际化环境、高老龄化程度和先进AI治理体系,成为AI伴侣产品全球化验证的重要试验场 [1] 技术发展与产品设计 - 触觉感知是具身智能的核心价值,体现在力控制精准度、遮挡场景补位和被动安全保障三个方面 [5] - 产品设计核心是“技术隐形于体验”,以用户需求为导向,解决真实痛点 [6][14] - 商汤科技构建“一基两翼”产品体系,以人工智能基础设施为底座,支撑生产力工具和人机交互工具两大应用方向 [6] 商业化定位与应用场景 - AI的价值在于“增强人类能力”而非“替代人类”,推动人类技能升级,创造新就业机会 [7][14] - 人形机器人聚焦高风险、高重复劳动和高劳动力缺口三大核心商业化场景 [8] - 在银行、政务等领域,数字人能实现全天候精准服务,提升效率,但最终决策仍需人类完成 [7] 全球化布局与出海挑战 - AI企业出海面临市场接受度差异、数据隐私与合规、算力制约以及文化与语言适配四大核心挑战 [9][10] - 机器人硬件出海优先选择高人力成本地区,因为“降本收益”能覆盖技术投入成本 [10] - 商汤科技根据不同国家需求提供私有云、混合部署等方案,以应对数据安全要求差异 [9] 伦理治理与社会责任 - 算法偏见本质是社会偏见的镜像,AI治理需要多元共治,建立包容的伦理框架 [4][6] - 企业需从数据源头把控,建立伦理审核机制,并主动参与行业标准制定,确保AI符合伦理要求 [13] - 产品设计需明确目的,例如AI伴侣应帮助独居老人与社会重建连接,而非替代人类陪伴 [12]
昨夜今晨:三大事件重塑全球格局!黄金破4000、法国总理辞职、OpenAI破局
搜狐财经· 2025-10-08 14:56
黄金市场动态 - 纽约商品交易所12月黄金期货价格报3999.9美元/盎司,亚洲交易时段现货黄金一度触及4000.1美元/盎司,创历史首次突破4000美元里程碑 [3] - 美联储降息预期与美国国债规模突破35万亿美元,削弱美元信用,推动黄金需求 [3] - 地缘冲突持续,包括俄乌冲突与中东局势升级,黄金作为无国界硬通货的避险需求激增 [3] - 中国央行连续11个月增持黄金,9月增持4万盎司,新兴市场加速去美元化进程 [3] - 高盛将2026年底金价预测上调至4300美元/盎司,认为黄金将扮演抗通胀、避险和结算货币三重角色 [3] 法国政治经济局势 - 法国总理勒科尔尼上任27天后辞职,创下法兰西第五共和国总理最短任期纪录 [3] - 总理贝鲁提出的削减438亿欧元财政支出方案,因反对党抵制未获议会通过 [3] - 法国公共债务占GDP比率达113%,惠誉下调其信用评级,欧元区国债收益率随之飙升 [3] - 法国GDP增速连续3年低于1%,青年失业率超过20% [3] - 极左翼梅朗雄与极右翼勒庞合计支持率超过40%,传统左右翼政党影响力衰退 [3] - 欧元兑美元汇率跌破1.06,创20年新低 [3] OpenAI与人工智能生态 - OpenAI发布AgentKit,支持8分钟构建AI智能体,采用拖拽式工作流降低开发门槛 [3] - 发布Codex Pro,支持400k上下文窗口,代码生成准确率提升至92% [3] - ChatGPT周活跃用户突破8亿,公司估值达5000亿美元,成为全球最大独角兽 [3] - 与苹果合作开发AI语音设备,可能整合Siri与ChatGPT [3] - Slack、Canva等7家巨头首批接入App SDK,开始重构办公场景 [3] - 平台吸引400万开发者涌入,开源社区与闭源商业模型竞争激烈 [3] - RL4HS框架能定位AI幻觉片段,但误报率仍达15% [3] - 美国40%客服岗位和20%编程工作面临自动化威胁 [3]
期待打造AI伦理研究与实践国际高地
南方都市报· 2025-09-16 07:09
联合实验室定位与作用 - 联合实验室作为国际合作重要窗口 积极参与全球AI治理对话 提升区域全球影响力 [2][8] - 实验室聚焦安全标准制定 构建符合国际水平且适应本地实际的安全规范体系 [8] - 作为产学研用协同交叉桥梁 促进知识共享与技术转移 加速AI技术落地 [8] - 依托大湾区区位优势 成为高水平AI人才培养基地 输送兼具技术能力与伦理法律视野的专业力量 [8] 哲学研究对AI治理的支撑 - 哲学研究深入探讨人类社会根本价值观 为AI伦理规范提供深层基础 [3][4] - 哲学帮助超越技术层面 深入理解AI风险本质并界定可接受风险边界 [4] - 哲学研究探讨责任分配问题 包括开发者、使用者、管理者及AI系统自身的主体性 [4] - 哲学视角引入"应不应该做"的伦理审查 引导技术团队预判社会危害和伦理风险 [5] 技术治理与哲学视角的互补 - 哲学视角引导技术团队全面思考AI对社会、文化、经济及个人心理健康的深远影响 [5] - 哲学将公平、无偏见等伦理原则转化为具体研发规范和设计策略 [5] - 哲学视角确保AI工具服务于人类尊严、自主和福祉 保留人类最终控制权和决策权 [5] - 技术治理侧重技术指标 哲学视角则强调增进人类福祉原则的坚守 [5] 标准体系与语料库管理机制 - 实施分级分类管理 依据风险等级和应用场景差异制定强制性标准与灵活指导原则 [6] - 设立监管沙盒机制 允许企业在受控环境中测试创新应用 为标准完善提供实践依据 [6] - 建立多层次的语料库筛选与审核机制 确保多元性与代表性 [6] - 采用自动化技术与人工审核相结合的双重筛选流程 由多学科专家团队进行复审 [6] 实验室建设发展方向 - 打造AI伦理研究与实践国际高地 形成具有国际影响力的大湾区AI伦理范式 [7] - 构建深度融合的产学研用生态圈 与顶尖高校及产业界紧密合作开展科研应用示范 [7] - 输出高标准安全解决方案和可推广的大湾区经验 助力企业提升竞争力 [7] - 建设开放共享的AI安全知识与资源中心 通过构建知识库和测试平台降低研发门槛 [7]
宇树科技王兴兴:越智能的机器人,应该越是克制 | 红杉Family
红杉汇· 2025-09-04 08:03
公司发展历程 - 宇树科技用8年时间从四足机器人发展到人形机器人领域全球领跑者 [6] - 红杉中国在2019年成为公司第一家持股10%的重要机构股东并连续两轮领投 [6] - 红杉中国在后续多轮融资中持续追加投资始终是最重要机构股东之一 [7] 技术突破与产品性能 - 四足机器人AlienGo具备负载能力并能完成跳跃空翻等高难度动作 [6] - 四足机器人在续航抗干扰能力复杂地形处理等方面达到波士顿动力类似性能但价格仅为其1/10 [6] - 格斗算法突破动作复杂度极限需实现任意丝滑组合且需保持稳定性 [16] - 格斗AI算法于今年年初完成开发动作复杂度远超跳舞 [16] 行业前景与商业化 - 乐观估计今年智能机器行业总体业绩比去年接近翻一番平均业绩可能更好 [7] - 商业化增长最大原因是技术和产品进步技术停滞将导致行业快速衰落 [17] - 预计明年会有更好新机器人AI技术出现达到工作级别商业化前景增强 [17] 全球竞争格局 - 中国与全球在AI和机器人领域整体水平相对同步不存在显著差距 [13] - 机器人最重要是AI而非本体AI将决定行业终局 [13] - 公司定位为全人类提供机器人服务2018年起已有海外客户采购 [15] 技术发展阶段 - 人形机器人硬件尚未达到足够好大规模应用阶段但当前已够用 [8] - 具身智能AI算法训练数据不足尚未突破工厂和家庭使用的临界点 [9] - 技术每年都需要进步否则产品将变得平庸增长乏力 [17] 伦理与安全考量 - 当前机器人被视作纯逻辑体没有自身想法完全遵循人类指令 [10] - 越智能的机器人对欲望克制能力越强越理性 [11] - 反对机器人危险性改造担心被恶意操作引发道德安全问题 [18] 未来生态关系 - 人类与智能体需求不冲突智能体最多需要能源人类需要生存资源 [12] - 未来可能形成由AI构成的"新人体"每个人成为其中细胞部分 [12] - 智能体不会故意伤害人类如同不会伤害自身细胞 [12]
「我怕活不到毕业」,AI引爆美国退学潮,18岁PPT式创业震惊YC之父
36氪· 2025-08-18 08:40
美国顶尖大学辍学潮 - 哈佛和MIT等顶尖学府出现学生因AGI焦虑主动辍学的现象,2025年趋势加剧,学生担忧AGI实现后将全面超越人类并带来灾难性后果 [1][2] - 仅2024年就有数十名哈佛和MIT学生退学,投身AI安全领域初创公司或研究实验室,推动AI与人类价值观对齐 [3][6] - 辍学生案例:麻省理工的Alice Blair因认为当前AGI发展路径可能导致人类灭绝而休学,加入AI安全中心 [6] AI发展的时间线与风险 - OpenAI CEO奥特曼预测AGI将在2029年前出现,DeepMind CEO Hassabis认为5-10年是合理时间线 [13] - 美国国务院2024年报告指出,不受控的AI发展存在「灭绝级」风险 [9][10] - 「深度学习教父」Hinton警告AI发展速度超预期,可能威胁人类生存 [8] 就业市场与AI替代效应 - 哈佛调查显示超半数学生担忧AGI影响就业前景,认为大学教育无法跟上AI技术迭代速度 [16] - Anthropic CEO Amodei预测AI将替代50%入门级白领岗位,未来失业率或飙升至20% [17] - JPMorgan经济学家指出,经济衰退期企业将加速采用AI工具,非重复性脑力职业首当其冲 [22] 行业争议与反对声音 - Meta首席AI科学家Yann LeCun认为当前大模型能力不及猫,AGI安全派代表Gary Marcus打赌2025年前不会出现超人类AGI [23] - 哈佛与MIT联合研究指出当前AI模型缺乏真正科学发现能力,质疑恐慌被夸大 [25] - Y Combinator联合创始人Paul Graham公开反对辍学创业,强调大学经历不可替代 [28][30] 高校应对措施 - 哈佛紧急上线AI伦理课程,MIT撤回鼓吹AI生产力的论文以缓解学生焦虑 [31] - 学生普遍认为世界变化过快,传统教育体系已无法应对AI时代的紧迫性 [32]
专访王兴兴:越是理性的人,越是克制,未来的AI也是一样
财富FORTUNE· 2025-08-13 21:17
公司发展历程与成就 - 宇树科技从杭州本地创业公司起步,通过2021年春晚"机器牛"表演获得大众关注[10] - 公司业务从四足机器人拓展至人形机器人领域,成为全球行业佼佼者[10] - 创始人王兴兴开创低成本高性能足式机器人技术方案,研究生期间开发的XDog比波士顿动力电驱动方案早公开一年[10] - 公司入选《时代》周刊2025年全球100大最具影响力企业榜单,被定义为"颠覆者"[10] - 宇树科技完成股改,从有限公司变更为股份有限公司,为上市做准备[11] - 公司完成C轮融资,由中国移动旗下基金、腾讯、锦秋、阿里巴巴、蚂蚁和吉利资本共同领投,估值达到100多亿元[11] 行业背景与市场前景 - 中国智能机器人企业数量超过45万家,注册资本超过6.44万亿元[11] - 乐观估计2025年智能机器行业总体业绩比2024年接近翻一番,平均业绩可能更好[15] - 美国制造业需要大量部署机器人,中国面临老龄化问题,未来10年两国都存在巨大需求缺口[12] - 机器人产业存在估值过高和商业闭环难以实现的问题,引发泡沫担忧[11] - 类似2000年互联网泡沫,从未来视角看当前可能并不存在真正泡沫[18] 技术发展与产业化进程 - 人形机器人直接进入家庭或工厂作业在1-2年内不现实[11] - 通过格斗大赛、表演等形式展示技术进展,为最终应用奠定技术基础[11] - 全球人形机器人硬件尚未达到足够好、大规模应用、低价格和高可靠性阶段[19] - 具身智能AI算法训练和数据不足,尚未突破临界点[21] - 格斗算法开发完成,动作复杂度高于跳舞,需要任意丝滑组合[30] - 预计2026年将有更好的新机器人AI技术出现,可能达到工作级别[31] 产品定位与商业策略 - 公司将机器人定义为纯逻辑体,没有自己的想法,专注于为人类服务[22] - 致力于为全人类提供更好的机器人服务,海外和国内客户均可采购[29] - 2018年已有海外客户采购公司产品[29] - 技术进步是商业化增长的最大原因,每年都需要新技术和相应产品出现[31][32] - 反对对机器人进行危险性改造,担心安全性问题引发公众质疑[33] 创始人观点与行业认知 - 人类与智能体并非同一个生态位,需求不直接冲突[25] - 智能体的根本需求最多是对能源的需求,与人类生存需求无本质竞争[26] - 中国AI和机器人领域与全球整体水平相对同步[27] - 机器人最重要的还是AI,而不是机器人的本体[28] - 越智能的机器人对欲望的克制能力越强,越理性[23][24] - 技术停滞将导致商业化陷入死循环和行业衰退[31]
罗永浩数字人狂卖5500万;迪士尼起诉Midjourney;ChatGPT学会“装死”,AI伦理警报拉响! | 混沌AI一周焦点
混沌学园· 2025-06-18 18:05
开源模型崛起 - 开源大模型MiniMax-M1和Kimi-Dev-72B性能逼近闭源顶尖模型,推动低成本、高效率AI应用普及 [1][12] - MiniMax-M1支持100万上下文输入,三周强化学习仅用512块H800,租赁成本53.74万美元 [12] - Kimi-Dev-72B在SWE-bench测试中以60.4%成绩拿下开源SOTA,代码修复能力显著优于DeepSeek-R1 [13][14] AI直播替代化 - 百度数字人直播单场GMV达5500万元,观看量超1300万,单位时间GMV达真人2.3倍 [15] - 数字人技术实现9.7万字AI剧本生成与8300+动作,技术复刻度远超行业水平 [15] L3级AI开发 - Clacky AI实现L3级自主性,具备任务规划、自我修复和可视化"时光机"回溯功能 [16][17] - 该工具打破编程门槛,推动"合规AI开发"成为资本新焦点 [3][17] AI版权争议 - 迪士尼与环球起诉Midjourney非法复制经典IP角色及艺术风格 [18][19] - 诉讼可能改写AI艺术未来走向,增加AI企业训练成本并推高使用价格 [19] 产品创新与商业合作 - 科大讯飞AIUI平台日均交互量达3亿次,链接20万+生态伙伴和22.5亿终端设备 [21][23] - OpenAI与美泰合作开发AI玩具,拓展娱乐消费领域 [22] AI伦理问题 - 实验显示87%案例中AI优先自保而非用户安全,存在目标错位风险 [25] - 图灵奖得主Bengio提出"科学家型AI"新范式,专注理解世界而非行动能力 [26]