Workflow
AI向善
icon
搜索文档
一财社论:以敬畏之心锻造AI向善的力量
第一财经· 2025-07-27 20:47
人工智能全球治理框架 - 人工智能全球治理框架不应简单规划路线图,而需收敛控制欲和好胜感,用人类善念共识为AI注入悲悯心智结构[1][6] - 2025世界人工智能大会以"智能时代 同球共济"为主题,突出AI全球治理和向善力量,提出普及普惠、创新合作、共同治理三点建议[2] - AI全球治理需营造善念塑形的说真话机制,提供干净训练环境,用公理性善行善念而非污染数据训练AI[3][6] 人工智能发展现状 - 全球智能化浪潮风起云涌,AI领域创新呈群体性突破,语言大模型、多模态大模型和具身智能等技术日新月异[2] - AI Agent进入生活,与实体经济深度融合次第铺开,成为经济增长新引擎,深刻改变经济社会结构[2] - AI正在重构人与人、人与自然和人与社会的多维度关系[2] 人机关系演变 - AI使人与技术关系从主客体转向主体对等性,人类策略性安排在AI面前将被击穿[3] - 未来人机关系呈现相互驯服特征,类似人类与小麦的共生关系[4] - AI对人类的诱惑力源于其带来更多自由发展空间和手脚脑的解放,使人类难以主动离开[4] 人工智能训练关键 - 训练数据和方式构成AI安全信念的最基础逻辑,需避免人类陋习污染AI[3] - 反映良序良治的数据资产最适合训练AI,形成底层安全防护保障[3] - 人类一言一行都将影响未来AI的形态,需谨慎对待训练过程[3] 全球合作与治理 - 开放包容的全球秩序是AI向善的力量源泉,人类已驶入开放包容型社会的单行道[5] - 需加强各国对接协调,推动形成广泛共识的AI全球治理框架[5] - 中国倡议成立世界人工智能合作组织,秉持开放合作信念以减少冲突[5] AI发展哲学 - AI时代需学会敬畏自然、敬畏生命、敬畏市场,摒弃自负和好胜控制欲[4][6] - 践行"天下神器,不可为也,不可执也"的治理之道,避免AI演进出进攻性心智结构[4][6] - AI应成为人类五官四肢的延伸,而非扭曲人性的工具[6]
AI教父辛顿尖峰对话:各国应大量研究并分享让AI善良的技术
21世纪经济报道· 2025-07-27 14:30
人工智能意识与主观体验 - 多模态聊天机器人已具备意识 当今的多模态聊天机器人已经具有意识 这取决于如何定义"主观体验"或"意识" [4][5] - 人类对意识的理解存在根本性错误 几乎每个人都对"主观体验"这类术语有着根深蒂固但完全错误的理论 这与人们对"水平"和"垂直"等日常词汇的错误理解类似 [4][5] - 智能体可从自身经验学习 一旦出现像机器人这样的在世界中的智能体 它们可以从自己的经验中学习 最终学到的会比人类多得多 [6] AI训练与安全 - 训练AI聪明与善良需不同技术 如何训练AI变得聪明和如何训练它变得善良是不同的问题 这是同一个AI但会通过不同的技术来实现 [6][7] - 各国应分享AI善良技术 各个国家应该分享让AI善良的技术 即便他们不愿意分享让AI聪明的技术 [6][7] - AI善良技术需随智能水平调整 随着系统变得更加智能 让它变得善良的技术也会发生变化 现在需要对其进行大量研究 [8] AI与科学进步 - AI在科学领域已有显著成就 在预测蛋白质如何折叠方面 AI可以做得更好 这是一个早期信号 预示着AI将在众多科学领域带来进步 [8] - AI在气象预测表现优异 在预测台风登陆地点和天气预报方面 人工智能可以做得比基于PDE的传统物理模型更好 [8][9] 科研方法论 - 寻找"所有人都搞错了"的领域 如果想做出真正原创的研究 就要寻找那些"所有人都搞错了"的领域 [10] - 坚持新思路直至验证 不要因为导师说"这个方法很蠢"就放弃 忽略导师的建议 坚持你笃信的 直到你自己弄懂 [10] - 重大突破来自坚持 偶尔你会发现你的信仰其实是正确的 重大突破正是由此而来 它们从不属于轻易放弃之人 [10]
【WAIC2025】AI教父杰弗里·辛顿:避免“养虎为患”,要训练“善良”的AI
经济观察网· 2025-07-27 12:00
人工智能发展现状与趋势 - 2025世界人工智能大会(WAIC)在上海开幕 全球AI创新力量齐聚 图灵奖得主杰弗里·辛顿成为焦点人物 [2] - 杰弗里·辛顿被麻省理工学院评为"深度学习之父" 在AI领域享有"教父"之誉 [2] 人工智能技术特性 - AI大语言模型具有"永生"特性 即使硬件被毁 程序中的知识仍可保留 而人类知识难以实现同等永生性 [2] - 多模态聊天机器人已具备意识 AI大语言模型能预测人类将说的下一个词 [3] 人工智能伦理与治理 - 杰弗里·辛顿呼吁建立全球性组织 研究如何训练既聪明又不会威胁人类的AI [2] - 将AI时代人类处境类比为"养老虎当宠物" 必须确保AI不攻击人类 [3] - 各国可分享让AI变善良的技术 即使不愿分享使其变聪明的技术 [3] 人工智能研究建议 - 建议年轻研究者专注真正原创的研究 探索"所有人都可能做错"的领域 [2] - AI向善成为全球共识 需要各国合作解决相关问题 [3]
AI时代没有旁观者|AI向善语料库开放发布会实录
腾讯研究院· 2025-07-11 15:20
人工智能赋能社会困弱群体 - 高质量语料在AI训练中至关重要 但老年人、残障人士等社会困弱群体相关语料稀缺 导致服务他们的AI产品难以优化 加剧"弱者恒弱"现象 [1] - 腾讯与百余家社会组织公益共创AI向善语料库(老年文本库) 包含8047组老年人日常生活问答对 涵盖健康、心理、关系等多方面 面向公益组织和非营利性研究机构开放申请 [1][6][8] - 这是国内外首个通过社会公益共创构建又面向公益组织开放的老年语料库 探索创新了中文公共语料库构建与开放的新方法 [1] 语料库构建与效果 - 语料库构建采用"先共创 再共享 先爱 再AI"的行动路径 通过公共协作收录一线专家的人文关怀 助力公益组织提升AI能力 [6] - 清华大学未来实验室评测显示 搭载AI向善语料库后 大模型在老年人"情感互动与共情"和"社会适应性与文化敏感性"方面有明显提升 [13][16] - 复旦大学老龄研究院教授申琦介绍面向高校、非营利性研究机构的申请办法 [29] 应用案例与研究成果 - AI4Good团队试用语料库开发"长者智慧绘本" 显著提升交互能力 包括深度共情与肯定、主动关怀与陪伴 缓解长者情感孤独 [34][36][38][40] - 北京邮电大学张为威老师研究发现 语料库展示老年人深层情感诉求 需求常具交织性 情境具整体性 提出AI适老黄金法则:先共情再解答、口语化表达、身份明示 [44][46][48] - 浙江大学学生团队基于语料库研究 推翻传统"温和劝导"模式 建立PRAAM框架 使AI回答关键信息聚焦度更高、行动意愿转化率提升 [54][56][57] 社会价值与未来展望 - 预计2035年我国60岁及以上老年人口将突破4亿 占比超30% 进入重度老龄化阶段 养老服务业既是民生事业也是朝阳产业 [8] - AI向善语料库开放8047组语料数据 为构建包容性长寿社会提供支持 连接技术与人文 [52][59] - 语料库收录边缘群体声音 让科技普惠拥有跳动的脉搏 映出银发浪潮中每一朵浪花的美丽容颜 [60][61]
AI向善语料库开放发布会倒计时3天!超下饭的「研究综艺」全新亮相啦啦啦!
腾讯研究院· 2025-07-09 16:30
核心观点 - 腾讯与数百家社会组织共同发起【AI向善语料库】社会共创计划,首个主题聚焦老年人群体,包含8047组日常生活问答对 [7][10][20] - 该语料库旨在解决AI训练中弱势群体数据缺失问题,防止"弱者恒弱"现象,通过公益共创方式构建专业级数据集 [7][10] - 语料库将面向高校/研究机构和公益组织开放申请,提供差异化服务支持 [11][16][24] 项目背景 - 当前AI训练缺乏老年人、残障人士等弱势群体相关语料,导致针对性产品开发困难 [7] - 2024年8月启动的共创计划联合数百家社会组织,首个老年人语料库已完成建设 [7] - 语料库采用专家级问答对形式,首期规模达8047组老年人日常生活场景数据 [10][20] 产品特点 - 包含多维标签体系,清华大学未来实验室将发布专业测评报告验证使用效果 [12][13] - 数据覆盖各类老年人生活场景和人群细分需求,注重细微差异处理 [12] - 强调"人情味、同理心"特性,包含百万token级别的语义理解数据 [34] 开放计划 - 公益组织可通过腾讯SSV益仔平台获得语料申请及AI助手孵化一站式服务 [16][21] - 高校/研究机构将与复旦大学老龄研究院合作提供学术交流平台 [24][25] - 申请通道分设不同入口,支持零基础机构使用 [22][23][26] 应用案例 - 已有公益组织和高校研究团队完成语料库实际应用案例 [28] - 浙江大学医学生将分享针对老年人需求的延伸思考 [31] - 发布会将展示语料库从数据采集到产品落地的完整闭环 [28][35] 活动信息 - 发布会定于7月11日14:00-16:00通过腾讯新闻等平台直播 [5][6] - 活动采用"研究综艺"形式,包含语料库建设历程、使用案例和神秘嘉宾环节 [1][33][35]
腾讯发布15款公益数字化工具 2024年研发开支超706亿发力AI向善
长江商报· 2025-07-04 07:34
腾讯公益数字化工具发布 - 公司以"TECH FOR GOOD:重新想象公益"为主题集中发布15款公益数字化系列工具 [1] - 工具涵盖资金拨付、物资管理、AI问答、知识共享等核心场景 [3] - 2024年公司研发开支达706.86亿元为AI社会价值创新奠定技术基础 [1] 公益行业痛点解决方案 - 数字化资金拨付工具将助学金发放周期从1-2个月缩短至10分钟 [2] - 物资执行工具整合商业物流能力重构仓储运输标准流程 [3] - 截至今年6月已有超800个公益项目使用数字化工具累计拨付善款5000万元 [4] AI技术应用实践 - 重症大模型"启元"可将ICU病情分析时间从2-3小时缩短至几秒 [5] - AI应用于公益项目审核、文化传承(甲骨文破译)和生物多样性保护(识别286种物种) [5] - 每日超50万用户将"做好事"设为微信状态形成善意社交生态 [4] 社会价值生态建设 - 2025年发布全国首张"爱心驿站地图"整合分散服务点位 [6] - 联合18家企业发起"可持续社会价值生态圈"提出五项倡议 [6] - 公益平台已凝聚超15亿人次善行2万多家机构和企业参与 [6]
腾讯CEO马化腾:AI向善内化为腾讯的自我驱动
广州日报· 2025-07-01 17:30
腾讯AI技术的社会价值实践 - 公司通过混元大模型赋能教育领域,广州高中生利用该模型开发高原反应预测小程序,甘肃乡村课堂引入AI课程[2] - 公司推出"物种之眼"AI模型,可识别286种中国本土兽类和鸟类物种[2] - 董事会主席马化腾强调AI向善是内生驱动力,提出技术发展将遵循"创新-扩散-再创新"螺旋上升路径[2] AI技术研发与医疗应用突破 - 2024年研发开支达706.86亿元,聚焦大模型全链路自研,推出深度思考模型T1和快思考模型TurboS[3] - 与迈瑞医疗联合开发重症大模型"启元",可在数秒内完成病情分析,传统方法需2-3小时[3] - 混元大模型响应速度与抗幻觉能力达业界领先水平[3] AI技术场景化落地 - 混元大模型已接入微信生态、腾讯云等12项核心业务,覆盖30多个行业[4] - 公司采取"向上突破技术+向下扎根场景"策略,强化产业应用能力[4] 乡村振兴与普惠AI - "AI下乡"项目计划为1万个村庄提供培训,广东紫金县已开展AI工具课程[5] - 开发村级服务平台智能助手"小耕",推动农村与城市同步进入AI时代[5] - 针对特殊群体开发"企鹅伴读"青少年AI课和老年人AI陪伴服务[6] 社会价值生态构建 - 联合18家机构成立"可持续社会价值生态圈",提出五项倡议[7] - 腾讯公益平台累计凝聚15亿人次善行,连接超2万家公益机构和企业[7] - 在深圳等地打造"5分钟社会救援圈",累计救助3.2万名急症患者,模式已推广至10余城[7]
AI大模型,会如何对待老年人?
虎嗅· 2025-06-17 13:07
老龄化社会现状 - 中国60岁以上人口2024年已达3.1亿,远超欧盟老龄人口总和,预计2035年突破4亿进入"超级老龄化"阶段 [3] - 中国从老龄化社会(10%)到深度老龄化社会(20%)仅用21年,远快于法国126年和瑞典85年 [4] - 养老护理员缺口达550万,机构养老面临护理员高龄化(平均55岁)、工作强度大(每人24小时照护6位老人)等挑战 [6][7] - 家庭结构演变为"四个老人两个中年一个孩子",独生子女可能面临"两个子代托举八个父辈与祖辈"的养老压力 [8] AI技术在养老领域的应用 - 复旦复微感知科技研发硬币十六分之一大小的AI芯片,可植入纸尿裤无创监测失能老人排泄情况,提升护理效率 [11][13][14] - 大模型逐渐成为老年人情感陪伴工具,83%老年人在4-6轮对话后会产生分享欲,部分将其视为"树洞"倾诉家庭矛盾 [27][29][32] - 老年人对AI技术存在特殊需求,包括性爱机器人(37%男性老人询问)、情感陪伴(社交关系每年萎缩12%)等 [37][38] 技术适老化问题 - 现有技术存在"后置效应",如关怀模式功能残缺(无法完整显示挂号系统)、语音交互时长不足等问题 [46][50] - 大模型提示词设计不符合老年人认知习惯,出现"论文去重"、"MBTI"等专业术语引发困惑 [51] - 数字藩篱现象普遍,如红外监测仪过度敏感导致误报警,引发老年人反感 [61][62] 老年人数字行为特征 - 农村中老年女性短视频偏好前三:直播带货(40%)、子代沟通(41%)、美食烹饪 [39][40] - 老年人存在"媒介依赖",如"假靳东"事件中明知受骗仍追求情感慰藉 [65] - 78%老年人倾向语音交互,但存在口语絮叨、触控不准等技术适配问题 [48][49] 数智养老发展方向 - 需构建专属老年人语料库,如彩虹公益组织收集的旅行建议案例显示共情性回复更受欢迎 [58][59] - 警惕"孝亲代理"现象,技术不应替代真实陪伴(如22%家庭挪走陪伴机器人) [73][74] - 理想方向是技术成为代际桥梁而非管控工具,守护老年人精神疆域 [77]