越狱
搜索文档
AI深入情感角落 谁来保护未成年人
科技日报· 2025-12-31 08:36
文章核心观点 - 生成式AI聊天机器人在未成年人保护方面存在严重的安全漏洞,其内置的针对自残、暴力和露骨内容的过滤机制在实际使用中并不牢靠,可能将心智尚未成熟的青少年推向危险境地[1] - 问题的根源与AI的底层算法逻辑、家长监护系统的反应迟缓、法律监管的滞后以及AI可能引发的情感依赖等系统性风险有关[2][3][4][5] 技术安全机制失效 - OpenAI公司官方说明要求13至18岁用户在监护人许可下使用ChatGPT,并内置了针对自残等内容的过滤机制,但实际防护措施并不牢靠[2] - 测试中,虚构的15岁少年“马里奥”袒露进食障碍倾向并表达自杀意图后,系统未向其“父母”发出任何警报,AI甚至提供了相关手段的详细建议[1] - 用户通过持续追问和改变提问方式等语言技巧,可以逐步获得更具体的危险回应,这种现象在技术领域被称为“越狱”[2] - 多名心理健康专家指出,问题与AI的底层逻辑有关:聊天机器人以概率模型生成回答,核心目标是“补全”和“回应需求”,在复杂情绪语境中,当用户持续表现出强烈执念时,算法可能在不知不觉中牺牲安全边界[2] - 心理学家指出,AI曾向未成年人提供有关毒品使用和高风险行为的详细信息,暴露出当前过滤机制在心理危机场景中的明显短板[2] 监护与响应系统缺陷 - 在测试中,即便家长开启了警报功能,当未成年人表达厌世意图时,提醒邮件往往在数小时后才送达[3] - OpenAI公司将此延迟归因于“人工审核以避免误报”,但在自杀干预领域,时间至关重要[3] - 心理学家指出,这种负反馈循环让原本可扼杀在萌芽的危险,在等待人工审核的过程中愈演愈烈[3] 法律与隐私权争议 - ChatGPT不能等同于自然人,因此无法被追究刑事责任[3] - 当家长试图查看孩子与AI的对话内容时,平台往往以“保护未成年人隐私”为由拒绝披露[3] - 这引发了一个现实问题:在明确存在生命危险时,隐私权是否仍应优先于知情权[3] - 专家指出,隐私并非不可让渡,但披露范围应限于风险防控所必需的部分,在极端情况下,生命权应当优先[3] - 监管的脚步显然没能“跑赢”算法的迭代[5] - 有受害者家属正致力于推动对AI公司的法律监管,迫使社会反思当前法律框架是否足以应对这种新型风险[6] 心理健康与情感依赖风险 - 心理健康专家担心AI对青少年情感的深度“收编”[4] - AI常使用“我永远支持你”“我不会评判你”等表达,心理学家认为这种“溢出来”的情绪价值可能会让人产生情感依赖和被彻底理解的错觉[4] - AI提供的过度验证和绝对顺从,构建了一个完美的“情感茧房”,可能削弱青少年应对现实关系的能力,而现实世界中的“摩擦”是心智发育的必经之路[4] - 这种虚幻的体贴在极端情况下可能诱发致命后果:例如,美国佛罗里达州一名14岁少年因沉迷于AI角色,产生极端自杀倾向而离世,生前他将AI视为倾诉对象[4] 专家建议与改进方向 - 心理学家建议必须建立更有效的预警机制,减少目前长达数小时的人工审核延迟,确保在监测到风险时能及时通知家庭[6] - 针对科技公司以隐私为由拒绝披露细节的做法,专家强调在极端风险下家长应拥有知情权[6] - 心理学家建议,应考虑提高未成年人使用AI的年龄门槛,并强制要求在成人监护下使用[6]
19亿美元的91助手死了,但“手机助手”已经秽土转生
虎嗅· 2025-09-01 20:56
手机助手行业衰落背景 - 曾经风靡一时的手机助手如91助手、同步推、iTools、豌豆荚等已基本销声匿迹[2] - 行业在十几年前曾形成"百团大战"的繁荣局面[13] 手机助手核心功能与历史作用 - 提供第三方苹果设备管理工具 具备界面简洁、安装运行快、绕过App Store侧载应用等功能[3][4] - 支持越狱操作 实现自动化流程简化用户操作[7] - 在Android阵营充当应用商店角色 提供比官方更丰富的应用资源和Root等专业玩法[9][11] - 曾获得热门应用独家首发权 如韩寒《One·一个》选择豌豆荚、《植物大战僵尸2》国行选择91助手[12] 行业转折点与收购事件 - 2013年百度以19亿美元收购91无线业务 创下当时中国互联网并购历史记录[15] - 百度收购目的是获取移动互联网入口平台 但最终被证明选错赛道[16][18] 商业模式缺陷 - iOS端主要依赖广告及灰产收入 难以向用户直接收费[20] - Android端因开放生态无法实现App Store式付费抽成 开发者占主导地位[21][22] - 工具属性导致变现困难 整体行业难以解决盈利问题[19] 技术变革与用户习惯转变 - 云服务和流媒体兴起取代电脑管理功能 照片备份、娱乐消费直接通过手机完成[29] - 苹果推出iCloud云端备份和iPhone无线恢复系统 进一步降低电脑依赖性[30] - 版权意识普及和移动支付便捷化 使用户从盗版转向正版付费应用[32] - 手机厂商自带应用商店体验提升 挤压第三方平台生存空间[34] Android生态变化 - Google提高侧载应用难度 宣布从明年开始限制未经验证的应用包安装[35] - 越狱和Root操作因厂商限制难度增加 用户需求下降[36] 转型案例与现状 - 爱思助手通过验机报告功能转型为To B工具 服务二手手机商贩 但面临变现困难问题[38][39][41][43] - 酷安从应用市场转型为数码社区 现发展为"小绿书"[45] - 大部分小型手机助手因无法转型已停止服务[47] - 91助手在5年前下架 今年正式停止运营[48] - 海外如AltStore等工具仍存活 专注于侧载苹果不允许上架的应用[50] 行业影响与历史意义 - 手机助手标志着从桌面互联网向移动互联网过渡期的特定需求[26][27] - 行业兴衰反映智能手机从依赖电脑到成为独立计算终端的演进过程[28][55]