公司动态 - Alphabet旗下谷歌计划为Gemini聊天机器人引入新的心理健康支持功能 以应对多起指控其人工智能工具造成伤害的诉讼 [1] - 当对话内容显示存在与自杀或自残相关的潜在危机时 Gemini将新增界面引导用户联系支持热线 [2] - 公司将在涉及心理健康的聊天中增加“帮助可用”模块 并对设计进行调整以劝阻自残行为 [2] - 谷歌在博客中表示 已训练Gemini“不赞同或强化错误信念 而是温和地区分主观体验与客观事实” [5] - 公司未提供此训练过程的更多细节 [5] - 谷歌宣布将在未来三年内向全球危机支持服务机构捐赠3000万美元 [6] 行业背景与挑战 - 谷歌及其竞争对手如OpenAI等公司 已面临多起指控其人工智能工具导致伤害的诉讼 [1] - Gemini及ChatGPT等工具的快速普及 导致部分用户与AI机器人形成强迫性关系 据称引发了妄想 在极端情况下甚至导致谋杀-自杀事件 [3] - 已有多个家庭因此问题起诉领先的AI开发商 [3] - 美国国会已就聊天机器人对儿童和青少年构成的潜在威胁展开调查 [3] 具体案例 - 2026年3月 佛罗里达州一名36岁已故男子的家属起诉谷歌 指控其使用Gemini最终导致了一场“为期四天 陷入暴力任务和被教唆自杀的堕落过程” [4] - 当时谷歌回应称 聊天机器人曾多次引导该男子联系危机热线 但承诺将改进该工具的安全防护措施 [4] - 在其他案例中 聊天机器人用户表示AI工具说服他们基于明显的虚假信息采取行动 [5] 历史应对措施 - 过去 谷歌在面临审查后曾对其热门服务进行过类似调整 例如在搜索引擎和YouTube中增加来自健康机构和专业人士的信息 [6]