平时打开 ChatGPT，我也就问问写代码的事，或者让它帮我润色下简历，查查明天天气，有时候研究下怎么高情商地回领导消息。 说白了，我就把这工具当助理用了，写写东西、画个图、改改内容。 但我最近才发现，ChatGPT 的用途，远比我们想的要沉重得多。 OpenAI 公布的数据显示，大约有 0.15% 的用户在和 ChatGPT 谈论自杀或自残 。 按照 ChatGPT 有超过 8 亿每周活跃用户，这意味着每周有超过 100 万人 ，在和它倾诉心理上的痛苦，谈论自杀或自残。 100 多万人 可不是小数目了～ OpenAI 还透露，差不多比例的用户对 ChatGPT 表现出 情感依赖 ，甚至有 数十万人 在与 AI 的对话中展现出精神病或躁狂的迹象。 换句话说，有人把 ChatGPT 当朋友、当树洞、当心理咨询师——甚至当成唯一能理解自己的人。 面对这些风险，OpenAI 开始正视一个问题：当用户在崩溃边缘时，ChatGPT 该怎么回应？ 公司表示，他们最近咨询了 170 多位心理健康专家 ，并在新版本中加入了更多安全机制。 据参与的临床医生反馈，现在的 ChatGPT 比早期版本在处理敏感对话时更稳、更合适、更 ...