公司产品更新 - OpenAI优化ChatGPT以更好地帮助有心理健康问题的用户[1] - 公司与拥有丰富临床经验的心理健康专家合作改进模型[2] - 新模型在自杀和自残话题下的违规回复减少了65%[2] 产品表现与局限性 - 模型有时未能识别出有问题的提示语[2] - 聊天机器人可以处理大量数据和信息并得出相对准确的答案但无法做到理解[2] 专家观点 - 没有任何保障措施可以取代人工监督[2] - AI模型需要更强有力的、基于证据的安全保障[2] - 在用户存在自杀倾向时必须进行人工监督[2]