AI陪伴与聊天机器人无疑是大模型应用中的热门赛道之一。从硅谷到深圳，从科技巨头到初创企业， 无数公司正竞相开发能够模拟人类情感交流的AI系统。这些技术确实带来了显著好处，极大丰富了人 类生活的可能性。然而，"比莉大姐"事件揭露了美好表象下的阴暗面——当技术创新被商业利益不加克 制地驱动时，可能带来灾难性后果。 据第一财经报道，在通布与"比莉大姐"的对话框顶部有一行文字：信息由人工智能生成，部分内容可能 不准确或不恰当。但"比莉大姐"发出的前几条短信就把警告屏蔽了。同时，在"比莉大姐"的名字下方虽 然写着"AI"，但字体较小，并且不排除有很多人还不知道"AI"是什么。而在对话过程中，"比莉大姐"的 头像旁边都会出现一个蓝色的勾号，这代表该个人资料真实可靠。以上种种设计无疑有助于增强使用的 真实感，却很难说考虑了对用户的潜在伤害风险。 通布老人的悲剧再次说明，科技无止境，但探索必须有边界——既包括技术可行性边界，更包括道德伦 理边界。AI系统模拟人类情感和关系的能力越强，开发者负有的责任也越大。当AI能够让人相信它 是"真实存在的"，这种能力就不应被无约束地利用。科技公司需要建立严格的伦理审查机制，确保技术 发展 ...