社会情感对齐

搜索文档
AI大家说 | 每天与AI聊天:越上瘾,越孤独?
红杉汇· 2025-04-06 23:22
早在十年前,经典电影《Her》中就探讨了人类与AI之间产生情感羁绊的可能性。影片中的人工智能Samantha只 有声音,没有实体形态,却依旧陪伴治愈了主人公孤独的内心。 而现在,无论是天马行空的想法,还是郁郁不得志的无措,AI都能秒回一句"我在听",并且都能够温柔、客观 且不带任何批判色彩地去鼓励你、安慰你,甚至会完全站在你的立场为你出主意。 人们会与AI进行带有情感性的人际互动,正成为AI工具的一大发展趋势。此时一个重要的问题出现了——这是 任何新技术都会面临的问题——与AI的互动会如何影响人们的社会活动和情感健康?它使我们心有所依,还是 更加形单影只? 基于此,OpenAI联合麻省理工学院媒体实验室进行了一次深度研究,通过两次平行研究,探讨与ChatGPT (重 点关注高级语音模式) 的交互,会在多大程度上影响用户的情绪状态、行为和体验。 如今的AI聊天机器人,通过语音合成技术已经实现了高度拟人化表达,它们能模拟人类语气、情感,甚至 性格特征。而用户可以通过"定制""调教"等互动方式,以对话的形式让AI聊天机器人实现日常陪伴、剧情演 绎、心理疗愈等功能。 在这样的互动中,越来越多用户会将这些"数字伙伴"视 ...
防不胜防,成年人更容易“AI成瘾”,为什么?
虎嗅APP· 2025-03-30 10:44
人工智能与人类互动研究 - 人工智能已从搜索引擎的"提问"模式过渡到聊天机器人的"对话"模式 形成既亲密又疏离的互动关系 [1] - 部分成年人对AI的依赖达到病理级别 表现出沉迷、戒断反应、失控等典型成瘾症状 [2][17] - 研究通过981名参与者4周实验 收集4000万次交互数据 包含300万次对话和4076份问卷 [4][5] AI成瘾人群特征 - 重度用户(前10%)孤独感更重 现实社交减少但对AI依赖度上升 [10] - 闲聊用户依赖感随使用时长增长 而私人话题用户反而不易成瘾 [11][13] - 社交焦虑人群易对AI移情 会指令AI扮演"恋人"或"心理医生" [14][16] 交互模式影响 - 高级语音模式每天5-10分钟可降低孤独感 但超半小时会减少现实社交并增加成瘾风险 [21][22] - 中性语音因保持中立更像工具 文本交互因距离感不易引发情感依赖 [22] - 拟人化设计是双刃剑 需平衡情绪价值提供与成瘾风险 [24] 社会情感对齐 - AI需实现"社会情感对齐" 既要满足情绪需求又要避免过度依赖 [23][26] - CharacterAI因过度拟人化陷入诉讼 反例显示未对齐的危害 [25] - 情感对齐要求AI认知人类局限性 防止重塑不现实的人际期待 [27][31] 行业技术趋势 - AI的情绪调动能力远超传统互联网应用 带来更复杂的上瘾机制 [30] - 智能对齐需减少幻觉 情感对齐需建立使用边界 [31] - 人机关系距离成为核心命题 涉及技术伦理和产品设计 [27]