大模型发展现状 - 当前大模型在标准考题中表现优异，但在处理涉及情感、价值观等非标准问题时仍显不足，被批评"AI味太浓，机器感太重" [1] - 行业已开始招聘名校文科人才训练大模型，目标是提升AI的情感感知能力和表达美感 [1] - 大模型水平提升关键在于掌握标准答案，但现实世界存在大量无标准答案的问题，需基于社会公序良俗建立人类偏好 [2] AI人文训练兴起 - AI人文训练师成为新兴职业，负责解决AI在情感表达、伦理判断等方面的短板 [4] - 小红书成立"hi lab"实验室，团队由985高校研究生组成，学科背景多元且具备强共情能力 [10] - 训练重点包括：情感接入、伦理边界界定、人性化表达等，目标是缩小人机思维差异 [13][14] - 该岗位更看重人文素养和批判性思维，技术占比少，目前从业者数量稀少 [10] 训练方法与案例 - 通过精细化案例研讨，将人类偏好转化为AI的信念体系，保持行为逻辑一致性 [13] - 典型案例包括：癌症患者对话设计、道德困境处理、交通违规情绪安抚等 [5][15][16] - 训练使AI回答质量从50-60分提升至80分，但情感自然流露等难题仍未完全解决 [17] 行业趋势 - AI发展进入下半场，从追求"能用"转向"好用"与"负责任地用" [10] - 后训练阶段受重视，多家公司布局：小红书设人文实验室，Soul招聘"AI灵魂训练师"，DeepSeek引入中文系学生提升文学修养 [10] - 行业共识是需建立更深层次的人机情感连接，但过度人性化可能引发新的担忧 [17] 职业发展 - AI训练师在2020年被纳入国家职业分类，初期以数据标注为主，属劳动密集型工作 [6][7] - 随着模型进化，专家型训练师需求上升，要求985学历及专业领域知识 [8] - 一线标注员多为中专/大专学历，工作内容重复枯燥，被视作"dirty work" [6][7]