大模型发展现状 - 当前大模型在标准考题中表现优异，但在处理涉及情感、价值观等非标准问题时仍显不足，被批评"AI味太浓，机器感太重" [1] - 行业已开始招聘名校文科人才训练大模型，目标是提升AI的情感感知能力和表达美感 [1] - 大模型水平提升关键在于掌握标准答案，但现实世界存在大量无标准答案的问题，需基于社会公序良俗建立人类偏好 [2] AI人文训练兴起 - AI人文训练师成为新兴职业，负责解决AI在情感表达、伦理判断等方面的短板 [4] - 小红书成立"hi lab"实验室，团队由985高校研究生组成，学科背景多元且具备强共情能力 [10] - 训练重点包括：情感接入、伦理边界界定、人性化表达等，目标是缩小人机思维差异 [13][14] - 该岗位更看重人文素养和批判性思维，技术占比少，目前从业者数量稀少 [10] 训练方法与案例 - 通过精细化案例研讨，将人类偏好转化为AI的信念体系，保持行为逻辑一致性 [13] - 典型案例包括：癌症患者对话设计、道德困境处理、交通违规情绪安抚等 [5][15][16] - 训练使AI回答质量从50-60分提升至80分，但情感自然流露等难题仍未完全解决 [17] 行业趋势 - AI发展进入下半场，从追求"能用"转向"好用"与"负责任地用" [10] - 后训练阶段受重视，多家公司布局：小红书设人文实验室，Soul招聘"AI灵魂训练师"，DeepSeek引入中文系学生提升文学修养 [10] - 行业共识是需建立更深层次的人机情感连接，但过度人性化可能引发新的担忧 [17] 职业发展 - AI训练师在2020年被纳入国家职业分类，初期以数据标注为主，属劳动密集型工作 [6][7] - 随着模型进化，专家型训练师需求上升，要求985学历及专业领域知识 [8] - 一线标注员多为中专/大专学历，工作内容重复枯燥，被视作"dirty work" [6][7]

行业趋势 - AI行业开始重视人文训练 全球头部大模型公司Anthropic和国内DeepSeek已率先招聘哲学、中文等人文学科背景人才参与模型后训练[3] - 人文训练属于AI模型"后训练"范畴 目前尚未成为行业通行做法 但小红书等公司已组建专门团队进行探索[3] - 人文学科背景人才在AI领域找到新机会 文科生价值在AI发展中得到体现 高校开始尝试AI与文科教育改革[28] 岗位职能 - AI人文训练师核心任务是设计AI的观念和个性 通过边界案例训练使AI回答更具"人味儿"[4][11] - 工作内容包括解析复杂情感问题 如"我得了胰腺癌"等场景 需拆解成细密问答链进行训练[8][10][11] - 需处理无标准答案的伦理困境 如在"自行车逆行被罚"案例中平衡情与法的关系[13][14] 训练方法 - 采用多学科交叉方式 融合哲学、文学、社会学等视角 如用"压缩的现代性"概念解析亲子矛盾[17] - 通过真实生活场景构建训练案例 如宠物认知、校园霸凌等 提升AI对复杂社会议题的理解[19][22] - 每日需完成数十个边界案例探讨 通过反复训练将人类价值观植入AI回答逻辑[11][16] 技术影响 - AI在情感接入方面存在缺陷 主流产品回答常显模式化 人文训练可改善这一短板[5][7] - 训练使AI能处理更复杂场景 如医疗诊断伴随的心理支持 法律与情感的平衡等[10][14] - 团队成果可能深远影响AI交互方式 目前AI性格底色已初步形成但应用仍不熟练[21] 团队构成 - 小红书团队由知名高校人文学科硕博组成 包括哲学、文学等专业背景[3][16] - 团队规模较小但专业性强 工作方式类似"柏拉图学院"式思想碰撞[16][28] - 新成员持续加入 形成人才推荐机制 体现岗位吸引力和发展潜力[28]