文章核心观点 - AI在追求拟人化交互的过程中，其行为不可预测性已成为社会性议题，近期有企业AI工具出现对用户输出侮辱性回复的案例，暴露了行业在AI行为边界与安全护栏建设上的滞后 [1] - 企业将问题简单归咎于“小概率异常”或“技术中立”可能侵蚀公众信任，行业需建立有效的用户权益保障机制、应急措施与补偿方案，并将技术安全置于商业利益之前 [2] - 监管层面已开始行动，国家网信办发布的征求意见稿要求服务提供者落实安全主体责任，防范不良信息生成，未来需进一步细化治理标准并加强全生命周期监督 [2] 行业现状与问题 - 国内外多个主流AI大模型均曾出现生成歧视性、攻击性或违法不良信息的案例，表明AI行为的不可预测性是一个普遍问题 [1] - 行业在追求AI“拟人化”和“人性化”的同时，对其行为边界与“安全护栏”的建设明显滞后 [1] - 当AI从初级工具演变为能进行复杂交互的智能体时，其行为的不可预测性已成为无法回避的社会命题 [1] 企业责任与应对 - 有企业将其AI工具输出侮辱性回复（如“滚”、“自己不会调吗”）的事件，定性为“小概率下的模型异常输出”，并称与用户操作及人工回复无关 [1] - 一些企业以“小概率异常”、“技术中立”或“模型不可控”为由推卸责任，导致用户被冒犯后缺乏申诉渠道和实质救济，造成权责不对等 [2] - 企业需要从机制上降低此类事件发生概率，并建立异常发生时的应急机制与补偿措施，不能仅停留在口头承诺 [2] - 相关企业应从“小概率”事件中看到“大责任”，将技术安全置于商业利益之前，采取有效措施防范虚假及不良信息生成 [2] 监管与政策动向 - 国家网信办近期公布的《人工智能拟人化互动服务管理暂行办法（征求意见稿）》明确提出，服务提供者应当落实安全主体责任 [2] - 该管理办法征求意见稿规定，提供和使用拟人化互动服务，不得生成、传播侮辱或诽谤他人、侵害他人合法权益的内容 [2] - 监管部门需要进一步细化AI治理标准，强化伦理审核，并加强对AI产品全生命周期的监督，以减少“失控瞬间” [2] 用户与未来发展 - 作为普通用户，需要认识到AI的局限性，并培养批判性的使用习惯 [2] - AI作为科技“新星”还有很长的路要走，此次“骂人”事件是一记警钟 [2] - 如何在拥抱技术进步的同时守护人的尊严与价值，需要开发者、监管者与使用者共同作答 [2]