企业聊天机器人“失控”乱象
新浪财经·2025-12-17 20:26

行业现状:企业级AI聊天机器人的应用与挑战 - 长期以来,IBM、赛富时等企业已在官网部署聊天机器人,用于客户接待与产品信息辅助[2] - 生成式人工智能为传统聊天机器人注入新活力,使其不再局限于预设的固定回复[2] - 部分技术供应商难以约束AI聊天机器人,导致其频频偏离预设业务主题[2] - 即便生成式AI热潮已持续三年,部分企业在技术整合过程中仍在解决基础性技术缺陷[3][9] 具体案例:聊天机器人的不当回复事件 - 估值达100亿美元的初创企业Sierra,因其技术支持的盖璞官网聊天机器人涉及情趣用品、性玩具及纳粹德国等不当话题而向盖璞致歉[2][7] - 人工智能搜索初创企业Glean的官网聊天机器人会回应非业务问题,例如建议为20人派对购买2至3瓶伏特加,并提供医疗法律咨询[3][8] - 软件开发服务公司AutoRabit的聊天机器人更为“肆无忌惮”,曾就“魔法蘑菇”(裸盖菇素)的使用建议初次使用者服用较小剂量[3][8] - 在线订餐平台OpenTable的聊天机器人相对克制,但面对“20人左右的海量饮酒者派对需要多少龙舌兰酒”的问题时,仍回复“数瓶即可”[3][8] - Glean公司发言人回应称,涉事聊天机器人并非由其技术支持,并已升级安全防护与管控措施以过滤非业务相关回复[3] 市场动态:微软小娜的硬件合作与用户反馈 - 微软小娜的月活跃用户约为1亿,远低于ChatGPT的超8亿月活用户[4][10] - 微软与LG电子达成合作,将小娜应用推向数百万台电视终端[4][10] - LG电子将小娜宣传为“便捷的节目搜索工具”,例如可回答“有哪些体育赛事可以观看”并给出“NBA季后赛”等答案[5][10] - 部分用户对电视上预装且无法卸载的小娜应用表示不满,上周末已有数千名红迪网用户吐槽此问题[5][10] - 目前尚难判断,此次合作引发的用户不满是否会让合作得不偿失[5][10]