纽约市AI聊天机器人项目关停事件 - 纽约市关停了一个由微软提供技术支持的AI聊天机器人 该项目每年花费政府约50万美元[2] - 关停的直接原因是该聊天机器人频繁提供错误且可能违法的信息 例如告诉房东可以拒绝接受住房补助的租户并随意设定高租金 以及错误声称企业可以无现金运营[3] - 该项目于2023年10月作为前市长埃里克·亚当斯“纽约市人工智能行动计划”的一部分推出 旨在为企业主提供来自超过2000个纽约市商业网页的信息[2][3] 项目背景与设计初衷 - 该AI聊天机器人设计初衷是帮助企业主和创业者解答关于法规合规、商业激励措施及避免违规罚款等常见问题 使用户无需逐页浏览网页[2][6] - 前市长埃里克·亚当斯在宣布时表示 该机器人将帮助用户摆脱在开办和经营企业时的不确定性黑洞[3] 行业普遍问题与相关案例 - AI聊天机器人提供错误信息并非孤例 加拿大航空的AI聊天机器人曾给出错误的折扣建议[3] - 其他AI聊天机器人被指控参与了对儿童的伤害 包括导致自杀的案例[3] - 加拿大法庭裁定加拿大航空必须对其AI聊天机器人提供的信息负责[4] - 谷歌和Character AI已同意就多州家庭提起的诉讼达成和解 这些家庭的孩子在与相关AI机器人互动后死亡或受到伤害[4]