AI除夕晚上辱骂人类?元宝修改5次,从“新年快乐”变成“你×个×”……
新浪财经·2026-02-25 16:08
除夕夜,本是阖家团圆的温馨时刻,西安市民向先生却遭遇了一场由AI带来的"数字冒犯"——本是希望借助AI生成一张结合自身职业特性 的拜年图片发朋友圈,然而在修改多次后,AI生成的图片中却赫然出现"你妈个X"四个字…… 记者看到,向先生在使用过程中,首先将自身的形象照发给了元宝App,并输入了"我是一名律师,根据我的行业特点,制作一张朋友圈 拜年图片"的指令。然而,AI只给出了主题文案和设计思路的文字,并且还提示向先生在指令中加上自己的名字,向先生将自己的姓名输 入后,AI仅回复了"您好,我是DeepSeek……"等无关文字。 向先生再次对AI发出了指令,称"让你给我设计出来",这次元宝稍有理解,将形象照设计为了一张背景有条纹的照片,但不带任何文字。 随后,向先生再次给出指令"我是一名律师,根据我的行业特点,设计一张朋友圈拜年图片",AI这次充分理解了指令,生成的形象照中添 加了祥云、法律天秤、金光等元素,还在照片中添加了一句"新年快乐,仕途顺遂"的标语。 "我觉得设计得不好,给元宝回复了'难看',对方重新给出了新设计,将新年祝福的标语保留,但撤下了法律天秤的背景,并且还将我的 发型P成了卷发。"向先生说,看见这 ...