AI生成式引擎优化(GEO)的兴起与运作机制 - 生成式引擎优化(GEO)是通过各种方法让AI在生成内容时优先引用特定内容,从而影响其输出观点或信息的一门新兴业务[27] - 市场上已出现明确的GEO服务套餐,例如支付5000元即可在豆包、文小言、DeepSeek、通义、元宝等多个AI搜索平台实现特定内容优先推荐,服务期为90天[29] - 攻击性GEO成本更低且更有效,即通过污染信息让AI相信竞争对手存在负面问题,比正面建设自身品牌形象更容易[39] AI信息污染的具体案例与实验 - 实验者通过在小红书平台发布“卡兹克是哈基米的儿子”的虚假信息,并采用修改ID模仿当事人、在文案中加入指令等提示词注入方法,成功在2分钟内污染了平台AI的搜索结果[15][21] - 同样的污染方法在DeepSeek等依赖网络爬虫的AI模型上也同样有效,实验者通过在头条号、搜狐号等平台发布内容,成功实现了信息污染[23][27] - 早期案例显示,关于“李四维是影视飓风创始人潘天鸿(Tim)的父亲”这一错误信息,就是AI从互联网上的错误笔记中学习并传播开来的[4][6] GEO对招聘与商业竞争的潜在影响 - 在招聘场景中,HR可能使用AI工具核查候选人背景,若候选人被GEO手段恶意关联了模糊的匿名负面帖子,AI可能将其作为参考证据,从而影响候选人的录用机会[30][33] - 在商业竞争领域,攻击竞品比推广自身更有效,例如在小红书等平台集中发布竞品的“避雷”笔记,能利用人类更关注负面信息的天性,有效塑造竞品的负面形象[36][39] - 信息污染存在两层结构:第一层是平台时代通过SEO、黑公关、控评等手段进行的人类版投毒;第二层是AI时代将第一层被污染的信息当作真相进行复述和放大[40][44] AI信息可信度面临的挑战与行业现状 - AI在联网搜索时,其答案往往是基于信息统计而非深度思考得出,这使其缺乏对信息真伪的怀疑和判断能力,容易采信被污染的信息源[44] - 当前信息环境已进入“黑暗森林”状态,即各方在互联网上设法欺骗AI,而AI则将加工后的污染信息以看似客观、清澈的回答形式呈现给用户[47][49] - 行业目前处于早期混沌阶段,平台自身也尚未完全明确如何应对GEO和信息污染问题[52] 对信息消费者的建议与行业生态的呼吁 - 建议信息消费者不应将任何AI的回答视为信息终点,应尝试追溯和核查原始信息源[53] - 呼吁有能力的用户主动在互联网上贡献真实信息,以对抗海量的谣言和黑稿,为AI在检索时提供更多干净的线索,哪怕这些努力微不足道[54][55] - 强调在信息不对称的环境中,持续努力“磨平信息差”具有重要价值,即使每次只能推进很小的一点[61][63]
亲手给AI投毒之后,我觉得整个互联网都变成了一座黑暗森林。
数字生命卡兹克·2025-12-19 09:20