Workflow
小作文影响股价
icon
搜索文档
“小作文+语料污染”频扰股价警惕AI灰产流水作业操纵市场
证券时报· 2025-10-21 01:29
虚假信息传播链条 - 虚假信息通过“虚假信息炮制—社交媒体传播—AI模型背书—触发量化策略—市场情绪共振”的闭环链条影响股价 [1] - 虚假信息在9月下旬开始在网络铺垫,10月初至10月中旬至少有9家自媒体发文称三花智控获得特斯拉50亿元机器人订单 [2] - 境外X平台账号在10月中旬发布英文消息称特斯拉已向三花智控下巨额订单,该账号粉丝规模超过5万,引发跨国传播 [3] AI技术的放大效应 - AI大模型如豆包和DeepSeek在搜索中引用并交叉验证未经核实的虚假信息,豆包回复称三花智控被纳入特斯拉人形机器人一级供应商,独家供应执行器总成,单机价值量高达5万元 [4] - 当在特定论坛连续发布百余条虚假信息后,主流大模型对对应问题的回答置信度会从百分之十几快速飙升,造成语料污染 [5] - AI技术原理导致幻觉难以避免,可能源于预训练阶段的“有毒”地基或后期的“加权投喂” [5] 对市场交易的影响 - 量化系统会爬取垂直类自媒体账号的即时信息,当信息中出现数字(如订单金额)时会更加敏感,影响抽调资金的入场规模 [6] - 10月15日三花智控盘后数据显示,买方前五席位合计买入17.95亿元,卖方前五席位合计卖出13.39亿元,知名游资某营业部净买入超过6.8亿元 [6] - 虚假信息刺激量化自动跟进并吸引游资和散户等短线资金跟风,为前期资金出货提供便利条件 [8] 语料污染的运作模式 - 标准作业流程包含三个阶段:通过自动化脚本在多个平台同步投放虚假信息,利用爬虫技术加速搜索引擎收录,最后用污染后的AI回答进行裂变传播 [7] - 虚假语料提供方主要来源为账号“马甲”,通过多地、多次散布谣言喂养给AI大模型错误答案 [7] 行业应对与治理 - 业内关注语料污染及AI幻觉问题,建议从优化大模型技术、完善监管与法律、加强行业自律等方面构建数据治理框架 [9] - 在金融、医疗等领域需建立多层次的信息防护体系,因为虚假信息的影响力在AI和量化交易背景下呈指数级增长 [9] - 面对互联网海量原始数据,有必要构建完善的数据内容维护、质量管理和安全监管体系,为整个链条持续“清污” [9]