行业挑战：AI技术普及带来的黑灰产新威胁 - AI手机等智能体的普及使得应用程序难以判断操作者是否为用户本人，触发了风控机制 [1] - 未来互联网上的操作行为将从以人为主转变为以智能体为主，这给风控带来了巨大挑战 [2] - 黑灰产正全面利用大模型技术提升其获利效率，具体体现在养号、模仿用户行为和突破传统验证手法上 [3] 黑灰产技术演进与攻击特征 - 黑灰产利用大模型自动生成贴合主题的回复内容，极大降低了养号成本，使账号行为更似真人 [3] - 黑灰产开始使用智能体调用API和自动化工具，其生成的点击、浏览等行为序列非常像真人，不再有明显的脚本特征 [3] - 多模态大模型能轻易识别图片内容（如验证码），导致传统行为验证码失效 [3] - 黑产攻击因使用高效工具而变得更隐蔽、对抗性更强 [3] 风控应对策略：AI风控新范式 - 依靠纯人工对抗黑灰产已非常困难，需构建新的应对体系 [4] - 应对体系首先由黑产研究院研究清楚作恶路径，策略团队在“攻防路径图”上标记识别、防御和处置点 [4] - 在原有积累的风控特征基础上，利用大模型自动生成风险特征，这些特征会输入到账号风险模型、行为模型等评分模型中 [4] - 未来5-10年，人类每天接触的信息将有超过50%来自AI，内容风控的进化需从“识别对象”变为“理解意图” [5] - 面对新挑战，引入基于大模型的审核智能体是应对办法之一 [5] 识别原理：反欺诈三定律 - 依据“反欺诈三定律”来区分正常AI助手与黑产机器操作 [2] - 多样性定律：正常用户的设备环境多样（如不同手机型号、系统版本、电池电量状态），而黑产设备往往型号统一、状态一致、行为模式高度相似 [2] - 一致性定律：正常人不会刻意频繁改变IP、手机号等基础信息，而黑产为注册大量账号会导致信息一致性出现断层或异常 [2] - 关联性定律：正常用户的社交关联通常也是正常用户，而黑产账号往往是孤立点或其关联“朋友”也是黑产账号 [2] - 通过分析团伙的行为序列、设备多样性、信息一致性以及关联关系，仍能有效识别黑产 [2]