文章核心观点 Check Point Software Technologies Ltd.发布首份AI安全报告，深入探讨网络罪犯如何利用人工智能发动网络攻击，并为防御者提供应对策略 [1] 关键威胁洞察 - AI增强的假冒和社会工程：威胁行为者利用AI生成逼真实时的网络钓鱼邮件、音频假冒和深度伪造视频，如攻击者用AI生成音频模仿意大利国防部长 [5] - LLM数据投毒和虚假信息：恶意行为者操纵AI训练数据使输出结果产生偏差，如俄罗斯虚假信息网络Pravda的AI聊天机器人33%的时间重复虚假叙述 [5] - AI创建的恶意软件和数据挖掘：网络罪犯利用AI制作和优化恶意软件、自动化DDoS攻击并优化被盗凭证，如Gabbers Shop用AI验证和清理被盗数据以提高转售价值和目标效率 [5] - AI模型的武器化和劫持：攻击者绕过安全机制，将AI作为黑客和欺诈工具在暗网商业化，如被盗的LLM账户和定制的Dark LLMs（FraudGPT和WormGPT） [5] 防御策略 - AI辅助检测和威胁狩猎：利用AI检测AI生成的威胁和痕迹，如合成网络钓鱼内容和深度伪造 [5] - 增强身份验证：采用多层身份验证，考虑AI在文本、语音和视频方面的假冒手段 [5] - 结合AI背景的威胁情报：为安全团队提供识别和应对AI驱动策略的工具 [5] 公司介绍 Check Point Software Technologies Ltd.是数字信任的领先保护者，利用AI网络安全解决方案保护全球超10万家组织，其Infinity平台采用以SASE为核心的混合网状网络架构，统一管理本地、云和工作区环境 [7]