动态拦截词库
搜索文档
以AI对抗AI,让大模型健康发展
新浪财经· 2026-01-29 06:02
□ 本报记者 张宣 实习生 李凌云 邱楠 朋友圈里一张再平常不过的照片,在AI大模型的"解读"之下,竟可能泄露个人身份、人际关系等诸多敏 感信息。近日,大模型的"读心术"话题冲上热搜,再度引燃大众对网络安全的热议。除此以外,个人投 喂数据遭窃密、企业遇数据投毒、提示词注入诱导越界……大模型安全隐患正多点爆发。 目前,江苏已有67款大模型通过国家生成式人工智能服务备案,落地百余个典型应用场景。面对大模型 的潜在风险,我省如何以技术、政策、协同共治构建防护网,为大模型安全应用探路?记者与多家大模 型备案企业聊了聊。 (来源:新华日报) (供图:视觉中国) 这些风险漏洞离我们的生活有多远? 不会修图的南京市民王女士在发布朋友圈前,会把自己的照片上传至大模型进行AI美化。"这种行为就 是十大风险漏洞中的敏感信息泄露,用户照片上传之后,技术人员可以通过人像识别技术把上传者身份 提取出来,通过人物的关系进行诈骗。"南京网络安全专家李虎随机打开一款大模型上传一张照片向记 者展示:大模型关联推理能力强,能快速整合个人社交动态、出行轨迹等零散数据,甚至能推断未公开 的家庭关系、职业背景,被用于精准诈骗、定向推销。 提示注入攻击 ...