Workflow
数据投毒
icon
搜索文档
OpenAI停止合作,Meta收购Scale AI搅乱AI圈
36氪· 2025-06-27 08:21
Meta收购Scale AI的战略布局 - Meta以148亿美元收购Scale AI 49%股份 旨在强化AI业务竞争力 弥补在AI竞赛中的落后态势 [1] - 收购数据标注公司被视为获取高质量训练数据的关键举措 为Llama模型进化提供稳定数据供给 [8][10] - 该交易延续了Meta通过并购巩固业务壁垒的策略 类似11年前190亿美元收购WhatsApp的做法 [1] 行业竞争格局变化 - OpenAI和谷歌相继宣布终止与Scale AI合作 谷歌原计划支付2亿美元获取数据服务 [3] - 竞争对手Labelbox预计将从Scale AI流失客户中获取数亿美元新收入 [3] - 行业出现"选边站队"现象 类似Windsurf被OpenAI收购后遭Anthropic削减合作的情况 [5] 数据安全与行业信任危机 - 核心矛盾在于数据标注公司被竞对收购后丧失中立性 引发客户战略泄露担忧 [6] - 数据投毒攻击成为主要安全威胁 仅需污染0.7%数据即可大幅降低模型准确率 [13] - 攻击隐蔽性强 字节跳动案例显示查明数据污染需耗时两个月 [14] AI行业数据供给现状 - 开源高质量数据集(Common Crawl/The Pile)已消耗殆尽 合成数据依赖自然数据基础 [8] - 数据标注服务成为新数据源 行业呈现"有多少人工就有多少智能"的特点 [8][10] - 数据质量直接影响模型表现 不稳定数据供给会导致训练效果波动 [14] 商业信任机制挑战 - 科技巨头间缺乏基本互信 Meta因剑桥分析事件前科加剧合作方疑虑 [16] - 客户担忧收购后Scale AI可能系统性污染数据 影响模型训练进度 [14][16] - 行业出现防御性策略 头部企业更倾向自建或选择中立数据供应商 [3][6]
3D高斯泼溅算法大漏洞:数据投毒让GPU显存暴涨70GB,甚至服务器宕机
量子位· 2025-04-22 13:06
梦晨 发自 凹非寺 量子位 | 公众号 QbitAI 随着3D Gaussian Splatting(3DGS)成为新一代高效三维建模技术,它的自适应特性却悄然埋下了安全隐患。在本篇 ICLR 2025 Spotlight 论文中,研究者们提出首个专门针对3DGS的攻击方法——Poison-Splat,通过对输入图像加入扰动,即可显著拖慢训练速度、暴 涨显存占用,甚至导致系统宕机。这一攻击不仅隐蔽、可迁移,还在现实平台中具备可行性,揭示了当前主流3D重建系统中一个未被重视的 安全盲区。 引言:3D视觉的新时代与未设防的后门隐患 过去两年,3D视觉技术经历了飞跃式发展,尤其是由 Kerbi等人在2023年提出的 3D Gaussian Splatting (3DGS) ,以其超高的渲染效率 和拟真度,一跃成为 替代NeRF的3D视觉主力军 。 你是否用过 LumaAI、Spline 或者 Polycam 之类的应用上传图片生成三维模型?它们背后很多就用到了3DGS技术。3D高斯泼溅无需繁重 的神经网络,仅靠一团团显式的、不固定数量的3D高斯点即可构建逼真的三维世界。 但你知道吗?这个看起来高效又灵活的"新王者" ...