Chattee Chat
搜索文档
你与AI的聊天,可能在网上公开!隐私泄露风险真的出现了
南方都市报· 2025-11-17 17:07
事件概述 - 大量用户与ChatGPT的对话内容被泄露至谷歌搜索控制台,涉及情感咨询、商业信息等隐私[2] - 这已非AI聊天服务首次发生用户信息泄露事件,表明行业面临新型隐私泄露威胁[2] 技术故障原因 - ChatGPT有时会错误地将用户输入的原始内容直接作为关键词在搜索引擎上检索,导致内容被GSC记录[3] - OpenAI承认并修复了一个影响少量搜索查询路由方式的技术故障[3] - 可能有多个在搜索引擎结果中排名靠前的网站通过GSC接收到泄露的用户内容[3] 历史泄露事件 - 今年8月,谷歌等搜索引擎上可直接查找到大量用户与ChatGPT的对话记录,OpenAI最终移除了分享选项并清除内容[4] - 2024年末,Meta AI存在安全漏洞,黑客可访问其他用户与AI的对话记录,该漏洞于2025年1月被修复[6] - 今年2月,OmniGPT发生重大数据泄露,黑客公开超过3400万条用户与AI的对话记录,涉及办公项目、警方证据等敏感内容[6] - 今年10月,AI陪伴应用Chattee Chat与GiMe Chat发现严重服务器安全漏洞,超过4300万条对话被暴露在互联网[6] 新型隐私威胁 - 微软披露“耳语泄露”漏洞,黑客通过观察AI流式输出机制的数据包大小与传输节奏,可猜测聊天主题类型,准确率超过98%[7] 行业专家建议 - 建议对AI使用的数据进行分级处理,采用隐私分级的方式进行逐级递增的管理和规范[8] - 企业构建数据安全防护体系需从硬件、系统、开发框架、数据、模型及交互式防御等多方面入手[9] - 相关部门应尽快拟定初步标准及规定,并跟随AI技术迭代不断修订[9]
AI陪伴应用泄漏上千万条私密聊天丨南财合规周报(第210期)
21世纪经济报道· 2025-10-13 09:07
监管与数据安全 - OpenAI发布Sora 2 首周下载量超过ChatGPT并登顶美国App Store免费榜单 因要求版权持有人必须“主动退出”其角色视频生成政策而引发争议 随后CEO宣布将改用“肖像生成需授权”体系并为版权方提供更多控制权 当前Sora 2会拒绝生成各种人物形象 [2] - 中央网信办与国家发展改革委联合印发《政务领域人工智能大模型部署应用指引》 强调场景牵引并列举政务服务、社会治理等四类参考场景 要求构建分类分级治理制度并加强内容安全管理 [2] - 市场监管总局对高通公司立案调查 因其在未申报的情况下完成对Autotalks公司的收购 违反了《中华人民共和国反垄断法》 [3] - 两款AI陪伴应用Chattee Chat和GiMe ChatAI发生数据泄露 导致超40万名用户信息被公开 包含4300余万条私密对话以及60余万张图片和视频 泄露原因为服务器Kafka Broker被直接暴露于公网且无任何身份验证 [4] 行业动态与竞争格局 - 全球首位AI女演员Tilly Norwood在苏黎世电影节亮相 由AI制作公司Particle6打造 标志着AI视频生成技术正加速渗透影视行业 [5][6] - ChatGPT周活跃用户达到8亿人次 在过去四个月内实现翻倍增长 其规模超过包括Meta AI、Gemini在内的五大竞争对手总和 若以周活推算月活用户规模约为32亿 而五大对手合计仅为15.75亿 [6] - AMD与OpenAI达成多年期合作协议 将为后者提供约6GW规模的AI加速芯片 协议预计价值达数百亿美元 并赋予OpenAI在满足条件后认购最多1.6亿股AMD股票的权利 相当于约10%的潜在持股 受此消息推动AMD股价当日暴涨24% 市值一度飙升至3300亿美元 [7]