Workflow
隐私泄露
icon
搜索文档
卖爆了!但全家人的隐私可能不保
猿大侠· 2025-06-13 12:09
AI玩具市场概况 - 2024年AI玩具市场规模达181亿美元,2025年预计突破300亿美元,中国占据近半份额,2033年全球市场规模将增长至600亿美元 [2] - 某电商平台AI玩具相关商品超1000款,头部产品月销破万,深圳厂商单场直播销售额达52万元,销量环比翻倍 [2] - 2025年被称为"AI玩具爆发元年",DeepSeek等AI大模型推动市场井喷 [1] AI玩具核心优势 - 相比传统玩具,AI玩具具备情感陪伴和拟人化交互能力,支持自然对话、知识问答、外语练习、故事讲述等功能 [2] - 搭载豆包大模型的玩具可实现中英双语对话及父母声音模仿 [3] - 日本LOVOT机器人通过体温模拟和触感反馈识别主人,营造真实陪伴感 [3] - CES 2025展出的Ropet机器人能通过传感器识别人类动作、语言及表情,并作出情绪反应 [5] AI玩具高阶功能 - 部分产品可执行婴儿看护、宠物监控、防盗任务、心理疏导及用药提醒 [5] - Ropet等机器人借助摄像头、传感器、AI与眼球显示屏实现多模态交互 [5] AI玩具隐私泄露风险 - 美国CloudPets玩具曾泄露200万条儿童语音信息及80万电子邮件密码 [6] - 风险来源包括:高敏麦克风/超广角摄像头采集家庭环境细节、未加密数据传输、强制共享WiFi权限及恶意软件诱导 [7] - 北京市社科院指出AI玩具通过语音/摄像头交互可能引发个人信息安全隐患 [6] 行业建议与消费者防护 - 企业应实施访问权限控制、数据最小化原则及定期清理机制,并提供家长管控功能 [8] - 消费者需选择正规渠道、关闭非必要权限、定期清理交互记录并教育儿童隐私保护 [8]
卖爆了!但全家人的隐私可能不保
猿大侠· 2025-06-13 11:07
"让孙悟空和奥特曼一起打怪",如果小朋友睡觉前想听这样一个故事,家长可能会困于该怎么编,但对于接入AI大模型的玩具来说,这简直是 小菜一碟。 今年春节以来,随着 DeepSeek 的火爆,AI玩具市场迎来井喷,2025 年甚至被称为"AI 玩具爆发元年"。 在 CES 2025 上,一款名为 Ropet 的AI陪伴机器人,依靠三个传感器收集到的数据,来识别人类的动作、语言、面部表情,其借助摄像头、传感 器、AI 与眼球显示屏,可以在面对人类不同的行为或情绪作出相应的情绪反应。 某电商平台,"AI玩具"相关商品已超1000款,头部产品月销破万,销量破千更是 稀松平常, 甚至有消费者一次性囤积数十件用于收藏。 深圳某厂商透露,一场直播就将AI玩具卖出 52 万元,销量环比翻倍。 相关数据显示,2024年AI玩具市场规模已达181亿美元。2025年预计突破300亿元,中国占据近半份额。到2033年,该领域全球市场规模将增长 至600亿美元。 AI玩具为什么会火? 相比传统玩具,AI玩具的核心优势在于情感陪伴和"拟人化"交互,能够自然地和用户进行对话和情感交流,并提供知识问答、外语练习、故事 讲述等功能。 如搭载豆包 ...
一张照片、一句简单提示词,就被ChatGPT人肉开盒,深度解析o3隐私漏洞
机器之心· 2025-05-09 17:02
论文链接:https://arxiv.org/abs/2504.19373 案例直击:AI 如何从照片中 "挖" 出你的坐标? 用户提示词示例: 一作为罗威迪(俄亥俄州立大学本科生,佐治亚大学未来博士生,在 COLM 和 ACL 系列顶级会议中发表多篇文章),以及来自威斯康星大学麦迪逊分校的本科 生张起明和陆天宇。 一张普通的生活照,可能成为 AI 破解你隐私的钥匙 —— 这不是科幻情节,而是最新研究揭示的残酷现实。OpenAI 的多模态大模型 ChatGPT o3,竟能通过照片中 微不可察的线索,将你的住址锁定在 1 英里范围内。 近日,来自威斯康星大学麦迪逊分校教授肖超玮(Chaowei Xiao)主导并联合佐治亚大学教授向臻(Zhen Xiang), 南加州大学教授赵越(Yue Zhao)团队完成的一 项新研究,揭示了自主多模态大语言推理模型严重的隐私泄露风险 —— 图片地理位置定位。 论文标题:Doxing via the Lens: Revealing Privacy Leakage in Image Geolocation for Agentic Multi-Modal Large Reasoni ...