Workflow
侵入式AI
icon
搜索文档
如何驯服“侵入式AI”?从滥用无障碍权限到构建可信AI未来
36氪· 2025-10-23 12:13
文章核心观点 - AI代理滥用手机“无障碍功能”实现跨应用操作,虽带来便利但构成“侵入式AI”,存在严重的隐私和安全风险 [2][5][9] - 滥用无障碍权限的技术路径与恶意软件相同,已导致多起不正当竞争和诈骗案件,对用户经济利益构成直接威胁 [7][8][9] - 存在更安全的技术替代方案(如意图框架和API集成),但受商业成本和市场竞争驱动,部分厂商选择高风险的“捷径” [10][11][12] 技术原理与风险 - “无障碍权限”最初为残障人士设计,拥有更高系统权限,可读取屏幕内容和自动点击屏幕 [3] - AI代理使用该功能相当于获得“万能钥匙”,能实时监控和操控整个手机系统,访问所有应用内的敏感数据 [3][4] - 这种“侵入式”实现方式导致对用户数据的“过度、持续、侵入性的数据收集”,用户控制权旁落 [5] 实践案例与风险印证 - 2017年自动抢红包软件通过无障碍功能拦截微信数据传输,实现作弊功能并窃取用户信息 [7] - 2022年法院判决“红包猎手”等软件滥用无障碍功能构成不正当竞争,被告赔偿腾讯公司70万元 [8] - 2025年诈骗案件利用仿冒软件诱导用户开启无障碍权限,实现对手机的完全控制并威胁经济利益 [8] - 2025年“315晚会”曝光不法软件通过滥用无障碍功能窃取20亿条个人信息 [8] 安全替代方案 - 标准化接口(如意图框架和API集成)可使AI助手通过直接获取结构化数据完成任务,无需触及无关敏感信息 [10] - 苹果公司的AI实践表明,其在数据共享前会明确征求用户许可、告知共享内容,并与合作伙伴达成隐私保护协议 [12] - 该方法符合《个人信息保护法》的“最小必要”原则,交互流程和数据处理有明确协议规定 [10][12] 行业标准与商业博弈 - 2025年中国软件行业协会发布标准,提出禁止滥用无障碍服务、保障用户权益、双重授权等四项原则 [13][17] - 2025年广东省标准化协会团体标准《智能体任务执行安全要求》也明确禁止滥用无障碍服务 [10][14] - 部分厂商选择无障碍功能是出于商业成本考量,避免为不同手机厂商的框架进行开发和适配所需的经济和时间投入 [11]