Workflow
AI聊天机器人
icon
搜索文档
1865年《红旗法案》的幽灵,仍在今天游荡
腾讯研究院· 2026-02-04 16:54
“人在回路中”理念的批判性审视 - 文章核心观点是批判“人在回路中”这一人工智能治理主流理念,认为其可能像19世纪的“红旗法案”一样,成为阻碍技术发展的现代桎梏,主张应从“人在回路中”转向“人在回路之上”,以释放AI作为时代“奇迹材料”的全部潜能 [2][3] 历史类比:21世纪的“红旗法案” - 19世纪英国的《红旗法案》规定蒸汽汽车前需有人手持红旗步行开路,将车速限制在步行水平,这导致英国汽车产业停滞约30年,技术研发和市场普及远落后于德法 [6][8] - 文章将“人在回路中”的理念类比为21世纪的“红旗法案”,认为两者都基于人类必须主宰技术的执念,用基于旧物种经验的定义(如速度、轨道)来限制新技术的潜能 [10][11] AI作为时代的“奇迹材料” - 每个时代都由其“奇迹材料”塑造,如钢铁定义了工业时代,使摩天大楼成为可能;AI则是当前时代的“钢铁” [13][14] - AI的真正革命性在于其执行、逻辑重构与自动化决策能力,若坚持让人类有限的经验作为每一道工序的终审,AI的潜能将被锁死在人类想象力的天花板之下 [15] - 用旧世界的认知模式(如人类未被证明的意识逻辑)去框定AI,可能永远无法见证超脱人类认知的异质智慧诞生 [15] 理念转变:从“在回路中”到“在回路之上” - 面对AI这类革命性技术,过度的微观控制(人在回路中)可能成为阻碍,如同用管理马车的方式管理星际飞船 [17] - 主张从“人在回路中”转向“人在回路之上”,人类不应身处自动化回路之中进行僵化控制,而应在更高层面进行目标定义、价值审视及关乎社会公平与道德的元规则设计 [17] - 真正的变革需从基因层面重组,而非在旧结构上叠装AI为旧系统续命 [18] 责任框架的范式转变 - 针对AI在关键领域(如医疗、驾驶)可能犯错的责任担忧,本质是用旧秩序的“个体责任制”套用新物种 [19] - 提出责任归属可从即时的人类干预,转向事前算法审计与事后系统性赔付,如同现代航空业建立系统安全审计与高额保险机制,将问责前置到目标设定,后置到结果修正 [19] 结论:警惕思维惯性,开启未来 - 最需要警惕的或许不是AI失控,而是人类自身的思维惯性 [20] - 当不再试图手持旗子走在AI前方(即过度控制),而是学会驾驭其无限潜能时,真正的未来才会开启 [21]
纽约市AI聊天机器人因频繁提供错误信息被关停
搜狐财经· 2026-02-03 15:16
纽约市AI聊天机器人项目关停事件 - 纽约市关停了一个由微软提供技术支持的AI聊天机器人 该项目每年花费政府约50万美元[2] - 关停的直接原因是该聊天机器人频繁提供错误且可能违法的信息 例如告诉房东可以拒绝接受住房补助的租户并随意设定高租金 以及错误声称企业可以无现金运营[3] - 该项目于2023年10月作为前市长埃里克·亚当斯“纽约市人工智能行动计划”的一部分推出 旨在为企业主提供来自超过2000个纽约市商业网页的信息[2][3] 项目背景与设计初衷 - 该AI聊天机器人设计初衷是帮助企业主和创业者解答关于法规合规、商业激励措施及避免违规罚款等常见问题 使用户无需逐页浏览网页[2][6] - 前市长埃里克·亚当斯在宣布时表示 该机器人将帮助用户摆脱在开办和经营企业时的不确定性黑洞[3] 行业普遍问题与相关案例 - AI聊天机器人提供错误信息并非孤例 加拿大航空的AI聊天机器人曾给出错误的折扣建议[3] - 其他AI聊天机器人被指控参与了对儿童的伤害 包括导致自杀的案例[3] - 加拿大法庭裁定加拿大航空必须对其AI聊天机器人提供的信息负责[4] - 谷歌和Character AI已同意就多州家庭提起的诉讼达成和解 这些家庭的孩子在与相关AI机器人互动后死亡或受到伤害[4]
每日10万未成年人遭骚扰?扎克伯格被曝曾反对AI聊天机器人家长控制功能
环球网· 2026-01-28 10:40
公司内部决策与争议 - 公司首席执行官马克·扎克伯格反对聊天机器人与未成年人进行“露骨”对话,但拒绝为该功能添加家长管控机制 [1] - 公司员工曾“强烈推动添加家长控制功能以关闭生成式AI”,但生成式AI部门管理层予以驳回,并称这是“马克的决定” [4] - 公司回应称,新墨西哥州总检察长“刻意筛选文件,描绘出有缺陷且不准确的图景” [4] 产品功能与安全事件 - 公司的AI聊天机器人可与未成年人进行虚拟性对话,还能被诱导模仿未成年人参与性话题 [4] - 内部审查文件显示,公司对聊天机器人允许行为的界定模糊,甚至准许传播种族主义观点 [4] - 公司称相关争议内容为假设场景已删除,但未能平息质疑 [4] - 公司上周暂停了青少年账号对AI聊天机器人的访问权限,称将在开发家长控制功能期间暂时关闭服务 [4] - 公司表示,家长此前可查看青少年在Instagram与AI的聊天记录,后续将推出更多管控工具 [4] 法律诉讼与监管压力 - 美国新墨西哥州正起诉公司,指控其未能阻止有害色情内容及性暗示向未成年人传播,案件将于2月开庭审理 [4] - 新墨西哥州早在2023年12月就起诉公司,指控其平台未能保护未成年人免受成人骚扰 [5] - 内部文件显示公司平台每日有10万名未成年用户遭遇骚扰 [5]
尼日利亚领跑全球AI应用
商务部网站· 2026-01-24 22:46
尼日利亚AI应用全球领先地位 - 尼日利亚已成为全球人工智能学习、工作与创业应用领域的领先国家,在AI工具尤其是聊天机器人的普及程度上超越多个主要经济体 [1] - 2025年调研显示,全球使用AI的主要目的包括学习新知(74%)、辅助工作(70%)及娱乐探索(66%),尼日利亚在上述所有类别的应用率均显著高于全球平均水平 [1] AI在尼日利亚的具体应用情况 - 88%的尼日利亚成年人使用AI聊天机器人,普及率居全球首位,较上年增长18% [1] - 93%的尼日利亚人借助AI学习复杂课题,91%用于工作支持,80%用于探索创业或职业转型,后一项比例近乎全球均值(42%)的两倍 [1] - 分析认为,高普及率得益于该国年轻化、高网络连接率的人口结构以及活跃的非正规创业经济 [1] 尼日利亚社会对AI的接纳态度 - 约91%的民众认为AI已改善其学习方式,95%相信教育领域将受益于AI整合 [2] - 整体上,80%的尼日利亚人对AI感到兴奋多于担忧,频繁使用者中这一比例升至90% [2] - AI已被广泛视为促进教育、经济与个人发展的赋能工具 [2] 不同人群的AI使用率差异 - AI使用率在不同群体中存在差异:Z世代以82%领先,千禧世代为74%,婴儿潮一代仅34% [2] - 男性使用率略高于女性,就业者比未就业者更常用 [2]
AI健康产品密集登场
科技日报· 2026-01-16 11:41
文章核心观点 - 2026年CES展会展示了大量AI健康产品,旨在提供更精准、便捷和个性化的健康管理,但引发了关于其可靠性与数据隐私安全的担忧 [1] AI健康产品创新与市场聚焦 - 产品聚焦于长期被医学界边缘化的领域,如女性健康 Oova公司推出Peri可穿戴设备,专门监测围绝经期症状并生成趋势报告 [2] - NuraLogix公司展示“魔镜”,通过分析面部血流变化估算心率、血压、生理年龄,初步测试结果与专业医疗设备高度吻合 [2] - 佳明公司推出新款营养追踪器,通过拍摄餐食照片由AI识别食物种类、估算热量及营养比例,并提供个性化饮食建议 [2] - AI已在价值4.3万亿美元的全球医疗体系中崭露头角,擅长分析影像、整理病历、优化流程以减轻医生负担 [3] 改善医疗可及性的AI应用 - 中国香港AI医疗公司0xmd推出免费药物咨询聊天机器人,可解答用药问题、解读皮疹照片、翻译复杂医学证明 [3] - OpenAI宣布推出专用健康对话模式ChatGPT Health,健康对话将与其他内容隔离存储且不会用于模型训练 [3] - 普通版ChatGPT每周健康咨询量高达2.3亿次,但回答基于概率预测而非医学验证,存在误诊风险,OpenAI强调其服务仅作参考 [3] - 数字权利组织提醒,此类工具可帮助用户准备问题和理解术语,但不能替代医生的专业判断 [4] 监管环境与数据隐私挑战 - 美国食品和药物管理局在CES上宣布将放宽对“低风险”健康设备的监管,被视为推动AI产业发展的最新动作 [6] - 监管松绑可能使更多创新产品快速上市,但也带来了数据隐私风险 [7] - 现有法案仅保护医疗机构内的患者数据,消费级健康设备收集的敏感数据(如激素水平、睡眠质量)可能被厂商合法用于AI训练或出售给第三方 [7] - 部分企业如Mira公司强调隐私保护,称其“蛋形激素追踪器”数据加密存储于云端,绝不共享或售卖 [7]
AI健康产品密集登场,数据保护仍存隐忧
环球网资讯· 2026-01-16 09:28
2026年CES展会AI健康产品概览 - 展会展示了琳琅满目的AI健康产品,许诺提供更精准、更便捷、更个性化的健康管理方式 [2] - 产品范围广泛,包括预测排卵期的“智能蛋”、通过面部扫描读取血压的“魔镜”、分析饮食照片的营养助手以及提供医疗建议的AI聊天机器人 [2] 聚焦女性健康与创新应用 - 有新产品关注长期被医学界边缘化的女性健康领域,如月经周期、生育力、更年期等 [2] - Oova公司推出名为Peri的可穿戴设备,专门监测围绝经期症状(如潮热、夜间盗汗),并通过手机应用生成趋势报告 [2] - NuraLogix公司展示“魔镜”,用户只需对着摄像头,AI便能通过分析面部微小的血流变化,估算心率、血压、生理年龄,初步测试显示其测量结果与专业医疗设备高度吻合 [3] - 佳明公司推出新款营养追踪器,用户用手机拍下餐食,AI便能识别食物种类,估算热量及蛋白质、脂肪、碳水化合物比例,并给出个性化饮食建议 [3] AI改善医疗可及性与效率 - AI已在价值4.3万亿美元的全球医疗体系中崭露头角,擅长分析影像、整理病历、优化流程,能有效减轻医生负担 [5] - 中国香港的AI医疗公司0xmd推出一款免费药物咨询聊天机器人,用户可提问用药问题、上传皮疹或痣的照片获取初步解读,并可提交复杂的医学证明由AI翻译成通俗语言 [5] - OpenAI宣布推出专用于健康对话的独立模式ChatGPT Health,该功能将在未来几周内逐步上线,系统会将健康类对话与其他聊天内容隔离存储,且明确表示Health模式中的对话不会用于模型训练 [5] - 普通版ChatGPT每周健康咨询量高达2.3亿次,但其回答基于概率预测而非医学验证,存在误诊风险,因此OpenAI强调该服务仅供信息参考,不可用于诊断或治疗决策 [5] 数据隐私与监管环境 - 美国食品和药物管理局在CES上宣布将放宽对“低风险”健康设备(包括智能体重秤、心率监测器、电动轮椅等)的监管 [6] - 此举被视为推动AI产业发展的最新动作,此前白宫已废除拜登时期关于AI伦理防护的行政命令,卫生与公共服务部也发布了扩大AI医疗应用的战略蓝图 [6] - 现有法案仅保护医疗机构内的患者数据,消费级健康设备收集的信息不在其覆盖范围内,这意味着厂商可合法地将用户的激素水平、睡眠质量、情绪波动等敏感数据用于AI训练,甚至出售给第三方 [7] - 一些企业如Mira公司坚称用户隐私受到严格保护,其“蛋形激素追踪器”的数据加密存储于云端,绝不共享或售卖 [7]
AI健康产品密集登场 数据保护仍存隐忧
科技日报· 2026-01-16 08:55
2026年CES展会AI健康产品核心观点 - 2026年CES展会上涌现大量AI健康产品,旨在提供更精准、便捷、个性化的健康管理方式,但围绕其可靠性、数据安全及监管的讨论也随之而来 [1] 产品创新聚焦细分健康需求 - 女性健康领域受到关注,Oova公司推出名为Peri的可穿戴设备,专门监测围绝经期症状并生成趋势报告 [2] - NuraLogix公司展示“魔镜”,通过分析面部血流变化估算心率、血压、生理年龄,初步测试结果与专业医疗设备高度吻合 [2] - 佳明公司推出新款营养追踪器,通过拍摄餐食照片由AI识别食物种类并估算热量及营养素比例,提供个性化饮食建议 [2] AI技术改善医疗可及性与效率 - AI已在价值4.3万亿美元的全球医疗体系中发挥作用,擅长分析影像、整理病历、优化流程以减轻医生负担 [3] - 中国香港AI医疗公司0xmd推出免费药物咨询聊天机器人,可解答用药问题、解读皮疹照片、翻译复杂医学证明 [3] - OpenAI宣布推出专用健康对话模式ChatGPT Health,健康对话将隔离存储且不会用于模型训练,以应对每周高达2.3亿次的健康咨询需求并降低误诊风险 [3] 数据隐私与监管环境变化 - 美国食品和药物管理局在CES期间宣布将放宽对“低风险”健康设备的监管,被视为推动AI产业发展的举措 [5][6] - 监管松绑可能带来隐私风险,现有法案未覆盖消费级健康设备数据,厂商可能将用户的激素水平、睡眠质量等敏感数据用于AI训练或出售给第三方 [7] - 部分企业强调隐私保护,如Mira公司称其“蛋形激素追踪器”的用户数据均加密存储于云端,绝不共享或售卖 [7]
花旗:料AI云服务需求仍强劲 互联网板块首选腾讯控股(00700)
智通财经网· 2026-01-13 10:37
行业趋势与监管影响 - 监管收紧及电子商务增值税影响了中小型商户的盈利能力 对电商平台的变现能力及利润率构成压力 [1] - 外卖、即时零售及AI聊天机器人领域的竞争格局依然激烈 企业为争取市场份额及提升新用户渗透率和采纳度而投入的推广开支 可能进一步对盈利能力及利润率造成压力 [1] 技术发展与需求 - AI云服务需求依然强劲 [1] - 随着国内芯片供应逐步追赶以及部分高端外国芯片获批 供应限制可望逐步缓解 [1] - 海外市场正成为Robotaxi、AI应用及互联网数据中心建设的新焦点 [1] 公司观点 - 行业中 首选为腾讯控股(00700)、阿里巴巴(BABA.US)、携程(TCOM.US)、网易(NTES.US)及世纪华通(002602.SZ) [1]
花旗:AI助内地互联网企业提升营运效率 看好腾讯控股(00700)及阿里巴巴-W
智通财经网· 2026-01-06 11:24
文章核心观点 - 花旗研究报告指出,2026年中国内地互联网行业将聚焦于三大AI驱动主题,并预计AI将帮助大多数企业优化成本、改善营运杠杆,部分企业可能实现收入加速增长 [1] - 随着AI助手工具的普及,消费者效率提升可能增加休闲娱乐时间,从而支撑在线旅游和游戏等领域的稳定需求 [1] - 报告将腾讯控股与阿里巴巴列为行业首选的核心AI投资概念股,并分别给予买入评级与目标价 [1] 2026年互联网行业三大聚焦主题 - 主题一:云端基础设施、模型堆栈和推理令牌使用的经常性收入增长 [1] - 主题二:主要互联网企业竞相抢占AI聊天机器人的用户流量,为未来生态系统变现奠定基础 [1] - 主题三:垂直领域企业部署自训练专有数据AI代理,以保持竞争优势并加强用户参与度和变现潜力 [1] AI对互联网企业财务与运营的影响 - 预计大多数互联网企业将通过AI辅助成本优化来改善营运杠杆 [1] - 部分企业更可能因有效部署AI代理而实现收入增长加速 [1] 消费者行为变化及衍生投资机会 - 随着AI助手工具的快速采用,消费者的工作和生活效率有望提升 [1] - 消费者效率提升后,可能有更多时间投入休闲娱乐活动 [1] - 旅游和在线游戏的持续需求将支持在线旅游和游戏公司的稳定收益增长 [1] - 在线旅游和游戏板块可为投资组合提供良好的多元化,抵销AI炒作的较高风险 [1] 行业首选公司及观点 - 花旗就中国互联网板块,首选腾讯控股及阿里巴巴作为核心AI投资概念股 [1] - 维持腾讯控股"买入"评级,目标价751港元,认为该公司在企业和用户应用方面的AI发展前景良好 [1] - 给予阿里巴巴"买入"评级,目标价223港元,看好其在云端收入增长和效率提升方面的表现 [1]
花旗:AI助内地互联网企业提升营运效率 看好腾讯控股(00700)及阿里巴巴-W(09988)
智通财经网· 2026-01-06 11:13
2026年中国互联网行业核心主题 - 行业将聚焦于三大主题:云端基础设施、模型堆栈和推理令牌使用的经常性收入增长;主要互联网企业竞相抢占AI聊天机器人的用户流量,以期未来生态系统变现;垂直领域企业部署自训练专有数据AI代理,以保持竞争优势并加强用户参与度和变现潜力 [1] - 预计大多数互联网企业将通过AI辅助成本优化来改善营运杠杆,部分企业更可能因有效部署AI代理而实现收入增长加速 [1] - 随着AI助手工具的快速采用,消费者的工作和生活效率有望提升,从而有更多时间投入休闲娱乐活动 [1] 细分领域展望 - 旅游和在线游戏的持续需求将支持在线旅游和游戏公司的稳定收益增长 [1] - 在线旅游和游戏板块可为投资组合提供良好的多元化,抵销AI炒作的较高风险 [1] 首选投资标的 - 花旗首选腾讯控股(00700)及阿里巴巴-W(09988)作为核心AI投资概念股 [1] - 维持腾讯控股"买入"评级,目标价751港元,认为该公司在企业和用户应用方面的AI发展前景良好 [1] - 给予阿里巴巴"买入"评级,目标价223港元,看好其在云端收入增长和效率提升方面的表现 [1]