新技术应用中的问题与思考 不当使用新技术造成的阻碍效应 - 盲人办理手机卡因刷脸验证的"睁眼"要求无法完成 最终只能以亲属名义开通 反映新技术使用不当给特定群体带来不便 [1] - 根据法律法规 刷脸需取得单独同意且不能作为服务前提 但实际操作中仍存在违规将新技术作为强制门槛的现象 [1] - 人工智能客服被过度依赖 实际体验中常无法解决问题反而成为新障碍 背离了提升用户体验的初衷 [1] 技术不完善导致的测不准现象 - 论文检测系统将《滕王阁序》等原创作品误判为AI生成 显示当前AI识别技术存在明显缺陷 [1] - 生成式大模型在不同指令下输出质量差异显著 说明技术效果高度依赖使用方式 [2] - 人工智能在行业落地需结合场景进行深度学习训练 未优化算法前难以保证可靠性 [2] 盲目崇拜技术的风险 - 部分用户全权委托生成式大模型创作内容 甚至用AI开药方或放任辅助驾驶 存在过度依赖倾向 [2] - 新技术本质仍是生产工具 需避免"神化"倾向 人类主导权不可替代 [2] - 服务行业若为省事滥用未成熟技术 可能损害群众利益 需坚持技术服务于人的原则 [2] 技术推广的关键因素 - 新技术普及效果取决于深度开发程度 同一产品在不同使用条件下表现差异显著 [2] - 行业应用中需针对具体场景优化算法 单纯技术堆砌无法保证实用性 [2] - 当前阶段仍需要人类主导技术应用边界 避免未成熟技术全盘接管关键环节 [2]