苹果AI新闻摘要功能问题 - 苹果的AI驱动新闻摘要功能因生成不准确和误导性标题而受到批评 例如BBC报道的Luigi Mangione案件和Luke Littler的飞镖比赛结果均出现错误 [1][2] - BBC指出苹果的AI摘要与原始内容不符甚至完全矛盾 强调新闻准确性对维护信任至关重要 [3] - 其他媒体如《纽约时报》也遭遇类似问题 例如关于以色列总理内塔尼亚胡被捕的错误报道 [4] 行业对AI生成内容的担忧 - 记者无国界组织呼吁苹果移除该功能 认为自动生成虚假信息损害媒体信誉并威胁公众获取可靠信息的权利 [5] - 生成式AI服务被认为尚未成熟 不应被允许用于向公众提供信息 [5] - 苹果的AI不仅在新闻摘要中出错 还在文本和聊天摘要中出现错误 例如将“徒步旅行差点要了我的命”误解为自杀未遂 [5] 其他科技巨头的AI挑战 - 谷歌的AI搜索摘要功能也因生成不准确内容而受到批评 例如建议每天吃一块小石头 [6] - OpenAI的Whisper转录软件和Meta的Galactica大语言模型也出现虚构文本和假论文等问题 [7] AI生成内容的潜在风险 - AI系统的不准确性对企业采用生成式AI构成普遍挑战 例如加拿大航空的聊天机器人错误承诺丧亲票价导致法律纠纷 [8][9] - 尽管存在风险 生成式AI仍可能继续存在 因其带来的生产力提升 大科技公司正在采取措施减少幻觉 包括使用高质量数据 限制响应 加入人工干预和使用检索增强生成等技术 [10]