'RELIABILITY IS AS IMPORTANT AS INTELLIGENCE': Inside efforts to combat AI hallucinations
Youtube·2026-06-26 09:00

AI行业可靠性问题与投资逻辑 - AI系统的可靠性在严肃应用场景中与智能性同等重要,例如在查询银行余额或医疗处方时,幻觉问题可能带来严重后果[2][4] - AI在医疗等领域的应用已非常广泛,每天有数亿次交互,信息错误可能产生重大影响[5] - 当前企业界对AI的部署存在过热和过快的趋势,由于技术不可靠,许多系统在实际部署后崩溃[12][13] Scaled Cognition公司的技术与市场 - Scaled Cognition公司专注于解决AI可靠性问题,其技术路线是从基础出发而非在大型语言模型(LLM)之上添加层[2] - 公司为此进行了为期三年的研发,组建了顶尖的博士研究团队,并构建了全新的技术栈,其内部架构与通用LLM完全不同[7] - 公司通过改变模型训练方式、内部算法优化目标及控制界面的每个元素来提升可靠性[7] 客户验证与市场潜力 - Scaled Cognition已公开的客户是Genesis,一家专注于客户体验的软件公司,年通话量达220亿次[8][9] - 尽管公开信息中仅提及Genesis,但通过该渠道已服务数百名客户,且公司在与其他技术提供商的竞争中均获胜[9][10] - 公司存在其他未公开的直接客户,表明有更多客户正在接入[10] AI行业竞争与长期发展视角 - AI领域的竞争焦点不应是谁先上市,而是哪些公司在2030年能建立起可持续的长期业务[14][15] - 模型本身至关重要,最好的模型将取得巨大胜利,需关注公司的研究重点以判断2030年的赢家[18] - 除了模型,在企业端部署AI将催生巨大的新业务,无论是传统供应商还是新供应商[18] 资本投入与行业基础设施 - AI领先公司因惊人的增长率和快速增加的营收,其大规模资本投入是合理的,这是资本主义的运作方式[16] - 为2030年的发展做准备至关重要,因为构建推理能力、数据中心和芯片等基础设施需要时间[17]

'RELIABILITY IS AS IMPORTANT AS INTELLIGENCE': Inside efforts to combat AI hallucinations - Reportify