联想发布端侧AI新技术,让PC本地推理能力媲美 OpenAI-mini

联想推理加速引擎技术突破 - 公司展示了专为高效AI PC推理设计的"联想推理加速引擎",该产品由联想、清华大学及无问芯穹联合研发,是一个软硬件协同优化平台 [1] - 该引擎能让普通PC的本地推理能力达到OpenAI去年发布的o1-mini云端模型水平 [1] - 通过高性能并行解码、算子融合优化及异构计算技术实现推理速度大幅提升,同时显著降低功耗和内存占用 [1] 技术实现路径 - 采用软硬件协同优化方案,与大模型推理芯片结合形成叠加效应 [1] - 通过硬件加速与软件优化的无缝协作进一步放大性能提升 [1] - 支持多种应用场景下的高效推理需求 [1] 行业影响 - 该技术突破标志着PC端侧算力达到新高度,可能改变AI计算在终端设备的应用格局 [1] - 展示了公司在AI PC领域的创新能力,可能推动行业向本地化AI计算方向发展 [1]