AB100芯片

搜索文档
边缘AI国产新突破,小设备也能“跑”百亿级参数大模型
北京日报客户端· 2025-06-11 18:43
算力自主可控与边缘AI发展 - 算力自主可控成为产业发展的核心命题,公司推出面向边缘场景的E300 AI计算模组 [1] - E300模组实现50TOPS国产算力突破,支持320亿参数大模型本地部署,解决边缘场景算力不足和延迟高的问题 [1] - 边缘AI让智能设备在数据产生地直接处理信息,适用于自动驾驶、医疗监测、工厂质检、智能家居等场景 [1] E300模组的技术创新 - E300搭载自研国产AI SoC芯片AB100,模组体积不到10厘米见方,远小于传统同等算力模组 [2] - 模组小巧便于部署在摄像头、传感器等空间有限的边缘设备,同时满足功耗、散热和成本控制要求 [2] E300的应用场景与优势 - E300支持DeepSeek、Qwen、Llama等主流开源大模型的边缘推理,最高支持320亿参数大语言模型本地部署 [4] - 支持上百种视觉模型推理,通过数据本地处理与私有化部署保护数据隐私与系统安全 [4] - 满足工业、能源、水利、气象、政务、教育等关键领域对高安全性、高可靠性AI应用的需求 [4]