Workflow
TinyDongni
icon
搜索文档
集齐了「鸿蒙」和「DeepSeek」两颗「龙珠」,深思考给出端侧AI「深度思考」
36氪· 2025-02-27 18:31
核心观点 - AI端侧模型与硬件模组一体化正迎来智能终端大爆发,2032年全球AI端侧市场规模预计达1436亿美元 [6] - 深思考人工智能(iDeepWise.ai)发布基于鸿蒙系统的端侧多模态大模型TinyDongni及DeepSeek-R1优化版本,形成国产化全链条解决方案 [7][13][15] - 公司通过自研Dongni-AMDC压缩算法实现模型高效量化,在保持精度的同时将DeepSeek-R1压缩至1B参数规模 [8][11][24] - 端侧模型在医疗、汽车、机器人等强隐私场景展现突出优势,已实现商业化落地 [39][45][46][47] 技术突破 - 自研Dongni-AMDC算法实现模型权重和输入数据双重压缩,使1B模型在RK3588芯片上达到10.2 tokens/s推理速度 [11][24][34] - 创新多层次语义解码架构Dongni-v,通过模态交互机制实现图像文本特征跨模态对齐,赋予模型多模态能力 [12][26][27] - TinyDongni模型支持32K超长上下文理解,内存占用降低30%,在RK3588上推理速度达13.6 tokens/s [21][35] 行业落地 - 医疗领域:AI显微镜已实现3000万例宫颈癌筛查,模型学习1687万篇医学论文 [46][47] - 智能汽车:实现手势/语音/图像/情感多模态交互,支持实时车内外场景分析 [48] - AI PC:推出本地多模态搜索、AI办公、情感交流"Her模式"及"AI Recall"功能 [40][42][43] - 机器人:应用于情感陪伴、养老、教育场景,具备情绪识别与语音对话能力 [45] 产业链协同 - 与国产模组厂商广和通、深开鸿合作,推出基于RK3588和QCS8550芯片的硬件解决方案 [30][31] - 模型适配OpenHarmony/Linux/Windows/Android系统,开发周期缩短50% [10][30][32] - 形成"模型+系统套件+算力模组"一站式方案,打破国产算力性能不足的认知 [12][35][38]