DeepSeek-R1开源及蒸馏技术推动轻量化端侧模型部署 [page::0][page::3]

• DeepSeek-R1采用知识蒸馏技术，将671B教师模型能力迁移至1.5B~70B六版本学生模型。

- 蒸馏模型保持大模型推理性能优秀，部分版本在公开推理基准测试中超越传统及强化学习模型。

• 轻量蒸馏模型显著降低显存与计算需求，可在消费级PC及端设备实现本地部署。

DeepSeek APP用户增长体现开源技术市场认可 [page::1][page::2]

• APP自2025年1月11日上线后，下载量爆发式增长，2月底累计突破4000万次。

- C端消费设备呼唤云边协同架构，轻量模型端侧处理隐私，高性能任务借助云端，优化用户体验和隐私合规。

本地部署硬件需求详解：从轻量版到全参数全功能版 [page::5][page::6]

| 模型版本 | 参数量(B) | 最低显存需求(GB) | 推荐GPU配置 | 推荐内存(GB) | 适用场景 |
|--------------------------------|-----------|------------------|------------------------------|--------------|--------------------------------|
| DeepSeek-R1-Distil-Qwen-1.5B | 1.5 | 1.1 | 集成显卡或4GB显存 | 8 | 基础问答、短文本生成 |
| DeepSeek-R1-Distill-Qwen-7B | 7 | 4.7 | RTX3060 8GB显存 | 16 | 文案、表格、统计等中等复杂任务 |
| DeepSeek-R1-Distill-Llama-8B | 8 | 4.9 | RTX4070 12GB显存 | 16 | 多轮对话、中等复杂任务 |
| DeepSeek-R1-Distill-Qwen-14B | 14 | 9.0 | RTX4090 24GB显存 | 32 | 企业级长文本生成与数据分析 |
| DeepSeek-R1-Distill-Qwen-32B | 32 | 20.0 | RTX A100 40GB显存或多卡并行 | 64 | 科研数据、多模态推理 |
| DeepSeek-R1-Distill-Llama-70B | 70 | 43.0 | RTX H100 80GB显存或多卡并行 | 128 | 创意写作、高复杂度生成任务 |

• 端侧部署与硬件升级趋势明确，特别是基于知识蒸馏的轻量版模型助推PC产业升级。

DeepSeek一体机硬件架构及软硬协同关键难点 [page::7][page::8][page::9]

• 一体机通过软硬件深度集成（AI芯片、存储、网络、高效模型）支撑全流程AI开发与大模型快速部署。

- 国产AI芯片普遍缺少FP8精度支持，采用FP16或BF16导致显存需求比FP8翻倍，显著影响算力效率与部署成本。

• 通过量化技术（如INT8定点量化），一体机可压缩模型显存需求，平衡性能与资源消耗。

- 一体机具备开箱即用、持续更新及运维管理优势，显著降低企业AI模型部署门槛。

市场规模测算与国产产业链生态快速形成 [page::10][page::11][page::12][page::13]

• 政府、金融、医疗等行业对数据安全及合规的刚性需求驱动私有化本地部署增长。

- 2025年中国服务器市场预计488万台，相关行业占比约28%，保守估计DeepSeek一体机市场渗透率5%时，市场空间达约540亿元。

• 超过160家国产算力链企业涵盖芯片、整机、云服务合作完成DeepSeek适配，推动产业整体协同发展。

- 多家头部服务器和云厂商推出对应一体机方案，形成成熟的产品矩阵和生态。

主要风险提示 [page::0][page::14]

• 生成式AI模型技术创新停滞可能影响产品迭代与市场需求。

- 模型本地化部署需求不及预期，受硬件成本和IT预算影响明显。

• AI算力硬件升级滞后或算力瓶颈加剧，可能限制一体机性能和市场需求。

中金 | AI 进化论（3）：DeepSeek本地部署需求盛行，一体机硬件乘风而上 — 深度分析报告解构

---

1. 元数据与报告概览

• 报告标题：《AI 进化论（3）：DeepSeek本地部署需求盛行，一体机硬件乘风而上》

- 作者：李诗雯、朱镜榆等

• 发布机构：中金公司研究部

- 发布日期：2025年3月6日

• 主题：深度聚焦中国AI企业DeepSeek（DS）大模型在本地私有化部署的市场需求、技术演进及一体机硬件生态发展

---

核心论点与评级

本报告围绕DeepSeek开源大模型的发展及其快速推动AI大模型本地化部署需求的趋势，重点分析了基于DS大模型的轻量蒸馏模型在C端部署的可行性和优势，以及适配DS全参数大模型的一体机解决方案在B端（政企等数据敏感行业）的广阔市场前景，并认为国产算力芯片和相关硬件产业链已形成较为成熟的适配体系。预计2025年DS一体机市场空间乐观可达约540亿元人民币。

报告强调：

• DeepSeek-R1蒸馏模型技术实现了轻量化与高性能并存，大幅降低本地部署硬件门槛，适合端侧设备（尤其是AI PC）。

- DeepSeek一体机以集成软硬件方案满足B端对数据安全、本地化部署的强烈需求。

• 当前国产AI芯片的精度兼容问题与硬件性能限制仍是技术难点。

- 随着AI应用渗透、数据安全法规趋严，DS一体机需求快速提高，驱动国产算力产业链升级和扩张。

• 主要风险为生成式AI技术创新不足、本地化部署需求低于预期及硬件技术迭代放缓。

本报告定位详尽分析，未直接给出明确买卖评级，但持乐观推断，认同DS本地化策略对于产业链和市场潜力的积极意义。[page::0,1,3,10,14]

---

2. 逐节深度解读

2.1 引言与行业背景（第0-1页）

• 报告开篇回顾前序《AI进化论》系列，聚焦DeepSeek（简称DS）开源及技术创新如何带动AI算力硬件需求变革。

- 介绍DS-R1模型的蒸馏技术优势——通过知识蒸馏技术构建轻量化模型，既保证大模型性能，也降低了对资源的需求，从而推动PC、移动设备等端侧本地部署需求增长。

• 阐述私人化算力硬件（如一体机）市场兴起的背景，尤其是在政府、金融等要求数据本地安全性的行业。

- 预估2025年DS一体机市场可达540亿元，有望带动国产算力硬件生态繁荣发展。[page::0]

2.2 DeepSeek开源大模型与私有化部署趋势（第1-2页）

• DS全面开源V3版本模型，训练成本仅为海外GPT-4o/Llama3.3十分之一，表现对标国际顶尖水平。

- 通过强化学习提升R1后训练模型推理能力，在各任务上性能接近OpenAI 01正式版。

• DS开源周活动进一步丰富AGI开源生态，开放了多个提升推理性能的关键项目。

- 大模型在云端推动算力需求增长，云厂商如阿里云加大AI基础设施资本开支，预计未来三年云和AI基础设施投入创新高。

• 但云端部署存在数据安全及依赖性问题，促使本地私有化部署需求快速攀升。

- B端行业（金融、医疗等）对私有部署有刚性需求，强调数据不出企业网络、模型容器化与私有调优解决方案。

• C端设备尤其是PC成为端侧AI部署的重要终端，云端协同部署逐渐成为主流架构。

- DS技术开源降低高性能大模型私有部署门槛，为本地算力硬件带来新机遇。[page::1,2]

2.3 DeepSeek-R1蒸馏模型推动C端部署（第3-5页）

• 详细介绍DS蒸馏模型的技术原理：将大参数教师模型（671B）决策逻辑迁移到多个不同参数量轻量化学生模型（1.5B、7B、8B、14B、32B、70B）。

- 蒸馏技术包括数据蒸馏+模型蒸馏与监督微调（SFT），以及架构上的多任务适应、参数共享优化等，提升推理效率与性能。

• 蒸馏模型在多项推理基准测试中表现优异，高参数量蒸馏模型（如32B）在AIME、MATH-500等测试中表现优于同类强化学习训练模型，性能、资源消耗兼具优势。

- 详细表格数据揭示DeepSeek蒸馏模型Pass@1指标和一致性性能优于部分国际开源模型，显示技术领先性。

• 本地终端部署硬件需求分析：

- 轻量级1.5B模型可在普通集成显卡上流畅运行，适合基础任务。
- 中等模型（7B、8B）推荐RTX3060+/RTX4070+，适合中复杂度任务。
- 大型模型（14B及以上）需高端显卡（RTX4090、A100/H100多卡），适用科研、多模态分析等复杂应用。

• PC作为重要部署端，联想等厂商推出70亿参数AI PC产品，推动AI端侧模型高速普及，形成性能与硬件升级的正向循环。

- 图表4清晰罗列了不同蒸馏模型所需硬件配置标准及适用场景，为产业链定位提供依据。[page::3,4,5,6]

2.4 DeepSeek一体机推动B端私有化部署（第6-9页）

• 介绍DeepSeek-R1全参数模型（671B）对硬件显存、带宽等资源的高要求，约需850GB显存；采用FP8训练精度。

- 大模型一体机定义：软硬件深度结合、配备全栈开发工具和预置大模型的开箱即用设备，简化本地私有化AI部署流程。

• 一体机可基于国产芯片（如昇腾、昆仑）等，优化推理性能，解决硬件资源瓶颈。

- 图表7列示当前国产AI芯片显存大小与支持精度对比，指出主流国产芯片大多不支持FP8，而深度精度支持不足导致选用FP16/BF16会显著提高显存压力（约需1.5TB+）。

• 深入探讨硬件精度兼容问题，厂商需通过定点量化（如INT8）在性能与精度之间寻求平衡，降低显存占用，保证推理效率。

- 图表9展示了INT8量化基本原理，定点量化通过量化和反量化步骤尽可能保留原浮点数信息。

• 详细案例如阿里云百炼AI训推一体机规格（图8）充分体现顶级硬件配置。

- 报告指出一体机不仅仅是硬件叠加，更需软硬件适配与优化，解决部署复杂性和效率问题。

• 图表6展示大模型一体机参考架构，从模型应用、AI开发、资源调度、算力网络协同到管理融合全方位支持大型模型运行。[page::6,7,8,9]

2.5 DeepSeek一体机市场空间与行业驱动（第10-12页）

• 深度分析一体机满足对数据安全和合规的要求，强调企业完全掌控数据流，防止数据泄露。

- 强调特定行业（金融、医疗、能源、政府）对数据本地化存储与处理的刚性需求。

• 图表10阐述“云+大模型”环境下的数据安全挑战，突显云端潜在安全风险。

- 描述厂家推出的“开箱即用”和“自主微调”解决方案，降低企业AI部署复杂度和技术要求。

• 一体机减少企业对云计算的依赖，规避稳定性和成本风险，实现资本开支可控。

- 通过政务（如深圳福田区数智员工应用）、医疗、金融案例说明实际应用成效。

• 市场测算基于IDC数据：

- 2025年中国服务器市场约488万台，政企行业占比约28%、目标渗透率乐观情景5%。
- 预计服务器切换至DeepSeek一体机约7万台，单价约80万元，市场空间约540亿元人民币。

• 图表11-12具体量化展示中国DeepSeek一体机市场容量测算，彰显市场潜力及驱动力。[page::10,11,12]

2.6 国产产业链生态与供应商布局（第13-14页）

• 报告全面盘点国产算力生态链已广泛适配DeepSeek，从芯片厂商（昇腾、麒麟、昆仑芯等）、GPU厂商，到服务器及云厂商形成完整生态协作链。

- 统计显示2025年2月初以来，超160家国产企业宣布完成DeepSeek适配，体现产业链协作紧密。

• 列举国内各类一体机厂商及其产品概览，涵盖新华三、浪潮、华为、中科曙光、百度云、京东云、阿里云、火山引擎、移动云等头部企业，突显市场竞争活跃、多样化。

- 不同供应商一体机定位涵盖轻量版到高性能旗舰版，兼容多型号国产和国际GPU、满足多场景应用需求。

• 软硬件结合，实现开箱即用、定制开发与灵活扩展。

- 报告重点指出一体机不仅需硬件支持，更需软件和工具链配套、运维支持，提供安全、低延迟、高可用的完整企业解决方案。[page::13,14]

2.7 主要风险因素（第14页）

报告详述三大核心风险：

• 生成式AI模型创新不及预期：若算法创新和硬件工程进展放缓，将限制技术迭代及产业升级。

- 本地化部署需求低于预期：受AI技术迭代速度、部署成本、采购预算等影响，需求不足或减缓会冲击AI PC及一体机市场规模。

• AI算力硬件迭代不足：GPU算力瓶颈和显存限制可能制约大模型和一体机性能提升，对一体机需求及效果产生负面影响。[page::14]

---

3. 图表深度解读

图表1（第2页）DeepSeek APP下载量

• 柱状图展示2025年1月11日至2月24日全球DeepSeek APP每日下载量（深色柱）及累计下载量（灰色区域）。

- 下载量呈指数增长趋势，峰值在1月31日附近超过300万日下载，随后虽有下降但依旧保持较高水平，累计 下载突破4000万次 显示用户接受度和市场热度迅速提升。

• 符合文本中提及用户规模激增和良好市场反馈，侧面佐证DS技术开源对用户基础扩大贡献显著。[page::2]

图表2（第4页）教师模型知识蒸馏示意图

• 结构图展示教师模型（参数复杂网络）向学生模型（简化网络）知识转移流程，强调数据反馈循环。

- 形象说明知识蒸馏技术的核心，即用大量高质量训练数据促进复杂模型能力压缩迁移。

• 直观支持对蒸馏模型“轻量化且性能优”的论点，增强报告技术可信度。[page::4]

图表3（第5页）DeepSeek蒸馏模型与其他模型性能对比

• 多项基准测试（AIME 2024、MATH-500、GPQA等）中，以Pass@1和Cons@64指标精细比较多款模型表现。

- DeepSeek-R1蒸馏Qwen系列模型整体领先大部分竞品，最高版本32B模型尤其优异，表现比肩甚至超越部分国际模型。

• 同时蒸馏模型优于大规模强化学习模型，明确凸显蒸馏技术优势。

- 表格数据丰富、指标多样，充分支持蒸馏模型在实际任务中的有效性和资源利用效率。[page::5]

图表4（第6页）不同型号蒸馏模型硬件需求表

• 细致列出不同版本（1.5B到70B）模型的参数量、最低显存需求、推荐GPU/CPU/内存/存储配置及适用场景。

- 明确了硬件门槛，指明轻量模型可支持中低性能硬件，大模型需顶级算力。

• 为产业链及终端硬件厂商提供市场定位和产品研发依据。[page::6]

图表5（第7页）DeepSeek-R1与国际对标模型任务性能比较柱状图

• 对比多种模型在多个任务（逻辑推理、代码、数学等）上的准确率百分比。

- DeepSeek-R1整体领先于OpenAI及自身蒸馏模型，表明完整大模型的强大能力。

• 支撑“全参数DeepSeek-R1适合高级复杂业务”的论断。[page::7]

图表6（第8页）大模型一体机参考架构

• 分层示意图展示一体机技术架构，涵盖模型应用、全流程AI开发、资源调度、算力协同及管理模块。

- 突显软件工具链如何与硬件资源结合，保证大模型开发、训练、部署及运维的闭环效率。

• 反映一体机复杂度与软硬件深度整合需求，解释其高门槛但高价值属性。[page::8]

图表7（第8页）国产芯片显存及支持精度情况表

• 列表汇总国内主流AI芯片厂商、型号、显存大小及计算精度支持。

- 重点指出大多数主流芯片不支持FP8，普遍只能支持FP16、BF16或INT8，这成为部署DeepSeek R1的挑战。

• 解释为何采用非FP8精度会显著增加显存和计算资源需求，提供技术瓶颈证据。[page::8]

图表8（第9页）阿里云百炼专属版AI训推一体机照片及参数

• 直观展示硬件设备外观及关键性能指标：16卡单机、1536GB显存、15.36TB高速存储、700GB/s互联带宽。

- 佐证高端顶级一体机配置，体现服务全参数DeepSeek模型的算力实力。

• 辅助理解一体机的硬件门槛及运维复杂度。[page::9]

图表9（第9页）INT8量化流程示意

• 以数值矩阵为例，图示量化（Quantize）和反量化（Dequantize）过程，以及比特数减少实现显存节省的原理。

- 形象说明定点量化技术的技术细节，支持报告中硬件适配量化方案的可行性及权衡精度和效率的论述。[page::9]

图表10（第10页）“云+大模型”数据安全挑战示意图

• 展示云端模型及用户数据存储环境中可能存在多环节攻击路径（攻击用户、模型、三方数据源、云后台等）。

- 强调公有云环境面临的安全风险，支持本地私有化需求增长的逻辑。

• 此图表强化报告关于数据安全对于本地一体机部署推动力的分析。[page::10]

图表11-12（第11-12页）2025年DeepSeek一体机市场空间测算表

• 细化服务器总市场规模，核心政企行业占比及DeepSeek一体机潜在渗透率场景（悲观2%、中性3.5%、乐观5%）。

- 以80万元单价计算，相应市场规模216亿至540亿元人民币。

• 数据测算严谨，充分说明市场容量与增长空间，为产业链投资者提供量化参考。[page::11,12]

图表13（第13页）国产算力产业链适配DeepSeek生态图谱

• 分层汇总国内芯片厂商、GPU产品、服务器及一体机、云计算与AI基础设施提供商等多家企业。

- 体现深度融合、全产业链协作生态氛围，展示本土AI自主创新与适配能力。

• 作为重要宏观背书，彰显国产化替代趋势及产业升级环境。[page::13]

图表14（第14页）DeepSeek一体机厂商及产品一览表

• 详细罗列超过20家厂商产品线、技术特点、算力硬件配套与场景适配。

- 包括新华三、浪潮、华为、长城、百度、阿里云、京东、火山引擎、中科曙光等主流企业。

• 展现产品多样化布局，提供市场竞争与生态建设的全景视图。

- 支持一体机全面爆发市场的趋势判断。[page::14]

---

4. 估值分析

• 报告未直接提供具体DCF、PE等估值模型，但通过市场空间测算和趋势分析给出行业规模参考。

- 预计2025年DeepSeek一体机固定资产采购市场规模540亿元，基于服务器渗透率5%假设与单价80万元估值。

• 报告强调，价格因定制配置存在波动，使用中位数单价进行测算提供较为稳健估算。

- 侧重市场规模及渗透率作为产业估值的重要逻辑支撑。

• 结合技术门槛（硬件适配、精度支持等）和政策驱动（数据安全合规）为估值逻辑增加确定性。

- 估值分析明显依赖几个关键假设：行业服务器需求基数、渗透率增长速度及采购单价。[page::11,12]

---

5. 风险因素评估

• 生成式AI技术创新风险：如果DeepSeek及行业整体在算法或硬件工程创新受阻，会直接限制模型能力进步与硬件需求扩张，影响产业升级节奏。

- 本地化部署需求风险：AI大模型本地部署需求的变化受技术进步、成本预算、企业IT策略影响，任何扰动可能导致需求不及预期，对AI PC及一体机销量负面影响。

• 硬件迭代不足风险：GPU算力、显存与生态建设若不能满足持续提升需求，将成为限制一体机和复杂模型部署的瓶颈，制约市场扩大。

- 报告风险识别全面，提醒市场合理评估潜在不确定性，体现专业审慎态度。[page::1,14]

---

6. 批判性视角与细微差别

• 报告整体积极乐观，强调国产化与本地化部署，但对硬件技术挑战和国产芯片FP8支持不足问题揭示较为严肃，表明市场仍面临配置瓶颈和性能优化难题。

- 本地化部署需求高度依赖法规政策和行业安全标准，未来若法规发生放松或云端安全技术提升，需求波动可能较大，需持续关注政策动态。

• 估值测算基于服务器出货量及预估渗透率，假设偏乐观，实际落地受采购预算和企业策略影响存在不确定。

- 多数图表数据基于内部或公开机构资料，开放细节有限，需警惕数据解释过程中可能的简化处理及偏差。

• 报告结构严谨、逻辑清晰，但较少涉及竞争对手的情况及外部宏观经济影响，比较局限于产业链内部视角。

- 总体来看，报告为用户提供了技术、市场及产业链完整图景，符合专业研究报告的客观要求。[page::0-14]

---

7. 结论性综合

本报告系统呈现了DeepSeek（DS）大模型尤其是R1蒸馏技术对AI本地化部署的深远影响，梳理了蒸馏模型轻量化技术优势、硬件部署要求与PC端提升的产业驱动力。

• 深层次评析DS蒸馏模型在性能与资源适配间实现的平衡，1.5B至70B多个版本满足不同终端部署需求，降低了AI端侧的入门门槛，刺激AI PC产品市场升级，是推动消费端AI硬件发展的重要催化剂。

- 一体机作为针对B端对数据安全和私有化需求的解决方案，集成软硬件深度优化，适配了国产AI芯片与多种主流大模型，实现了“开箱即用”、全栈开发及企业微调，显著简化了大模型部署过程，促进产业落地。

• 报告详细分析国产AI芯片生态中的FP8支持不足问题，解读定点量化及硬件架构优化对保证性能与显存需求均衡的技术路径，揭示当前技术难点和未来的发展重点。

- 市场空间测算清晰指出2025年DeepSeek一体机有望达到540亿元规模，主要来自政府、金融、医疗等信息安全要求高的政企市场，同时受益于国产算力硬件链条的全面适配与快速响应。

• 相关图表一目了然地支撑了从技术性能、硬件配置到市场潜力的各环节分析，数据丰富且结合行业趋势，增强报告说服力。

- 风险提示合理且全面，包含创新停滞、本地需求不足和硬件瓶颈风险，警示投资人与决策者需密切跟踪技术与市场动态，以应对潜在变动。

总体而言，报告立足于DeepSeek技术创新和国产芯片生态发展，科学评估了AI大模型本地部署的产业价值和市场空间，展现了AI一体机硬件未来的成长潜能，是深刻理解中国AI算力新时代商业模式及技术趋势的重要参考依据。[page::0-15]

---

参考文献与资料来源

报告贴附多项技术论文、产业统计数据及权威机构数据引用，包括DeepSeek官方技术文档、IDC行业数据、中国国产芯片供应商资料及云厂商财报等，保障分析的数据基础扎实。[page::15]

---

结束语

本次中金研究报告《AI进化论（3）：DeepSeek本地部署需求盛行，一体机硬件乘风而上》以深度视角解析了DeepSeek开源大模型引发的AI本地化风潮及产业链响应，提供了跨端终端和企业级市场硬件部署的详实技术路线图和市场潜力预测，对促进AI算力硬件国产化、服务行业数字化转型具有重要的战略指导意义。

报告