中金 | AI进化论（1）：DeepSeek推动 大模型平权 ，是训练算力的拐点还是黑洞？
创建于 更新于
摘要
报告系统性梳理了DeepSeek（DS）在大模型训练中所采用的多项创新技术，包括MoE架构的稀疏化专家模型设计、采用FP8混合精度训练提高算力利用率、多token预测（MTP）提升训练效率、以及后训练阶段采用的GRPO强化学习算法，显著降低算力成本。同时，报告强调了硬件工程化创新的重要性，如专家并行策略、双重流水线执行以及针对CUDA底层PTX代码的优化，提升硬件运行效率。DS技术路线虽提升训练效率，但未突破Scaling Law规律，算力需求仍有较大市场空间，国产算力支持面临FP8兼容性挑战，混合部署有望成为未来趋势 [page::0][page::2][page::3][page::5][page::6][page::8][page::10][page::12][page::13]
