`

国泰海通|电子:昇腾推理加速套件正式开源,昇腾芯片渗透加速

创建于 更新于

摘要

报告指出华为昇腾多模态推理加速套件MindIE SD已开源,并与中科弘云联合推出AI推理加速解决方案,可通过缓存、量化、稀疏Attention与算力调度等手段显著提升长文档推理性能(如序列39K场景并发+86%、吞吐+36%),预计推动昇腾芯片渗透率提升,昇腾链相关环节有望受益 [page::0]

速读内容

深度阅读

报告