北京大学联合华为发布全栈开源DeepSeek推理方案（图）
IT之家 3 月 10 日消息，据华为技术有限公司和北京大学高性能计算校级公共平台消息，2025 年 3 月 9 日，北京大学联合华为发布 DeepSeek 全栈开源推理方案。
据介绍，该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统，并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件，实现华为升腾上的 DeepSeek 高效推理，并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发，性能接近闭源方案。
目前，此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理，为北大鲲鹏升腾科教创新卓越中心提供算力支持。IT之家查询获悉，作为国内首个基于高校自研基础软件的国产智算平台，该集群于 2024 年 11 月 18 日上线运行，首期集成 20 台升腾 AI 服务器与 10 台鲲鹏通用服务器，AI 算力规模为 30.64PFlops（半精度）。
此次发布的 DeepSeek 推理方案依托全栈开源组件构建，在 openEuler 开源操作系统层面进行了深度优化；通过异构调度负载感知 MoE 冷热专家，从而更细粒度调度任务；通过异构融合来高效管理内存，减小系统内存碎片；利用毕升编译器进一步优化，减少算子下发耗时，提升推理整体性能。
算力集群全栈开源推理方案架构图
今日评论
网友评论仅供其表达个人看法，并不表明网站立场。
最新评论(0)
暂无评论
热评新闻
+61
+86
+886
+852
+853
+64
