飞腾宣布旗下国产CPU平台已实现DeepSeek端到端支持

继龙芯3宣布完美支持运行DeepSeek后,另一个国产化CPU企业飞腾信息技术有限公司近日宣布,其旗下两款CPU产品腾云S5000C和腾锐D3000,已成功实现对DeepSeek全系列大模型的端到端支持,全面覆盖数据中心和终端场景,标志着国产CPU在AI大模型应用方面再度取得重要进展。

继龙芯3宣布完美支持运行DeepSeek后,另一个国产化CPU企业飞腾信息技术有限公司近日宣布,其旗下两款CPU产品腾云S5000C和腾锐D3000,已成功实现对DeepSeek全系列大模型的端到端支持,全面覆盖数据中心和终端场景,标志着国产CPU在AI大模型应用方面再度取得重要进展。

据悉,DeepSeek-V2.5 236B大模型已在飞腾腾云S5000C平台上实现稳定运行,且基于该平台的设备搭配8块国产AI卡,整体性能可达到国外平台性能的约80%。随着DeepSeek-V3和R1版本的发布,飞腾技术团队进一步在腾云S5000C和腾锐D3000上进行了本地部署验证,形成了完整的解决方案。

在数据中心侧,飞腾腾云S5000C服务器能够与多款AI加速卡协同工作,实现DeepSeek蒸馏版和全量版的部署。飞腾AI实验室已在单机8卡服务器平台上对蒸馏版DeepSeek-R1-Distill-Llama-70B进行了测试,推理速度达到22tokens/s。同时,完整版DeepSeek R1 671B模型也成功在四机32卡AI服务器集群上通过分布式推理框架进行了部署。

在用户终端侧,基于飞腾腾锐D3000的台式机同样能够本地部署DeepSeek-R1 7B蒸馏版模型。通过搭配1张国产推理卡,这些台式机将具备AI PC的能力,为用户提供更加智能、高效的计算体验。

(来源:驱动中国)
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

相关推荐