写点什么

蛇年开工送大礼,邀您一键体验 DeepSeek 系列新模型

  • 2025-02-06
    广东
  • 本文字数:943 字

    阅读完需:约 3 分钟

蛇年开工送大礼,邀您一键体验DeepSeek系列新模型

摘要:DeepSeek 系列模型首发即支持昇腾平台,让用户能够在昇腾硬件和 MindIE 推理引擎上实现高效推理。


DeepSeek AI 最新发布的多模态大模型 Janus-Pro,以及之前发布的大型语言模型 DeepSeek-R1、DeepSeek-V3 及 DeepSeek-V2,一经发布,就在 AI 领域引起了热烈反响,多项创新技术显著提升了模型的性能与效率。DeepSeek 系列模型首发即支持昇腾平台,让用户能够在昇腾硬件和 MindIE 推理引擎上实现高效推理。


2025 年 2 月 4 日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro 正式上线昇腾社区,支持一键获取 DeepSeek 系列模型,支持昇腾硬件平台上开箱即用,推理快速部署,带来更快、更高效、更便捷的 AI 开发和应用体验,欢迎广大开发者体验使用。


下面以 Deepseek-V3 为例,演示在昇腾社区如何高效获取模型及使用。


1、硬件要求

部署 DeepSeek-V3 模型需配置 4 台 Atlas 800I A2(8*64G)服务器资源。


另:如需在线体验,可点击下方链接体验基于昇腾云的 DeepSeek R1&V3 推理服务:

DeepSeek-R1:https://r1.siliconflow.cn

DeepSeek-V3:https://v3.siliconflow.cn

2、模型调用实践

一、 权重转换

GPU:


NPU:


二、 加载镜像

在昇腾社区/开发资源下载适配 DeepSeek-V3 的镜像包:


mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64


完成之后,请使用 docker images 命令确认查找具体镜像名称与标签。


三、 容器启动

提供的 MindIE 镜像预置了 DeepSeek-V3 模型推理脚本,从您信任的来源自行获取权重后,放置在从上述下载的模型代码的主目录下,修改模型文件夹属组为 1001,执行权限为 750,启动容器。



四、 服务化测试

配置服务化环境变量,expandable_segments-使能内存池扩展段功能,即虚拟内存特性。


修改服务化参数


拉起服务化


图片出现“Daemon start success!”,则认为服务成功启动。


更深入了解 DeepSeek 系列模型在昇腾上的使用方法及指导文档,可登录昇腾社区模型库专区学习了解。


更多 DeepSeek 模型获取链接可参考:

DeepSeek-R1

https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3


DeepSeek-V3:

https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15


Janus-Pro

https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9


点击关注,第一时间了解华为云新鲜技术~

发布于: 刚刚阅读数: 3
用户头像

提供全面深入的云计算技术干货 2020-07-14 加入

生于云,长于云,让开发者成为决定性力量

评论

发布
暂无评论
蛇年开工送大礼,邀您一键体验DeepSeek系列新模型_人工智能_华为云开发者联盟_InfoQ写作社区