免费体验 100 度算力包,极速部署不蒸馏满血版 DeepSeek-R1!

1.背景介绍
热点聚焦:DeepSeek-R1 & V3 引爆全球关注!
自从深度求索团队开源了 DeepSeek-R1 和 DeepSeek-V3,这两款模型迅速成为 AI 领域的焦点,引发了全球范围的热议!它们不仅是人工智能技术的重大突破,更是深度求索团队献给全人类的一份重磅科技大礼 。
⚡ Alaya NeW 算力云:让 DeepSeek 部署更简单!
借助 Alaya NeW 算力云服务 提供的强大 GPU 资源,您可以轻松实现 DeepSeek 模型在云端的推理服务部署,并根据实际需求灵活使用算力,为技术创新与科研探索提供高效支持!
三步搞定一键部署,快速上手 DeepSeek!
不想被复杂的配置流程困扰?别担心!只需三步,您就能轻松完成 DeepSeek 大语言模型的一键部署。立即行动起来吧!体验地址:
免费体验25度算力包,一键部署DeepSeek!docs.alayanew.com/docs/documents/newActivities/deepseekrdeploy

2.前置条件
本教程假定您已经具备以下条件:
3.一键部署 DeepSeek 模型
3.1 模型资源需求建议
3.2 访问私有应用市场
请参考私有应用市场-开始使用
3.3 部署应用
请参考私有应用市场-部署应用
在部署 DeepSeek 应用时,不同的模型需要修改的 values.yaml 文件内容(下图的右侧可编辑部分)不同。

提示 values.yaml 文件内容一般无需修改,如要修改可修改如下参数
vksID: DeepSeek 所有模型,都要修改成自己集群的 ID,获取方式 kubectl cluster-info | awk -F'/' '{print $NF}' | head -n 1
modelName: 可以自定义模型名称
openwebui:只允许修改 env 列表中的 OPENAI_API_BASE_URLS 属性的值,DeepSeek-R1 和 DeepSeek-V3 不要修改,DeepSeek 其他模型,要跟 modelName 保持一致
资源需求: requests 和 limits GPU 的需求量参考上面资源需求建议表。 cpu 和 memory 的配置按 GPU 数量成比例增加参考GPU使用
vllm: 可调整和新增 vllm 启动参数
3.4 访问模型
部署成功以后,通过网页访问模型,也可以通过接口访问模型
网页访问
拼接 openwebui 地址
地址模板: https://openwebui-x-`{namespace}`-x-`{vksID}`.sproxy.hd-01.alayanew.com:22443
{namespace}: 替换成您实际的命名空间
{vksID}: values.yaml 中的 vksID
如下是 namespace=deepseek, vksId=vcacu2dshr12 的 openwebui 地址
通过 Notes.txt 直接访问
进入私有私有应用市场,点击我的应用,列出应用列表,如下图:

选择部署的应用,进入应用详情,如下图:

点击 Notes.txt,可以显示模型网页访问地址,如下图:

访问模型,并对话,如下图:

接口访问
接口 url 地址参数替换
{namespace}: 替换成您实际的命名空间
{vksID}: values.yaml 中的 vksID
{modelName}: DeepSeek-V3 和 DeepSeek-R1 固定为:raycluster-kuberay-head-svc, 其他 DeepSeek 模型为 values.modelName
也可以通过 Notes.txt 获取接口地址,参考网页访问
输出:
好的,我来分享一个轻松的小笑话:
医生对病人说:“以后尽量少吃宵夜。”病人紧张地问:“是因为会消化不良吗?”医生摇摇头:“不,主要是我每次半夜刷朋友圈,看见你发烤串火锅小龙虾的照片…真的很难专心值班。”
(希望这个小幽默能让你会心一笑~ )
评论