直播回顾

2025 年 2 月 21 日晚上 9 点 30 分，

我们迎来了新春后的首场人工智能三人行宣讲活动。

这场直播聚焦于 Deepseek 开源大模型，

探讨了其对 AI 算力、算法、数据及应用带来的新发展。

本次直播邀请到了上海赞奇的总经理俞阁总和速石科技陈琳涛，

主持人则为 SRE 专委会发起人 刘峰老师，

三位嘉宾围绕 AI 算力管理展开了深入讨论。

随着 Deepseek 开源大模型的发布，AI 领域迎来了新的变革。

三位嘉宾从不同角度探讨了 AI 算力需求的变化、

端侧与推理算力的崛起、国产自主可控算力的发展，

以及人工智能在企业中的应用场景。

话题一：AI 算力需求的变化

刘峰老师首先指出，AI 算力始终是大模型的基础，

而 DeepSeek 的出现极大地推动了算力需求的增长。

俞总补充道，DeepSeek 不仅降低了大模型的使用门槛，

还激发了企业和个人对 AI 算力的需求。

他强调，尽管基础大模型的训练需求有其上限，

但推理应用的场景正在迅速扩大，

这将带来 GPU 和硬件需求的爆发式增长。

陈总则从企业角度出发，

指出 Deepseek 的出现加速了 AI 算力的部署，

尤其是云厂商纷纷将资源倾斜于 DeepSeek，

推动了从云端到本地的算力需求转变。

他提到，企业现在更倾向于在本地部署 AI 模型，

以满足特定业务场景的需求。

话题二：端侧 AI 与推理算力的崛起

在端侧 AI 与推理算力方面，

俞总认为，AI 应用正从云端向端侧转移，

企业和个人用户对本地化部署的需求日益增加。

他提到个人用户可以通过本地设备（如 Mac mini 或 4090 显卡）

运行 AI 模型，

而企业则需要根据自身规模选择合适的 AI 工作站或服务器。

陈总则强调，

推理算力的崛起不仅是技术发展的必然，

也是企业降本增效的重要手段。

他指出，企业需要在本地化部署和云端 API 之间找到平衡，

以满足不同业务场景的需求。

话题三：国产自主可控算力的进展

在国产自主可控算力方面，

俞总表示，尽管国产 GPU 在性能和生态建设上仍有差距，

但在推理场景中已经具备一定的替代能力。

他提到，国产芯片的成本相对较高，

但随着技术的发展和市场的竞争，

未来有望实现降本增效。

陈总则从企业应用的角度出发，

指出国产芯片的适配和生态建设仍需时间。

他提到，尽管部分国产芯片已经在特定场景中实现了良好的适配，

但整体生态的完善还需要各方共同努力。

话题四：人工智能的学习与应用

刘峰老师分享了他们在培训领域的经验，强调了理性看待 AI 的重要性。

他提到，企业需要根据自身需求，

选择合适的 AI 模型，而不是盲目追求高性能硬件。

俞总和陈总也分别从技术和业务角度给出了建议，

强调了 AI 工具在提升工作效率和优化业务流程中的价值。

直播总结:

本次直播围绕 Deepseek 开源大模型对 AI 算力的影响，展开了深入讨论。

嘉宾们一致认为，DeepSeek 不仅推动了 AI 算力需求的增长，

还加速了端侧 AI 和推理算力的发展。

尽管国产自主可控算力仍面临挑战，

但随着技术的进步和市场的竞争，

未来有望实现更大的突破。

我们希望通过本次直播，

帮助观众更好地理解 AI 算力时代的机遇与挑战。

如果您对 AI 算力管理或 DeepSeek 感兴趣，

欢迎关注我们的公众号：ZTA-SRE 专委会，

获取更多相关内容！