GPU集群_GPU集群技术文章_InfoQ写作社区

全部标签 



写点什么

登录注册

GPU集群

0 人感兴趣 · 4 次引用

关注

最新
推荐

https://static001.geekbang.org/infoq/af/af9026024d53583a2ed0938a1bf191ab.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

配置 NVIDIA Container Runtime 和容器运行 GPUStack 教程

11-19

配置 NVIDIA 容器运行时环境并使用容器方式运行 GPUStack 的操作教程

Docker 容器大模型 LLM GPU集群

https://static001.geekbang.org/infoq/af/af9026024d53583a2ed0938a1bf191ab.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

配置 NVIDIA Container Runtime 和容器运行 GPUStack 教程

11-19

配置 NVIDIA 容器运行时环境并使用容器方式运行 GPUStack 的操作教程

Docker 容器大模型 LLM GPU集群

https://static001.geekbang.org/infoq/06/0610afce026ff86b98f1af9f0f3c4d2f.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

GPUStack 0.2：开箱即用的分布式推理、CPU 推理和调度策略

09-19

GPUStack 0.2 版本新增了单机多卡分布式推理、跨主机分布式推理、纯 CPU 推理、Binpack 和 Spread 放置策略以及指定 Worker 调度、手动指定 GPU 调度等核心特性。

AI 大模型生成式AI LLM GPU集群

https://static001.geekbang.org/infoq/06/0610afce026ff86b98f1af9f0f3c4d2f.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

GPUStack 0.2：开箱即用的分布式推理、CPU 推理和调度策略

09-19

GPUStack 0.2 版本新增了单机多卡分布式推理、跨主机分布式推理、纯 CPU 推理、Binpack 和 Spread 放置策略以及指定 Worker 调度、手动指定 GPU 调度等核心特性。

AI 大模型生成式AI LLM GPU集群

1

热门活动

优质合集

精选文章

企业号社区

行业技术资讯