基于容器平台 ACK 快速搭建 Stable Diffusion

作者：阿里巴巴云原生

2023-04-23
浙江
本文字数：2662 字
阅读完需：约 9 分钟

作者：子白

本文介绍如何在阿里云容器平台 ACK 上快速搭建一套可对外提供服务的 Stable Diffusion。

CPU 版本

前提条件

已创建 Kubernetes 托管版集群。具体操作，请参见创建 Kubernetes 托管版集群[1]。

📍无需 GPU，节点需要 8c16g 以上

已通过 kubectl 连接 kubernetes 集群。具体操作，请参见**通过 Kubectl 连接 Kubernetes 集群 [ 2] **。

使用控制台创建

登录容器服务管理控制台[3]，在左侧导航栏选择集群。
在集群列表页面中，单击目标集群名称或者目标集群右侧操作列下的详情。
在集群管理页左侧导航栏中，选择工作负载 > 无状态。
在无状态页面中，单击使用镜像创建。
在应用基本信息配置向导页面中，设置应用的基本信息。

image.png

zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.cpu

复制代码

image.png

["python3", "launch.py"]["--listen", "--skip-torch-cuda-test", "--no-half"]

复制代码

等待 pod ready

📍镜像大小为 12.7GB，内网下载约 10min

image.png

在集群管理页左侧导航栏中，选择网络 > 服务。

新建服务，选择负载均衡类型。

image.png

等待约 1min 后，刷新页面可以看到 External IP 列有具体 IP

image.png

在浏览器中访问上一步获取到的 http://xxx.xxx.xxx.xxx:7860，即可看到如下页面。

Prompt：Black and white photo of a beautiful city

Sampling method：DPM++ SDE

image.png

使用 kubectl 创建

stable-diffusion.yaml

apiVersion: apps/v1kind: Deploymentmetadata:  labels:    app: stable-diffusion  name: stable-diffusion  namespace: defaultspec:  replicas: 1  selector:    matchLabels:      app: stable-diffusion  template:    metadata:      labels:        app: stable-diffusion    spec:      containers:      - args:        - --listen        - --skip-torch-cuda-test        - --no-half        command:        - python3        - launch.py        image: zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.cpu        imagePullPolicy: IfNotPresent        name: stable-diffusion        resources:          requests:            cpu: "2"            memory: 2Gi---apiVersion: v1kind: Servicemetadata:  annotations:    service.beta.kubernetes.io/alibaba-cloud-loadbalancer-address-type: internet    service.beta.kubernetes.io/alibaba-cloud-loadbalancer-instance-charge-type: PayByCLCU  name: stable-diffusion  namespace: defaultspec:  externalTrafficPolicy: Local  ports:  - port: 7860    protocol: TCP    targetPort: 7860  selector:    app: stable-diffusion  type: LoadBalancer

复制代码

kubectl apply -f stable-diffusion.yaml

复制代码

等待 pod ready

📍镜像大小为 12.7GB，内网下载约 10min

# 查看pod状态，等待pod runningkubectl get po |grep stable-diffusion
# 查看CLB IPkubectl get svc stable-diffusion
NAME               TYPE           CLUSTER-IP      EXTERNAL-IP    PORT(S)          AGEstable-diffusion   LoadBalancer   192.168.x.x     xx.xx.xx.xxx   7860:32320/TCP   12m

复制代码

在浏览器中访问上一步获取到的 http://xxx.xxx.xxx.xxx:7860，即可看到如下页面。

Prompt：Black and white photo of a beautiful city

Sampling method：DPM++ SDE

image.png

GPU 版本

前提条件

已创建 Kubernetes 异构集群集群。具体操作，请参见创建托管 GPU 集群[4]。

📍需要 GPU 节点，磁盘剩余容量需大于 40G

已通过 kubectl 连接 kubernetes 集群。具体操作，请参见通过 Kubectl 连接 Kubernetes 集群。

使用 kubectl 创建

stable-diffusion.yaml

apiVersion: apps/v1kind: Deploymentmetadata:  labels:    app: stable-diffusion  name: stable-diffusion  namespace: defaultspec:  replicas: 1  selector:    matchLabels:      app: stable-diffusion  template:    metadata:      labels:        app: stable-diffusion    spec:      containers:      - args:        - --listen        command:        - python3        - launch.py        image: zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.gpu        imagePullPolicy: IfNotPresent        name: stable-diffusion        resources:          requests:            cpu: "2"            memory: 2Gi          limits:            nvidia.com/gpu: 1---apiVersion: v1kind: Servicemetadata:  annotations:    service.beta.kubernetes.io/alibaba-cloud-loadbalancer-address-type: internet    service.beta.kubernetes.io/alibaba-cloud-loadbalancer-instance-charge-type: PayByCLCU  name: stable-diffusion  namespace: defaultspec:  externalTrafficPolicy: Local  ports:  - port: 7860    protocol: TCP    targetPort: 7860  selector:    app: stable-diffusion  type: LoadBalancer

复制代码

kubectl apply -f stable-diffusion.yaml

复制代码

等待 pod ready

📍镜像大小为 15.1GB，内网下载约 15min

# 查看pod状态，等待pod runningkubectl get po |grep stable-diffusion
# 查看CLB IPkubectl get svc stable-diffusion
NAME               TYPE           CLUSTER-IP      EXTERNAL-IP    PORT(S)          AGEstable-diffusion   LoadBalancer   192.168.x.x     xx.xx.xx.xxx   7860:32320/TCP   12m

复制代码

在浏览器中访问上一步获取到的 http://xxx.xxx.xxx.xxx:7860，即可看到如下页面。

Prompt：Black and white photo of a beautiful city

Sampling method：DPM++ SDE

image.png

GPU 版本的图片生成速度明显优于 CPU 版本。