KubeEdge-Sedna v0.7.0 发布：联合推理引擎原生集成 K8S HPA，系统稳定性全面升级

2025-05-28
中国香港
本文字数：6928 字
阅读完需：约 23 分钟

本文以智慧工业园区为例，探讨了云边协同 AI 在案例实践过程发现的高峰期资源调度问题、系统维护时的“幽灵实例”、及底座版本问题。文章重点介绍北京时间 2025 年 4 月 20 日，KubeEdge-Sedna 发布的 v0.7.0 版本。此版本为联合推理提供原生的 HPA（Horizontal Pod Autoscaling）支持、联合推理与联邦学习控制器功能优化、底座架构升级。

本文重点展示了 KubeEdge-Sedna v0.7.0 版本升级的主要内容，包括:

联合推理支持 HPA：在人工智能快速发展的背景下，深度学习模型对计算资源的需求呈现显著波动，尤其在高峰期更为突出。为此，本次更新引入 HPA（Horizontal Pod Autoscaling）机制，该技术通过实时监控系统负载，动态调节推理实例数量，有效保障高并发场景下的系统稳定性。升级后的 HPA 不仅适配云边协同架构，还可无缝兼容 Sedna 历史版本，显著提升了系统扩展性和资源利用率。

控制器优化与增强：本次更新也迎来了联合推理与联邦学习控制器的重要优化。针对以往版本中存在的任务删除不彻底、实例重建不及时等问题，本次更新通过引入 Deployment 管理机制，实现了推理任务的动态伸缩与生命周期管理。此外，联邦学习任务的控制器也得到了改进，在稳定性上有了重大提升。

底座架构升级：本次更新同步将 Kubernetes 版本升级至 v1.30.7，Golang 版本升级至 v1.22.9。以及一系列问题修复，大幅提升 Sedna 整体性能与可靠性。

一、背景：以智慧工业园区为例

截止 2025 年，KubeEdge Sedna 相关算法及系统已应用于 20+案例中。在中国、印度多项大型智慧工业园区案例中，KubeEdge Sedna 使能的边缘 AI 安全帽检测系统持续保障工地安全生产。随着接入的工地和摄像头数量不断增加，系统面临着高峰期资源调度问题、系统维护时的“幽灵实例”问题、底座版本架构问题。

问题 1：高峰期的资源调度。在每天早班和晚班交接时段，工地出入口的人员流动量激增，边缘节点的安全帽检测请求量比平时增长 300%，导致系统响应延迟增加 50%，影响了对违规未戴安全帽行为的实时识别和预警。引入 HPA 机制后，系统能够根据 CPU 利用率自动扩展检测实例，将响应时间控制在可接受范围内；而在非高峰时段，系统又会自动缩减实例数量，整体节省了 40%的计算资源成本。

问题 2：系统维护时的“幽灵实例”。在系统升级或维护期间，删除旧的安全帽检测任务后，系统中常常残留检测实例。这些“幽灵实例”会导致新检测任务无法正常创建，运维团队不得不花费大量时间手动清理残留资源。更棘手的是，如果误删了正在运行的检测实例，系统无法自动重建，导致部分区域的安全帽检测中断数小时，存在安全隐患。

问题 3：底座版本陈旧。随着部署时间过去，底座 Kubernetes 版本、Golang 版本均有功能升级，但 KubeEdge Sedna 仍在使用数年前的陈旧版本，存在性能和可靠性风险。

二、解决方案：智慧工业园区的 AI 升级之路

为了解决上述挑战，sedna v0.7.0 版本带来了三项关键升级

方案 1：引入了 HPA（Horizontal Pod Autoscaling）机制，能根据实际负载自动调节检测实例数量
方案 2：优化了控制器，实现了检测实例的自动清理和重建
方案 3：将 Kubernetes 版本升级至 v1.30.7，Golang 版本升级至 v1.22.9，并修复一系列问题

新版本在各地工业园区应用中效果显著

在人员流动高峰期，系统能够自动感知负载变化，及时增加检测实例，确保安全帽检测的实时性和准确性；在低峰期，系统自动释放多余资源，极大降低了运维成本。

系统维护时，无需再手动清理残留实例，新检测任务可以顺利创建和运行，即使发生误删，系统也能自动重建检测实例，保障工地安全管理的连续性和可靠性。

底座版本实现无缝升级，大幅提升 Sedna 整体性能与可靠性。

👇🏻下面详细介绍实现方案：

▍1. 联合推理原生支持 HPA 能力

图 1 HPA 架构：以联合推理为例

HPA 是 k8s （Kubernetes ）原生提供的 pod 动态扩缩容能力，详细可参考 horizontal-pod-autoscale[1]，其可以直接应用于 Deployment[2]或者 StatefulSet[3] 等 k8s 原生资源，为了直接复用 HPA 能力且与老版本 Sedna 兼容，本次更新我们将联合推理的 pod 实例采用 Deployment 进行管理 (详细内容在后续介绍)，这样，我们就可以直接在联合推理范式的 API 中引入 HPA 的配置。联合推理范式的 API 设计可参见附录 1: HPA API 设计。其设计中，HPA 的配置与 k8s 的原生配置保持一致，用户可以直接参考 HPA 官方文档[1]进行配置。HPA 的配置支持 “同时在云边配置”、“只在云配置”、“只在边配置”以及“不配置”四种模式。当用户不配置时，将与 Sedna 历史版本使用完全一致。

🔗具体方案设计以及实现请参考：proposal[4] 、implementation[5]

🔗使用案例参考：附录 2: HPA 配置示例

▍2. 联合推理 &联邦学习控制器优化

图 2 联合推理控制器优化

联合推理方案设计：推理任务可以认为是一种无状态工作负载，因此可以利用 Kubernetes 的本地组件 Deployment 来实现 Pod 生命周期管理。通过使用 k8s 的 Informer 机制来监听推理任务的变化事件，然后通过调用 addDeployment/deleteDeployment/updateDeployment 等函数对 Deployment 资源进行对应的操作。此外，这一改变也可以直接对接上一章节提到的 HPA 能力，实现推理实例的动态伸缩。

🔗更多细节请参考：proposal[6]、implementation[7]

图 3 联邦学习控制器优化

联邦学习方案设计：在 Sedna 中，联邦学习属于一种训练任务，其会涉及到一些中间态的参数保存，其 pod 实例存在先后次序关系(即重新启动的 pod 实例可能需要访问上次失败 pod 的中间参数)，因此其不再适合使用 Deployment 进行管理。所以对于联邦学习的控制器优化，依然采用原始方案，对其进行改进优化。

🔗更多细节请参考：proposal[8] 、implementation[9]

▍3. 底座架构升级

本次升级将 Sedna 的 k8s 和 go 版本升级到了与 kubeedge 保持一致，并移除了大量 k8s 中已经废弃的函数和工具包。

🔗更多详细信息请参考：Upgrade K8s and Go versions[10]

本次升级也修复一系列问题，提高系统稳定性

修复对象搜索范式中的级联删除问题：PR #443[11]

修复联邦学习任务无法删除问题：PR #467[12]

修复 helm chart 包中 crd 未更新问题：PR #472[13]

修复 github CI 中的工作流版本问题：PR #475[14]

三、Release Note

如果读者对于本次版本发布的更多细节感兴趣，欢迎查阅 Sedna v0.7.0 Release Note[15]。

后续 KubeEdge SIG AI 将发布系列文章，陆续具体介绍新版本升级的特性，欢迎各位读者继续关注社区动态。

[2] Deployments: https://kubernetes.io/zh-cn/docs/concepts/workloads/controllers/deployment/

[3] StatefulSet: https://kubernetes.io/zh-cn/docs/concepts/workloads/controllers/statefulset/

[4] joint-inference-hpa.md: https://github.com/kubeedge/sedna/blob/main/docs/proposals/joint-inference-hpa.md

[5] feature: hpa for jointinference : https://github.com/kubeedge/sedna/pull/465

[6] sedna-controller-enhancement.md: https://github.com/kubeedge/sedna/blob/main/docs/proposals/sedna-controller-enhancement.md

[7] JointInferenceService controller enhancement: https://github.com/kubeedge/sedna/pull/445

[8] sedna-controller-enhancement.md: https://github.com/kubeedge/sedna/blob/main/docs/proposals/sedna-controller-enhancement.md

[9] Sedna FederatedLearning controller enhancement: https://github.com/kubeedge/sedna/pull/446

[10] Upgrade K8s and Go versions: https://github.com/kubeedge/sedna/pull/462

[11] fix objectsearch bug of joint delete: https://github.com/kubeedge/sedna/pull/443

[12] fix FederatedLearningJob delete error: https://github.com/kubeedge/sedna/pull/467

[13] fix helm crd can not generete error: https://github.com/kubeedge/sedna/pull/472

[14] update workfow actions from v2 to v4: https://github.com/kubeedge/sedna/pull/475

[15] Sedna v0.7.0 release: https://github.com/kubeedge/sedna/releases/tag/v0.7.0

附录 1：HPA API 设计

// HPA describes the desired functionality of the HorizontalPodAutoscaler.type HPA struct {    // +optional    MinReplicas *int32`json:"minReplicas,omitempty"`
    MaxReplicas int32`json:"maxReplicas"`
    // +optional    Metrics []autoscalingv2.MetricSpec `json:"metrics,omitempty"`
    // +optional    Behavior *autoscalingv2.HorizontalPodAutoscalerBehavior `json:"behavior,omitempty"`}
// EdgeWorker describes the data a edge worker should havetype EdgeWorker struct {    Model             SmallModel         `json:"model"`    HardExampleMining HardExampleMining  `json:"hardExampleMining"`    Template          v1.PodTemplateSpec `json:"template"`
    // HPA describes the desired functionality of the HorizontalPodAutoscaler.    // +optional    HPA *HPA `json:"hpa"`}
// CloudWorker describes the data a cloud worker should havetype CloudWorker struct {    Model    BigModel           `json:"model"`    Template v1.PodTemplateSpec `json:"template"`
    // HPA describes the desired functionality of the HorizontalPodAutoscaler.    // +optional    HPA *HPA `json:"hpa"`}

复制代码

附录 2：HPA 配置示例

apiVersion: sedna.io/v1alpha1kind: JointInferenceServicemetadata:  name: helmet-detection-inference-example  namespace: defaultspec:  edgeWorker:    hpa:      maxReplicas: 2      metrics:        - resource:            name: cpu            target:              averageUtilization: 50              type: Utilization          type: Resource      minReplicas: 1    model:      name: "helmet-detection-inference-little-model"    hardExampleMining:      name: "IBT"      parameters:        - key: "threshold_img"          value: "0.9"        - key: "threshold_box"          value: "0.9"    template:      spec:        nodeName: $Edge-NodeName        hostNetwork: true        dnsPolicy: ClusterFirstWithHostNet        containers:        - image: kubeedge/sedna-example-joint-inference-helmet-detection-little:v0.5.0          imagePullPolicy: IfNotPresent          name:  little-model          env:  # user defined environments          - name: input_shape            value: "416,736"          - name: "video_url"            value: "rtsp://localhost/video"          - name: "all_examples_inference_output"            value: "/data/output"          - name: "hard_example_cloud_inference_output"            value: "/data/hard_example_cloud_inference_output"          - name: "hard_example_edge_inference_output"            value: "/data/hard_example_edge_inference_output"          resources:  # user defined resources            requests:              memory: 64M              cpu: 50m            limits:              memory: 2Gi              cpu: 500m          volumeMounts:            - name: outputdir              mountPath: /data/        volumes:   # user defined volumes          - name: outputdir            hostPath:              # user must create the directory in host              path: /joint_inference/output              type: Directory
  cloudWorker:    hpa:      maxReplicas: 5      metrics:        - resource:            name: cpu            target:              averageUtilization: 20              type: Utilization          type: Resource      minReplicas: 1    model:      name: "helmet-detection-inference-big-model"    template:      spec:        nodeName: $Cloud-NodeName        dnsPolicy: ClusterFirstWithHostNet        containers:          - image: kubeedge/sedna-example-joint-inference-helmet-detection-big:v0.5.0            name:  big-model            imagePullPolicy: IfNotPresent            env:  # user defined environments              - name: "input_shape"                value: "544,544"            resources:  # user defined resources              requests:                cpu: 1024m                memory: 2Gi              limits:                cpu: 1024m                memory: 2Gi

复制代码

附录 3：HPA 部署效果

[root@master-01 ~]# kubectl get hpa -wNAME                                                      REFERENCE                                                        TARGETS         MINPODS   MAXPODS   REPLICAS   AGEhpa-helmet-detection-inference-example-deployment-cloud   Deployment/helmet-detection-inference-example-deployment-cloud   37%/20%         1         5         3          92shpa-helmet-detection-inference-example-deployment-edge    Deployment/helmet-detection-inference-example-deployment-edge    348%/50%        1         2         2          92shpa-helmet-detection-inference-example-deployment-cloud   Deployment/helmet-detection-inference-example-deployment-cloud   37%/20%         1         5         4          106shpa-helmet-detection-inference-example-deployment-edge    Deployment/helmet-detection-inference-example-deployment-edge    535%/50%        1         2         2          106shpa-helmet-detection-inference-example-deployment-cloud   Deployment/helmet-detection-inference-example-deployment-cloud   18%/20%         1         5         4          2m1shpa-helmet-detection-inference-example-deployment-edge    Deployment/helmet-detection-inference-example-deployment-edge    769%/50%        1         2         2          2m1shpa-helmet-detection-inference-example-deployment-cloud   Deployment/helmet-detection-inference-example-deployment-cloud   12%/20%         1         5         4          2m16s[root@master-01 jointinference]# kubectl get poNAME                                                              READY   STATUS    RESTARTS      AGEhelmet-detection-inference-example-deployment-cloud-7dffd47c6fl   1/1     Running   0             4m34shelmet-detection-inference-example-deployment-cloud-7dffd4dpnnh   1/1     Running   0             2m49shelmet-detection-inference-example-deployment-cloud-7dffd4f4dtw   1/1     Running   0             4m19shelmet-detection-inference-example-deployment-cloud-7dffd4kcvwd   1/1     Running   0             5m20shelmet-detection-inference-example-deployment-cloud-7dffd4shk86   1/1     Running   0             5m50shelmet-detection-inference-example-deployment-edge-7b6575c52s7k   1/1     Running   0             5m50shelmet-detection-inference-example-deployment-edge-7b6575c59g48   1/1     Running   0             5m20s

复制代码

【更多 KubeEdge 资讯推荐】玩转 KubeEdge 保姆级攻略——环境搭建篇

玩转 KubeEdge 保姆级攻略——环境搭建篇

《玩转 KubeEdge 保姆级攻略——环境搭建篇》课程主要介绍如何通过华为云服务快速搭建一套 KubeEdge 边缘计算开发平台及部署 Sedna、EdgeMesh 等 KubeEdge 生态组件。

课程免费学习链接：https://connect.huaweicloud.com/courses/learn/course-v1:HuaweiX+CBUCNXNX022+Self-paced/about

KubeEdge 社区介绍：KubeEdge 是业界首个云原生边缘计算框架、云原生计算基金会（CNCF）唯一毕业级边缘计算开源项目，社区已完成业界最大规模云原生边云协同高速公路项目（统一管理 10 万边缘节点/50 万边缘应用）、业界首个云原生星地协同卫星、业界首个云原生车云协同汽车、业界首个云原生油田项目，开源业界首个分布式协同 AI 框架 Sedna 及业界首个边云协同终身学习范式，并在持续开拓创新中。

KubeEdge 网站 : https://kubeedge.io

GitHub 地址 : https://github.com/kubeedge/kubeedge

Slack 地址 : https://kubeedge.slack.com

邮件列表 : https://groups.google.com/forum/#!forum/kubeedge

每周社区例会 : https://zoom.us/j/4167237304

Twitter : https://twitter.com/KubeEdge

文档地址 : https://docs.kubeedge.io/en/latest/

发布于: 刚刚阅读数: 6