写点什么

5 分钟搞懂 Jenkins 分布式架构

作者:俞凡
  • 2022-12-28
    上海
  • 本文字数:1944 字

    阅读完需:约 6 分钟

Jenkins 通常以单节点模式工作,但其也可以通过代理的方式实现多节点架构,从而能够横向扩展 Jenkins 系统,支持大规模 CICD 流水线。原文: Jenkins Distributed Architecture



Jenkins 是最著名的持续集成工具,是实现 DevOps 的必要组件之一。


本文我们将研究如何基于 Jenkins 的主从配置实现 Jenkins 分布式架构。

Jenkins 单节点架构

参考下图了解 Jenkins 单节点架构。


Jenkins 单节点架构


对于某些特定场景,单节点不足以满足需求:


  • 如果所有执行程序都忙于处理构建任务,则作业(Job)必须等待。

  • 当项目的数量或负载增加时,很可能会耗尽资源。


为了恢复并运行 Jenkins 基础设施,需要通过增加内存、CPU 等来增强服务器,而这不具备可扩展性,必须根据需求维护和升级服务器。


在维护升级过程中,构建环境将被关闭,作业不得不停止,整个 Jenkins 基础设施将不可用。


这种单节点架构会造成系统经常处于 idel 状态,分配给 Jenkins 环境的资源在这种状态下也没法被充分利用。


单节点架构还会引入安全问题,因为 Jenkins 用户对所有资源和工作空间都拥有完全的权限。


由于所有这些原因,Jenkins 支持分布式架构,其中构建项目的工作负载被委托给多个 Jenkins 代理。



Jenkins 分布式架构

Jenkins 代理是运行在远程服务器上并从主节点卸载工作的 Java 可执行文件。

Jenkins 主节点(Master)的特点:

主节点负责:


  1. 调度构建作业。

  2. 将构建作业分发给代理实际执行。

  3. 监视从节点(Slave),并根据需要停止其工作。

  4. 如果所有 Jenkins 代理都被占用,也可以直接执行作业。

Jenkins 代理的特点:

Jenkins 代理负责:


  1. 从主节点接收请求或工作,代理的工作就是按命令行事。

  2. 可以将工作配置为始终在特定代理上执行。

  3. 主节点将利用其资源来处理 HTTP 请求和管理构建环境,构建的实际执行将委托给代理。


通过这种配置,可以横向扩展 Jenkins 架构,其中 Jenkins 将安装在单个节点上。


参考下图理解 Jenkins 的多节点或分布式架构。


Jenkins 分布式架构



接下来我们在 AWS EC2 上设置 Jenkins 代理,并将其与 Jenkins 主节点集成。


第一步:


在一台服务器上运行 Jenkins 主节点。


第二步:


  • 为 Jenkins 代理创建 EC2 实例。

  • 为了访问代理节点,Jenkins 代理程序需要与主节点建立双向通信。


在 Master 和 Agent 之间建立连接有不同的方法:

  1. SSH Connector

  2. Inbound Connector

  3. 自定义脚本


  • 因为 Jenkins 内置了 SSH 客户端实现,因此我们使用 SSH 连接器,Jenkins 主节点可以使用授权密钥轻松的与代理建立连接。

  • 在新的 EC2 实例上使用ssh-keygen命令创建 SSH 密钥。


第三步:


  • 如上所述,Jenkins 代理是 Java 可执行文件,因此需要在服务器上安装 JDK (Java Development Kit)。


# Install Javasudo apt-get update
sudo apt-get install default-jdk -y
# Install Mavensudo apt-get install maven -y
# Create User as Jenkinssudo useradd -m jenkinssudo -u jenkins mkdir /home/jenkins/.ssh
复制代码


第四步:


  • SSH 到部署了 Jenkins Master 的 EC2 实例。

  • 从 Master 添加 SSH 密钥到 Jenkins Agent:sudo cat ~/. SSH /id_rsa.pub

  • 拷贝上述命令的输出。


第五步:


  • SSH 到部署了 Jenkins Agent 的 EC2 实例。

  • .ssh文件夹下创建一个空文件,复制主节点的 SSH 密钥: sudo -u jenkins vi /home/jenkins/.ssh/authorized_keys


第六步:


  • SSH 到部署了 Jenkins Master 的 EC2 实例。

  • 使用ssh jenkins@Jenkins_Agent_IP_ADDRESS测试与代理节点的连接。


注意: Jenkins Agent 的公网 IP 必须在 Master 安全组的白名单内。


  • 通过执行sudo cp ~/.ssh/known_hosts /var/lib/jenkins/.ssh将 SSH 密钥复制到/var/lib/jenkins/.ssh

  • Jenkins Master 将从上面的文件夹中查找密钥。

  • 如果在 Docker 上运行 Jenkins Master,那么使用命令sudo cp ~/.ssh/known_hosts <JENKINS HOME directory >/.ssh


第七步:


  • 为 Jenkins 代理添加证书。

  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Credentials → Global Credentials → Add Credentials



  • 我们在步骤 3 中已经在代理节点上创建了 jenkins 用户,因此用户名为 jenkins

  • 可以使用sudo cat ~/.ssh/id_rsa命令从主节点复制私钥。

  • 确保复制了整个密钥。


-----BEGIN RSA PRIVATE KEY---------------END RSA PRIVATE KEY-----
复制代码


第八步:


  • 在 Jenkins Master 中注册代理节点。

  • 配置路径为: Jenkins Master → Manage Jenkins → Manage Nodes


管理节点


  • 单击"New Node",输入"Node Name",并将节点配置为"Permanent Agent"。



  • 用以下值配置代理并保存。

  • 可以选择第七步中创建的 key。



第九步:


  • 启动代理并检查日志。


代理连接日志


第十步:


  • 恭喜配置完成了 Jenkins 分布式系统,现在可以开始构建工作了。

  • 可以看到 Jenkins 主节点通过从节点执行作业。




你好,我是俞凡,在 Motorola 做过研发,现在在 Mavenir 做技术工作,对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI 等技术始终保持着浓厚的兴趣,平时喜欢阅读、思考,相信持续学习、终身成长,欢迎一起交流学习。

微信公众号:DeepNoMind

发布于: 刚刚阅读数: 5
用户头像

俞凡

关注

公众号:DeepNoMind 2017-10-18 加入

俞凡,Mavenir Systems研发总监,关注高可用架构、高性能服务、5G、人工智能、区块链、DevOps、Agile等。公众号:DeepNoMind

评论

发布
暂无评论
5分钟搞懂Jenkins分布式架构_架构_俞凡_InfoQ写作社区