写点什么

Linux 下玩转 nginx 系列(八)--- 如何使用 upsync 模块实现动态负载均衡

作者:anyRTC开发者
  • 2022 年 8 月 16 日
    上海
  • 本文字数:3965 字

    阅读完需:约 13 分钟

一、HTTP 动态负载均衡

动态负载均衡


动态负载均衡策略类似于加权轮询策略,可以通过对于后端服务器集群的状态监测,量化不同服务器的性能差异,来周期性调整服务器的比重来实现权重的动态调整。


在 nginx 中传统的负载均衡,如果 Upstream 参数发生变化,每次都需要重新加载 nginx.conf 文件,因此扩展性不是很高,所以我们可以采用动态负载均衡,实现 Upstream 可配置化、动态化,无需人工重新加载 nginx.conf。这类似分布式的配置中心。


动态负载均衡实现方案


  • Consul+Consul-template 每次发现配置更改需要 raload nginx,重启 Nginx。

  • Consul+OpenResty 实现无需 raload 动态负载均衡。

  • Consul+upsync+Nginx 实现无需 raload 动态负载均衡。


常用服务器注册与发现框架


1.常见服务发现框架 Consul、Eureka、ZooKeeper 以及 Etcd,ZooKeeper 是这种类型的项目中历史最悠久的之一,它起源于 Hadoop。它非常成熟、可靠,被许多大公司(YouTube、eBay、雅虎等)使用。


2.Consul 是 HashiCorp 公司推出的开源工具,用于实现分布式系统的服务发现与配置。Consul 使用 Go 语言编写,因此具有天然可移植性(支持 Linux、windows 和 Mac OS X)。Consul 采用主从模式的设计,使得集群的数量可以大规模扩展,集群间通过 RPC 的方式调用(HTTP 和 DNS)。Consul 内置了服务注册与发现框架、分布一致性协议实现、健康检查、Key/Value 存储、多数据中心方案,不再需要依赖其他工具(比如 ZooKeeper 等),使用起来也较为简单。


3.etcd 是一个采用 HTTP 协议的健/值对存储系统,它是一个分布式和功能层次配置系统,可用于构建服务发现系统。其很容易部署、安装和使用,提供了可靠的数据持久化特性。它是安全的并且文档也十分齐全。


对于 nginx 下要实现动态负载均衡,目前有三个选择方式:


1.Tengine 的 Dyups 模块。


2.微博的 Upsync+Consul 实现动态负载均衡。


3.OpenResty 的 balancer_by_lua(又拍云使用其开源的 slardar(Consul balancer_by_lua))。


文章下面介绍怎么使用 upsync 模块和 consul 来实现 nginx 的动态负载均衡。

二、CONSUL 快速入门

Consul 是一款开源的分布式服务注册与发现系统,通过 HTTP API 可以使得服务注册、发现实现起来非常简单,它支持如下特性。


  • 服务注册:服务实现者可以通过 HTTP API 或 DNS 方式,将服务注册到 Consul。

  • 服务发现:服务消费者可以通过 HTTP API 或 DNS 方式,从 Consul 获取服务的 IP 和 PORT。故障检测:支持如 TCP、HTTP 等方式的健康检查机制,从而当服务有故障时自动摘除。

  • K/V 存储:使用 K/V 存储实现动态配置中心,其使用 HTTP 长轮询实现变更触发和配置更改。

  • 多数据中心:支持多数据中心,可以按照数据中心注册和发现服务,即支持只消费本地机房服务,使用多数据中心集群还可以避免单数据中心的单点故障。

  • Raft 算法:Consul 使用 Raft 算法实现集群数据一致性。

  • 通过 Consul 可以管理服务注册与发现,接下来需要有一个与 Nginx 部署在同一台机器的 Agent 来实现 Nginx 配置更改和 Nginx 重启功能。我们有 Confd 或者 Consul-template 两个选择,而 Consul-template 是 Consul 官方提供的,我们就选择它了。其使用 HTTP 长轮询实现变更触发和配置更改(使用 Consul 的 watch 命令实现)。也就是说,我们使用 Consul-template 实现配置模板,然后拉取 Consul 配置渲染模板来生成 Nginx 实际配置。


CONSUL 环境搭建


1.下载 consul_1.13.1_linux_amd64.zip


wget https://releases.hashicorp.com/consul/1.13.1/consul_1.13.1_linux_amd64.zip
复制代码


2.解压 consul_0.7.5_linux_amd64.zip


unzip consul_0.7.5_linux_amd64.zip#如果解压出现该错误-bash: unzip: #未找到命令#centos解决办法yum -y install unzip#ubuntu解决办法apt-get -y install unzip
复制代码


3.执行 ./consul 出现以下信息就说明安装成功



4.启动 consul ,我的 linux ip 地址 192.168.199.104


./consul agent -dev -ui -node=consul-dev -client=192.168.199.104
复制代码


5.临时关闭防火墙


systemctl stop firewalld
复制代码


6.浏览器访问 192.168.199.104:8500,会出现如下页面



7.使用 PostMan 注册 HTTP 服务


//此处ip地址为ConsulServer所在服务器的地址//http://192.168.199.104:8500/v1/catalog/register///参数1{    "Datacenter": "dc1",    "Node": "go-http",    "Address": "192.168.199.104", //本地地址    "Service": {        "Id": "192.168.199.104:8080", # 8080        "Service": "helloword",        "tags": [            "dev"        ],        "Port": 8080    }}//参数2{    "Datacenter": "dc1",    "Node": "go-http",    "Address": "192.168.199.104",    "Service": {        "Id": "192.168.199.104:8081",//8081        "Service": "helloword",        "tags": [            "dev"        ],        "Port": 8081    }}
复制代码


Datacenter 指定数据中心,Address 指定服务 IP,Service.Id 指定服务唯一标识,Service.Service 指定服务分组,Service.tags 指定服务标签(如测试环境、预发环境等),Service.Port 指定服务端口。


8.发现 HTTP 服务


http://192.168.199.104:8500/v1/catalog/service/helloword
复制代码

三、NGINX-UPSYNC-MODULE

注意:清除之前 Nginx 环境,重新安装。


NGINX-UPSYNC-MODULE 简介


Upsync 是新浪微博开源的基于 Nginx 实现动态配置的三方模块。Nginx-Upsync-Module 的功能是拉取 Consul 的后端 server 的列表,并动态更新 Nginx 的路由信息。此模块不依赖于任何第三方模块。Consul 作为 Nginx 的 DB,利用 Consul 的 KV 服务,每个 Nginx Work 进程独立的去拉取各个 upstream 的配置,并更新各自的路由。


NGINX-UPSYNC-MODULE 安装及配置整个流程


安装 Nginx


wget http://nginx.org/download/nginx-1.23.1.tar.gz#作用:实现反向代理、负载负载库
复制代码


安装 consul


wget https://releases.hashicorp.com/consul/1.13.1/consul_1.13.1_linux_amd64.zip#作用:对动态负载均衡均配置实现注册
复制代码


安装 nginx-upsync-module


wget https://github.com/weibocom/nginx-upsync-module/archive/master.zip#作用:nginx动态获取最新upstream信息#解压安装unzip master.zipunzip consul_1.13.1_linux_amd64.zip#如果解压出现该错误-bash: unzip: 未找到命令#centos解决办法yum -y install unzip#ubuntu解决办法apt-get -y install unzip
#安装Nginx#解压Nginxtar -zxvf nginx-1.23.1.tar.gz#配置Nginxgroupadd nginxuseradd -g nginx -s /sbin/nologin nginxmkdir -p /var/tmp/nginx/client/mkdir -p /usr/local/nginx
复制代码


编译 Nginx


cd nginx-1.23.1./configure   --prefix=/usr/local/nginx   --user=nginx   --group=nginx   --with-http_ssl_module   --with-http_flv_module   --with-http_stub_status_module   --with-http_gzip_static_module   --with-http_realip_module   --http-client-body-temp-path=/var/tmp/nginx/client/   --http-proxy-temp-path=/var/tmp/nginx/proxy/   --http-fastcgi-temp-path=/var/tmp/nginx/fcgi/   --http-uwsgi-temp-path=/var/tmp/nginx/uwsgi   --http-scgi-temp-path=/var/tmp/nginx/scgi   --with-pcre --add-module=../nginx-upsync-module-mastermake && make install
编译的是报错./configure: error: SSL modules require the OpenSSL library.centos解决办法yum -y install openssl openssl-develubuntu解决办法apt-get -y install openssl openssl-devel
复制代码


创建 upsync_dump_path


mkdir /usr/local/nginx/conf/servers/#upsync_dump_path指定从consul拉取的上游服务器后持久化到的位置,这样即使consul服务器出问题了,本地还有一个备份。
复制代码


Upstream 动态配置


http {    upstream helloworld{        server 127.0.0.1:1111;        #连接Consul Server 动态获取 配置负载均衡信息,间隔0.5s获取信息        upsync 192.168.199.104:8500/v1/kv/upstreams/helloworld upsync_timeout=6m upsync_interval=500ms upsync_type=consul strong_dependency=off;        #动态的拉去ConsulServer 相关负载均衡信息持久化到硬盘上        upsync_dump_path /usr/local/nginx/conf/servers/servers_test.conf;    }    server {        listen       80;        server_name  localhost;        location / {            proxy_pass http://helloword;            index  index.html index.htm;        }    }}
复制代码


1.upsync 指令指定从 consul 哪个路径拉取上游服务器配置;upsync_timeout 配置从 consul 拉取上游服务器配置的超时时间;upsync_interval 配置从 consul 拉取上游服务器配置的间隔时间;upsync_type 指定使用 consul 配置服务器;strong_dependency 配置 nginx 在启动时是否强制依赖配置服务器,如果配置为 on,则拉取配置失败时 nginx 启动同样失败。upsync_dump_path 指定从 consul 拉取的上游服务器后持久化到的位置,这样即使 consul 服务器出问题了,本地还有一个备份。


2.注意:替换 consul 注册中心地址启动 consul


临时关闭防火墙systemctl stop firewalld我的linux Ip地址192.168.199.104    ./consul agent -dev -ui -node=consul-dev -client=192.168.199.104
复制代码


添加 nginx Upstream 服务


1.使用linux命令方式发送put请求curl -X PUT http://192.168.199.104:8500/v1/kv/upstreams/helloworld/192.168.199.104:8080curl -X PUT http://192.168.199.104:8500/v1/kv/upstreams/helloworld/192.168.199.104:80812.使用postmen 发送put请求http://192.168.199.104:8500/v1/kv/upstreams/helloworld/192.168.199.104:8080 http://192.168.199.104:8500/v1/kv/upstreams/helloworld/192.168.199.104:8081负载均衡信息参数{"weight":1, "max_fails":2, "fail_timeout":10, "down":0}
复制代码


启动 Nginx

参考文档

nginx-proxy_pass官网Full Example Configurationnginx-upsync-module【NGINX】基于CONSUL+UPSYNC+NGINX实现动态负载均衡

发布于: 刚刚阅读数: 3
用户头像

实时交互,万物互联! 2020.08.10 加入

实时交互,万物互联,全球实时互动云服务商领跑者!

评论

发布
暂无评论
Linux下玩转nginx系列(八)---如何使用upsync模块实现动态负载均衡_nginx_anyRTC开发者_InfoQ写作社区