IT序号网

Nginx 反向代理 负载均衡

sanshao 2021年06月13日 程序员 340 0
常见负载均衡算法

 
  • 轮询(默认)
  • 权重
    • weight,访问比率等于权重之比
  • IP 哈希
    • 解决session问题:每个请求访问IP的hash结果分配,这样每个访客可以固定到后端某一个台服务器。
    • 问题:
      • 如某台服务器挂掉,对应ip_hash找不到该机器?
        • 如果哈希选择失败次数达到20次以上,回退到轮询策略进行选择。
      • 如果同一IP地址请求较多,造成某一服务器压力较大,而其余的服务器较空闲?。
        • 可以使用url_hash 进一步细分,来实现负载均衡。
  • 最少连接(least_conn)
    • 选择连接数最少的服务器
  • url_hash(第三方)
    • 按访问URL的hash结果来分配请求,使每个URL定向到同一个后端服务器。后端服务器为缓存时比较适用。
    • 此中策略中,不能使用weight,等其他参数。
  • fair(第三方)
    • 按后端服务器的响应时间来分配请求,响应时间短的优先分配
 
 
配置模块--upstream模块

upstream模块可定义一个新的上下文, 它包含了一组upstream服务器,这些服务器可能被赋予了不同的权重、不同的类型甚至可以基于维护等原因被标记为down。
upstream模块经常使用在 proxy模块中;
 
常用指令
  • ip_hash
    • 基于客户端IP地址完成请求的分发
    • 它可以保证来自于同一个客户端的请求始终被转发至同一个upstream服务器;
  • keepalive
    • 每个worker进程为发送到upstream服务器的连接所缓存的个数;
  • least_conn
    • 最少连接调度算法;
  • server:定义一个upstream服务器的地址,还可包括一系列可选参数,如:
    • weight
      • 权重
    • max_fails
      • 最大失败连接次数,失败连接的超时时长由fail_timeout指定;
    • fail_timeout
      • 等待请求的目标服务器发送响应的时长;
    • backup
      • 用于fallback的目的,所有服务均故障时才启动此服务器;
    • down
      • 手动标记其不再处理任何请求;
 
应用场景

官方给的简单例子:
upstream backend { 
    server backend1.example.com       weight=5; 
    server backend2.example.com:8080; 
    server unix:/tmp/backend3; 
 
    server backup1.example.com:8080  backup; 
    server backup2.example.com:8080  backup; 
} 
 
server { 
    location / { 
        proxy_pass http://backend; 
    } 
}
动态选择的例子
resolver 10.0.0.1; 
 
upstream dynamic { 
    zone upstream_dynamic 64k; 
 
    server backend1.example.com      weight=5; 
    server backend2.example.com:8080 fail_timeout=5s slow_start=30s; 
    server 192.0.2.1                 max_fails=3; 
    server backend3.example.com      resolve; 
    server backend4.example.com      service=http resolve; 
 
    server backup1.example.com:8080  backup; 
    server backup2.example.com:8080  backup; 
} 
 
server { 
    location / { 
        proxy_pass http://dynamic; 
        health_check; 
    } 
}


 
实践与问题

实现默认轮询与权重
     // 权重 
      upstream backend { 
              server 10.103.100.3:8090 weight=2; 
              server 10.103.100.4:8090; 
     } 
     // 默认轮询 
      upstream backend { 
              server 10.103.100.3:8090; 
              server 10.103.100.4:8090; 
       } 
  
      server { 
  
          listen 80; 
          server_name localhost; 
  
          location /{ 
              proxy_pass http://backend; 
          } 
     }
问题
  • upstream 模块是在http配置块底下,放在server配置块里面会报错
  • upstream server 定义后台服务器时直接指定主机名和端口即可
    • 不需要加上http://
    • http:// 在proxy_pass 中加上即可
  • weight 默认值为1
 
IP_hash
// 带权重ip_hash 
      upstream backend { 
               ip_hash; 
              server 10.103.100.3:8090 weight=2; 
              server 10.103.100.4:8090; 
     } 
     // 普通ip_hash 
      upstream backend { 
              ip_hash; 
              server 10.103.100.3:8090; 
              server 10.103.100.4:8090; 
       } 
  
      server { 
  
          listen 80; 
          server_name localhost; 
  
          location /{ 
              proxy_pass http://backend; 
          } 
     }
注意:
  • weight,ip_hash 可以叠加使用

评论关闭
IT序号网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!