如下图所示,负载均衡做为反向代理,将请求方的请求转发至后端的服务节点,实现服务的请求。
在nginx中可以通过upstream配置server时,设置weight表示对应server的权重。
若存在多个服务节点时,负载均衡如何通过服务节点的权重进行转发。
如下详细说明权重转发算法的实现。
用三个后端服务节点为例说明
设置三个后端服务ServerA,ServerB和ServerC,它们的权重分布是 5,3,1
按照加权负载均衡算法,在一轮(5+3+1=9次)中ServerA占5次,ServerB占3次,ServerC占1次,从而实现均衡。
如下图所示:
为了实现这个功能,可以给每一个后端设置对应的权重5,3,1
变量1:后端服务的权重 Weight
变量2:均衡器累计的总的有效权重 EffectiveWeight
变量3:实时统计后端服务的当前权重 CurrentWeight
算法设计
第一步,向均衡器中增加后端服务标识
- 将三个后端服务标识和权重Weight增加到负载均衡器列表中。
- 每次增加后端服务时,累计总的有效权重EffectiveWeight。
第二步,每次获取一个后端服务标识
- 对均衡器中的所有后端服务增加自己的权重Weight,即(5,3,1),计算ABC三个服务的当前权重。
- 选择当前权重CurrentWeight最大的服务,做为本次期望的后端服务。
- 将期望的后端服务的当前权重CurrentWeight减小总的权重EffectiveWeight,供下一轮使用。
如下是一个一轮(5+3+1=9次)获取的权重变化表:
从这个表中可以看到后端服务轮询的顺序是 A B A C A B A B A,其中A出现了5次,B出现了3次,C出现了1次,满足三个服务的权重Weight设置。
完成9次获取后,ABC三个服务的权重都归0,因此下一轮的9次获取也是均衡的,
算法实现按照如上算法说明,使用Golang实现这个算法如下
写一个单测进行验证
运行单元测试,观察运行结果是否符合算法设计的预期
参考材料:
https://github.com/phusion/nginx/commit/27e94984486058d73157038f7950a0a36ecc6e35
https://github.com/mygityf/go-library/tree/main/lb
done.
祝玩的开心~