envoy负载均衡架构

Envoy 负载均衡架构采用分层设计，包括全局、上游集群和本地优先级等层级，通过多种策略（如轮询、随机）分配流量，确保高效稳定的请求分发。

Envoy的负载均衡架构是一个复杂而灵活的系统，旨在有效地分配流量以优化资源使用和提高系统的整体性能，以下是对Envoy负载均衡架构的详细解析：

Envoy负载均衡策略

1、全局负载均衡：

由控制平面统一决策，通过指定优先级、位置权重、端点权重和端点健康状态等参数来调整施加到各个端点的负载。

优先级允许定义不同级别的服务重要性，确保关键服务优先处理。

位置权重考虑了服务的地理位置，有助于减少网络延迟。

端点权重则根据每个实例的处理能力进行分配，以确保高效利用资源。

端点健康状态通过主动健康检查监控，不健康的实例会被暂时排除在流量分配之外。

2、分布式负载均衡：

Envoy自身基于上游主机的位置及健康状态等来确定如何分配负载至相关端点。

区域感知路由使Envoy能够优先选择地理位置更近的端点，从而降低延迟。

负载均衡算法如加权轮询（weighted round robin）和加权最少请求（weighted least request）等，用于在多个健康的上游主机之间分配流量。

Envoy负载均衡算法

1、加权轮询（Weighted Round Robin）：

每个可用的上游主机按照循环顺序被选择，较高权重的端点会更频繁地出现在轮换中。

适用于大多数场景，提供简单且有效的负载均衡。

2、加权最少请求（Weighted Least Request）：

根据主机的活动请求数动态调整权重，选择当前活动请求最少的主机。

特别适用于长连接场景，因为它倾向于平衡各主机上的活动连接数。

3、环哈希（Ring Hash）与磁悬浮（Maglev）：

类似于一致性哈希算法，将请求映射到固定的环上，确保相同的客户端请求总是被发送到同一主机。

磁悬浮是环哈希的改良版，使用65537个槽位来减少计算量并提高稳定性。

高级特性与配置

1、优先级与恐慌阈值：

优先级允许在集群内部进一步细分服务级别，确保高优先级服务优先处理。

当健康节点比例低于设定的恐慌阈值时，Envoy会放宽选择标准，以避免剩余健康节点过载。

2、资源限制机制：

Envoy通过resource manager对Upstream集群的最大连接数、最大请求数等关键资源进行管理，防止资源耗尽。

全局限流机制则从全局视角控制通信和链路情况，确保服务器稳定运行。

示例配置

以下是一个简化的Envoy配置示例，展示了如何使用加权轮询算法实现负载均衡：

static_resources:  listeners:    address:        socket_address: { address: 0.0.0.0, port_value: 80 }      filter_chains:        filters:            name: envoy.http_connection_manager              typed_config:                "@type": type.googleapis.com/envoy.extensions.filters.network.http_connection_manager.v3.HttpConnectionManager                stat_prefix: ingress_http                route_config:                  name: local_route                  virtual_hosts:                    name: webservice                      domains: ["*"]                      routes:                        match: { prefix: "/" }                          route: { cluster: web_cluster_01 }                http_filters:                  name: envoy.filters.http.router  clusters:    name: web_cluster_01      connect_timeout: 0.25s      type: STRICT_DNS      lb_policy: ROUND_ROBIN      load_assignment:        cluster_name: web_cluster_01        endpoints:          lb_endpoints:              endpoint:                  address:                      socket_address:                        address: red                        port_value: 80                load_balancing_weight: 1              endpoint:                  address:                      socket_address:                        address: blue                        port_value: 80                load_balancing_weight: 3              endpoint:                  address:                      socket_address:                        address: green                        port_value: 80                load_balancing_weight: 5

在这个配置中，web_cluster_01集群使用了加权轮询算法，其中红色、蓝色和绿色三个端点的权重分别为1、3和5，这意味着绿色端点将接收更多的流量，因为它具有最高的权重。

FAQs：

问：Envoy负载均衡中的“优先级”是如何工作的？

答：优先级允许Envoy在集群内部进一步细分服务级别，默认情况下，Envoy只在最高优先级的候选集中选取服务实例，如果所有最高优先级实例都不可用，它会依次尝试较低优先级的实例，直到找到可用的服务实例为止，这样可以确保关键服务得到优先处理。

问：什么是Envoy中的“恐慌阈值”，它有什么作用？

答：“恐慌阈值”是Envoy负载均衡中的一个安全机制，当集群中健康节点的比例低于这个阈值时，Envoy会放宽其选择标准，不再局限于仅选择健康节点，这样做的目的是避免将所有流量都集中到少数健康节点上，导致这些节点过载并最终崩溃，恐慌阈值确保了即使在部分节点不可用的情况下，整个系统仍然能够平稳运行。

小编有话说：Envoy的负载均衡架构提供了高度可定制性和灵活性，使其能够适应各种复杂的应用场景，无论是简单的加权轮询还是高级的区域感知路由和资源限制机制，Envoy都能为现代微服务架构提供强大的支持。

以上就是关于“envoy负载均衡架构”的问题，朋友们可以点击主页了解更多内容，希望可以够帮助大家!