首页  流程图  详情

3.负载均衡

2024-12-04 10:04:04   0  举报





为什么做负载均衡，衡量的指标是什么，如何优化

架构

指标

优化

cdn

负载均衡

作者其他创作

大纲/内容

https://segmentfault.com/a/1190000023025244

指标：并发数：同时服务的调用方的数量。（包括：用户或服务）吞吐量：单位时间内，能接受和返回的数据量。根据业务逻辑衡量。 TPS：每秒进行的事务的数目（整体定义事务的请求、操作、返回） QPS：每秒的查询量 TPS和QPS的关系：由具体的场景来决定。（比如：打开一个京东的首页，一个TPS包含多个QPS）平均响应时间：用户的角度。可靠性指标：平均无故障时间，系统上线到第一次发生故障，运行的平均值。-------------------------------------------------------------------------------------------------------公式计算：阿姆达尔定律加速比 r ：优化前的时间/优化后的时间。比如一个响应时间需要2s，调优后变为1秒，加速比为：2/1=2 增强比例 p：某个模块的响应时间/整个系统模块的总响应时间。<1 如果系统只有一个模块那就是1 整体系统的平均响应时间 t： t新响应时间 = t老响应时间 * ((1-p）+ p/r）整个系统的加速比：1/ ((1-p）+ p/r）目的：优化 p 值大的模块，加大 r-------------------------------------------------------------------------------------------------------指标之间的关系：并发数对吞吐量的关系：并发数对响应时间的关系：第一个优化：并发数。防止并发数过高解决办法：分流 1.先DNS（域名解析成ip）分流 A（address）记录：里面是ip地址 CName（Canonical Name）记录：域名到域名 DNS负载均衡：域名添加多个A地址。 CDN：将请求分发到距离用户网络拓扑最近的服务器（拓扑是动态变化的，因为网络负载，内容可用性、设备状况）一举两得： 1. 减少每个系统的并发数 2. 用户访问离他近的网络拓扑(区域)，降低网络延迟，减少平均响应时间。 2. CDN 全称:Content Delivery Network或Content Ddistribute Network，即内容分发网络 https://zhuanlan.zhihu.com/p/28940451 占用流量大，不经常变。（比如：视频、图片、附件等）节点别名：cdn节点、缓存节点、边缘节点。对应的叫源站（也就是系统服务）部署成本增加。数据的同步会复杂。（直接使用：cdn服务商。如：阿里云。）优点：减少了系统并发。（用户直接请求了cdn节点，请求不会进入系统）减少了平均响应时间。减少了网络拥堵。（内容直接从cdn节点获取，减少了系统内部的网络调用）缓存静态内容：配置规则列表决定哪些数据需要缓存。动态内容：去源站处理。 3. 直连方案：动态内容处理。 4.正向代理、反向代理。4层负载、7层负载

3.返回距离最近的cdn的服务ip地址

1.请求服务域名

2。请求cdn服务

6.将内容发给cdn

DNS拦截使用CName处理。域名到域名

请求

顶级域名服务器

根域名服务器全球25台

cdn服务器

系统A平均响应为1s

系统、源站

r = 3/1 =3p= 3/4 =0.754 * ( (1- 0.75) +0.75/3) = 2100个系统，优化哪个？