大型网站技术架构核心原理与案例分析

1.分层是企业应用系统中最常见的一种架构模式，
将系统在横向维度上切分成几个部分，
每个部分负责一部分相对比较单一的职责，
然后通过上层对下层的依赖和调用组成 一个完整的系统

2.在大型网站架构中也采用分层 结构，
将网站软件系统分为应用层、服务层、数据层

3.通过分层，可以更好地将一个庞大的软件系统切分成不同的部分，
便于分工合作开发和维护；各层之间具有一定的独立性，只要维持调用接口不变，
各层可以根据具体问题独立演化发展而不需要其他层必须做出相应调整

4.但是分层架构也有一些挑战，就是必须合理规划层次边界和接口，
在开发过程中， 严格遵循分层架构的约束，
禁止跨层次的调用（应用层直接调用数据层）
及逆向调用（数据层调用服务层，或者服务层调用应用层）

5.在实践中，大的分层结构内部还可以继续分层，
如应用层可以再细分为视图层（美工负责）和业务逻辑层（工程师负责）；
服务层也可以细分为数据接口层（适配各种输入和输出的数据格式）和逻辑处理层

6.分层架构是逻辑上的，在物理部署上，三层结构可以部署在同一个物理机器上，
但是随着网站业务的发展，必然需要对已经分层的模块分离部署，即三层结构分别部署在不同的服务器上，
使网站拥有更多的计算资源以应对越来越多的用户访问

7.所以虽然分层架构模式最初的目的是规划软件清晰的逻辑结构便于开发维护，
但在网站的发展过程中，分层结构对网站支持高并发向分布式方向发展至关重要。
因此在网站规模还很小的时候就应该采用分层的架构，这样将来网站做大时才能有更好地应对。

1.网站越大，功能越复杂，服务和数据处理的种类也越多，将这些不同的功能和服务分割开来，
包装成高内聚低耦合的模块单元，一方面有助于软件的开发和维护；
另一方面，便于不同模块的分布式部署，提高网站的并发处理能力和功能扩展能力

2.大型网站分割的粒度可能会很小。比如在应用层，将不同业务进行分割，
例如将购物、论坛、搜索、广告分割成不同的应用，由独立的团队负责，部署在不同的服务器上

1.分布式应用和服务：将分层和分割后的应用和服务模块分布式部署，
除了可以改善网站性能和并发性、加快开发和发布速度、
减少数据库连接资源消耗外；还可以使不同应用复用共同的服务，便于业务功能扩展。

2.分布式静态资源：网站的静态资源如JS, CSS, Logo图片等资源独立分布式部署， 
并釆用独立的域名，即人们常说的动静分离

3.分布式数据和存储：大型网站需要处理以P为单位的海量数据，
单台计算机无法提供如此大的存储空间，这些数据需要分布式存储

4.分布式计算
支持网站线上服务器配置实时更新的分布式配置
分布式环境下实 现并发和协同的分布式锁；
支持云存储的分布式文件系统等

5.一个业务拆分为多个子业务，部署在多个服务器上

1.同一个业务，部署在多个服务器上

2.即多台服务器部署相同应用构成一个集群，
通过负载均衡设备共同对外提供服务

1.缓存就是将数据存放在距离计算最近的位置以加快处理速度。
缓存是改善软件性能的第一手段，
现代CPU越来越快的一个重要因素就是使用了更多的缓存，
在复杂的软件 设计中，缓存几乎无处不在

2.CDN：即内容分发网络，部署在距离终端用户最近的网络服务商，
用户的网络请求总是先到达他的网络服务商那里，在这里缓存网站的一些静态资源（较少变化的数据）， 
可以就近以最快速度返回给用户，如视频网站和门户网站会将用户访问量大的热点内容缓存在CDN

3.反向代理：反向代理属于网站前端架构的一部分，部署在网站的前端，当用户请求到达网站的数据中心时，
最先访问到的就是反向代理服务器，这里缓存网站的静态资源， 无需将请求继续转发给应用服务器就能返回给用户

4.本地缓存：在应用服务器本地缓存着热点数据，应用程序可以在本机内存中直接访问数据，而无需访问数据库

5.分布式缓存：大型网站的数据量非常庞大，即使只缓存一小部分，需要的内存空间也不是单机能承受的，
所以除了本地缓存，还需要分布式缓存，将数据缓存在一个专门的分布式缓存集群中，应用程序通过网络通信访问缓存数据

6.使用缓存有两个前提条件，一是数据访问热点不均衡，某些数据会被更频繁的访问， 这些数据应该放在缓存中；二是数据在某个时间段内有效，不会很快过期，否则缓存的 数据就会因已经失效而产生脏读，影响结果的正确性。网站应用中，缓存除了可以加快 数据访问速度，还可以减轻后端应用和数据存储的负载压力，这一点对网站数据库架构 至关重要，网站数据库几乎都是按照有缓存的前提进行负载能力设计的

提高系统可用性

加快网站响应速度

消除并发访问高峰

但需要注意的是，使用异步方式处理业务可能会对用户体验、
业务流程造成影响， 需要网站产品设计方面的支持

网站需要7x24小时连续运行，但是服务器随时可能出现故障，
特别是服务器规模比 较大时，岀现某台服务器宕机是必然事件

需要一定程度的服务器冗余运行，数据冗余备份，
这样当某台服务器宕机时，可以将其上的服务和数据访问转移到其他机器上

访问和负载很小的服务也必须部署至少两台服务器构成一个集群

数据库除了定期备份，存档保存，实现冷备份外，
为了保证在线业务高可用，还需要对数据库进行主从分离，实时同步实现热备份

在无人值守的情况下网站可以正常运行，一切都可以自动化是网站的理想状态。
目前大型网站的自动化架构设计主要集中在发布运维方面

网站需要对线上生产环境进行自动化监控，对服务器进行心跳检测，并监控其各项性能指标和应用程序的关键数据指标

通过密码和手机校验码进行身份认证

登录、交易等操作需要对网络通信进行加密，网站服务器上存储的敏感数据如用户信息等也进行加密处理

为了防止机器人程序滥用网络资源攻击网站，网站使用验证码进行识别；对于常见的用于攻击网站的XSS攻击、SQL注入、进行编码转换等相应处理

对于垃圾信息、敏感信息进行过滤；对交易转账等重要操作根据交易模式和交易信息进行风险控制

1.系统分为三个层次，最下层是基础服务层，提供数据库、缓存、存储、搜索等数据服务，
以及其他一些基础技术服务，这些服务支撑了新浪微博的海量数据和高并发访问， 
是整个系统的技术基础

2.中间层是平台服务和应用服务层，新浪微博的核心服务是微博、关系和用户，
它们是新浪微博业务大厦的支柱。这些服务被分割为独立的服务模块，
通过依赖调用和共享 基础数据构成新浪微博的业务基础

3.最上层是API和新浪微博的业务层，各种客户端（包括Web网站）和第三方应用， 
通过调用API集成到新浪微博的系统中，共同组成一个生态系统

响应时间

并发数

吞吐量

性能计数器

性能测试

负载测试

压力测试

稳定性测试

1.性能分析

2.性能优化

减少http请求

使用浏览器缓存

启用压缩

CSS放在页面最上面、JavaScript放在页面最下面

减少Cookie传输

CDN能够缓存的一般是静态资源，如图片、文件、CSS、Script脚本、静态网页等, 
但是这些文件访问频度很高，将其缓存在CDN可极大改善网页的打开速度

安全性

缓存起到加速作用

负载均衡

缓存特点:
1.缓存主要用来存放那些读写比很高、很少变化的数据
2.网站数据访问通常遵循二八定律，即80%的访问落在20%的数据上,
将这20%的数据缓存起来，可很好地改善系统性能

合理使用缓存

多线程

资源复用

数据结构

垃圾回收

削峰作用

机械硬盘

固态硬盘

B+树

LSM 树

Raid （廉价磁盘冗余阵列）

高并发,大流量,大流量访问
高可用:系统7x24小时不间断服务
海量数据:需要存储、管理海量数据，需要使用大量服务器

用户分布广泛，网络情况复杂
安全环境恶劣:由于互联网的开放性,使得互联网站更容易受到攻击
需求快速变更，发布频繁

渐进式发展:几乎所有的大型互联网站都是从一个小网站开始,渐进地发展起来的
(好的互联网产品都是慢慢运营岀 来的，不是一开始就开发好的，这也正好与网站架构的发展演化过程对应)

1.2.1初始阶段的网站架构

1.2.2应用服务和数据服务分离

1.2.3使用缓存改善网站性能

1.2.4使用应用服务器集群
改善网站的并发处理能力

1.2.5数据库读写分离

1.2.6使用反向代理
和CDN加速网站响应

1.2.7使用分布式文件系统
和分布式数据库系统

1.2.8使用NoSQL和搜索引擎

1.2.9业务拆分

1.2.10分布式服务

1.大型网站都是从小型网站发展而来。网站的价值在于它能为用户提供什么价值，在于网站能做什么，
而不在于它是怎么做的，所以在网站还很小的时候就去追求网站的架构是舍本逐末，得不偿失的

2.大型网站架构技术的核心价值是随网站所需灵活应对

3.驱动大型网站技术发展的主要力量是网站的业务发展
创新的业务发展模式对网站架构逐步提出更高要求，
才使得创新的网站架构得以发 展成熟。是业务成就了技术，是事业成就了人

一味追随大公司的解决方案

为了技术而技术

企图用技术解决所有问题(技术是用来解决业务问题的，而业务的问题，也可以通过业务的手段去解决)

每一个模式描述了一个在我们周围不断重复发生的问题及该问题解决方案的核心

网站不可用时间（故障时间）=故障修复时间点-故障发现（报告）时间点

网站年度可用性指标=（1-网站不可用时间/年度总时间）xlOO%

2个9是基本可用

3个9 是较高可用

4个9是具有自动恢复能力的高可用

5个9是极高可用性

故障分是指对网站故障进行分类加权计算故障责任的方法

Session 复制
缺点:当请求量比较多的情况下,占用服务器资源过多

Session 绑定
Session绑定可以利用负载均衡的源地址Hash算法实现，
负载均衡服务器总是将来源 于同一 IP的请求分发到同一台服务器上
缺点:当有服务器宕机,session会丢失

利用 Cookie 记录 Session
一种管理Session的方式是将 Session记录在客户端
受Cookie大小限制

Session服务器
利用独立部署的Session服务器（集群）统一管理Session, 应用服务器每次读写Session时，都访问Session服务器

核心应用和服务优先使用更好的硬件，在运维响应 速度上也格外迅速

在服务部署上也进行必要的隔离，避免故障的连锁反应
低优先级的服务通过 启动不同的线程或者部署在不同的虚拟机上进行隔离，而高优先级的服务则需要部署在 不同的物理机上，核心服务和数据甚至需要部署在不同地域的数据中心

超时设置

异步调用

服务降级

幕等性设计