服务端高并发分布式架构演进之路-淘宝千万级并发

2020-12-08 09:01:00
六月
来源:
https://www.jianshu.com/p/f4a907fe1485
转贴 1868

1、概述

本文以淘宝作为例子,介绍从一百个并发到千万级并发情况下服务端的架构的演进过程,同时列举出每个演进阶段会遇到的相关技术,让大家对架构的演进有一个整体的认知,文章最后汇总了一些架构设计的原则。

2、基本概念

在介绍架构之前,为了避免部分读者对架构设计中的一些概念不了解,下面对几个最基础的概念进行介绍。

1)什么是分布式?
系统中的多个模块在不同服务器上部署,即可称为分布式系统,如Tomcat和数据库分别部署在不同的服务器上,或两个相同功能的Tomcat分别部署在不同服务器上。

2)什么是高可用?
系统中部分节点失效时,其他节点能够接替它继续提供服务,则可认为系统具有高可用性。

3)什么是集群?
一个特定领域的软件部署在多台服务器上并作为一个整体提供一类服务,这个整体称为集群。
如Zookeeper中的Master和Slave分别部署在多台服务器上,共同组成一个整体提供集中配置服务。
在常见的集群中,客户端往往能够连接任意一个节点获得服务,并且当集群中一个节点掉线时,其他节点往往能够自动的接替它继续提供服务,这时候说明集群具有高可用性。

4)什么是负载均衡?
请求发送到系统时,通过某些方式把请求均匀分发到多个节点上,使系统中每个节点能够均匀的处理请求负载,则可认为系统是负载均衡的。

5)什么是正向代理和反向代理?
系统内部要访问外部网络时,统一通过一个代理服务器把请求转发出去,在外部网络看来就是代理服务器发起的访问,此时代理服务器实现的是正向代理;
当外部请求进入系统时,代理服务器把该请求转发到系统中的某台服务器上,对外部请求来说,与之交互的只有代理服务器,此时代理服务器实现的是反向代理。
简单来说,正向代理是代理服务器代替系统内部来访问外部网络的过程,反向代理是外部请求访问系统时通过代理服务器转发到内部服务器的过程。

3 、架构演进

3.1 单机架构

3.2第一次演进:Tomcat与数据库分开部署

3.3 第二次演进:引入本地缓存和分布式缓存

3.4 第三次演进:引入反向代理实现负载均衡

3.5 第四次演进:数据库读写分离

3.6 第五次演进:数据库按业务分库

3.7 第六次演进:把大表拆分为小表

3.8 第七次演进:使用LVS或F5来使多个Nginx负载均衡

3.9 第八次演进:通过DNS轮询实现机房间的负载均衡

3.10 第九次演进:引入NoSQL数据库和搜索引擎等技术

3.11 第十次演进:大应用拆分为小应用

3.12 第十一次演进:复用的功能抽离成微服务

3.13 第十二次演进:引入企业服务总线ESB屏蔽服务接口的访问差异

3.14 第十三次演进:引入容器化技术实现运行环境隔离与动态服务管理

3.15 第十四次演进:以云平台承载系统

参考: https://segmentfault.com/a/1190000018626163

https://www.jianshu.com/p/9e015057d81c

发表评论
评论通过审核后显示。