网站架构概述

大型分布式网站架构技术总结(其下有不少概述文章)html

互联网公司技术架构前端

记一次JavaWeb网站技术架构总结算法

系统网站

不论什么网站,不论在什么阶段,都是以用户为基础的。其目的都是要服务更多用户,占据更多市场份额,创造更大利润。数据库

在网站初期,须要是系统尽快上线,抢占市场。当用户量上来了,再进行系统升级。如今绝大多数系统,应该都是走的这个路子,从小到大,从简单到复杂。设计模式

大型网站的特色

以用户为中心,用户多,分布普遍,全国世界各地浏览器

流量大,并发高,数据量大缓存

安全环境恶劣,容易受到网络攻击安全

需求多,频繁发布服务器

系统从小到大,渐进发展网络

大型网站架构目标

高性能:提供快速的访问体验

主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

可分为前端优化,应用层优化,代码层优化,存储层优化。

前端优化:网站业务逻辑以前的部分;

浏览器优化:减小Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减小Cookie传输;CDN加速,反向代理;

应用层优化:处理网站业务的服务器。使用缓存,异步,集群

代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;

存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;

高可用:网站服务一直能够正常访问

正常提供对外服务。由于大型网站的复杂性,分布式,廉价服务器,开源数据库,操做系统等特色。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提升可用性,就是须要迫切解决的问题。首先,须要从架构级别,在规划的时候,就考虑可用性。行业内通常用几个9表示可用性指标。好比四个9(99.99),一年内容许的不可用时间是53分钟。

不一样层级使用的策略不一样,通常采用冗余备份失效转移解决高可用问题。

应用层:通常设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。通常使用负载均衡技术(须要解决Session同步问题),实现高可用。

服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,限流,幂等设计等。

数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

可伸缩:经过硬件增长/减小,提升/下降处理能力

伸缩性是指在不改变原有架构设计的基础上,经过添加/减小硬件(服务器)的方式,提升/下降系统的处理能力。

应用层:对应用进行垂直或水平切分。而后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。

服务层:与应用层相似;

数据层:分库,分表,NOSQL等;经常使用算法Hash,一致性Hash。

扩展性:方便的经过新增/移除方式,增长/减小新的功能/模块

能够方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

模块化,组件化:高内聚,内耦合,提升复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的状况下,内部结构能够“随意”变化。

设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

消息队列:模块化的系统,经过消息队列进行交互,使模块之间的依赖解耦。

分布式服务:公用模块服务化,提供其余系统使用,提升可重用性,扩展性。 

安全性:提供网站安全访问和数据加密,安全存储等策略

对于安全问题,首先要提升安全意识,创建一个安全的有效机制,从政策层面,组织层面进行保障。好比服务器密码不能泄露,密码每个月更新,而且三次内不能重复;每周安全扫描等。以制度化的方式,增强安全体系的建设。同时,须要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

基础设施安全:硬件采购,操做系统,网络环境方面的安全。通常采用,正规渠道购买高质量的产品,选择安全的操做系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,创建DDOS防护系统,使用攻击检测系统,进行         子网隔离等手段。

         应用系统安全:在程序开发时,对已知经常使用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可使用Web应用防火墙(好比:ModSecurity),进行安全漏洞扫描等措施,增强应用级别的安全。

         数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);

         经常使用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。 

敏捷性:随需应变,快速响应

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还须要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一块儿来,随需应变,快速响应。 

大型网站架构经常使用模式

分层(*****)

网络防御层:安全防御(防火墙、DDOS高防、),负载均衡,链接管理,协议适配

接入网关层:智能路由,流量管控,熔断机制,降级容错

业务服务层:

                    1. 具体业务层:好比秒杀业务,寿险业务,团购业务,各类前端业务

                    2.业务组件层:用户服务,会员服务,地址服务,支付服务,风控服务,搜索服务,推荐服务,权限服务

基础服务层:RPC服务,MQ服务,缓存服务,DB服务,配置中心服务,文件服务,大数据服务,搜索服务

服务监测层:链路追踪,统一日志,统一监控告警,数据采集与分析

平台服务层:资源调度,镜像治理,发布管理

分布式

将应用分开部署(好比多台物理机),经过远程调用协同工做。好比A服务调用B服务,A、B服务单独部署,在不一样的服务器上作专门的事,可利用的资源更多,处理能力也就更大

集群

一个应用/模块/功能部署多份(如:多台物理机),经过负载均衡共同提供对外访问。在分布式的基础上,多机器对外提供相同服务,负载均衡下,提高系统可用性。

缓存

将数据放在距离应用或用户最近的位置,加快访问速度。

CDN缓存:将数据缓存到离用户最近的位置,通常缓存静态资源文件(页面,脚本,图片,视频,文件等)

反向代理缓存:反向代理通常缓存静态资源。反向代理位于应用服务器机房,处理全部对WEB服务器的请求。若是用户请求的页面在代理服务器上有缓冲的话,代理服务器直接将缓冲内容发送给用户。

                         若是没 有缓冲则先向WEB服务器发出请求,取回数据,本地缓存后再发送给用户。经过下降向WEB服务器的请求数,从而下降了WEB服务器的负载。

分布式缓存

本地缓存

服务降级

当服务器压力剧增的状况下,根据实际业务状况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运做或高效运做。

限流

系统处理能力有限,当大量请求来时,有些请求不作处理(返回异常或者固定数据)或者拒绝处理。

异步

将同步的操做异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。通常指:请求——响应——通知 模式。

冗余

增长副本,提升可用性,安全性,性能。

安全

对已知问题有有效的解决方案,对未知/潜在问题创建发现和防护机制。

相关文章
相关标签/搜索