web缓存技术总结

                                                                                                                                                                                                转载请注明出处，谢谢！

1 web缓存的简介 

1.1 采起Web加速技术措施

        采起Web加速技术，减小用户访问的延迟。如采用Web缓存[8](Web Caching )技术、Web预取(Web Prefetching)技术、CDN ( Content Delivery Network)技术等，以此来下降用户可感知的网络访问延迟，提升网络服务质量。

 

        典型的缓存体系结构有IRCache, Summary Cache, AWC ( Adaptive WebCaching), CRSP (Cachingand Replication for Internet Service Performance) 计划等;表明性的缓存协议有ICP ( Internet Cache Protocol，应用最普遍的Web缓存协议)、CARP ( Cache Array Routing Protocol)、HICP(Hyper Text Cache Protocol),WCCP ( Web Cache Control Protocol )等

                                                               

1.2 Web缓存分类

        根据Web缓存所在的网络位置:服务器端、代理服务器端、客户端，可将Web缓存分为如下三类:

                                                 

        1)        服务器端缓存(Cache A )

        2)        代理服务器端缓存(Cache B )

        3)        客户端缓存(Cache C)

 

        设计Web缓存系统常常面临如下问题:

        1)        缓存体系结构:研究如何按层次式、分布式、混合式组织缓存系统结构。

        2)        缓存策略:研究如何缓有及缓存哪些对象

        3)        预取技术:研究如何创建预测模型和预取控制的模型。

        4)        动态信息缓存及缓存一致性:对于动态对象，研究如何缓存动态对象及如何保持动态对象与源服务器对象一致性

1.3  Web缓存体系结构

        以代理服务器端缓存为主的典型缓存体系可分为如下两类:单点Web缓存系统和协做Web缓存系统。

1.3.1单点Web缓存系统

                                                                     

        若用户请求的内容不在缓存中，Web缓存将请求转发到Internet中的原始服务器，并根据必定的缓存替换算法决定是否把对象保存到Web缓存上，而后把请求对象发送给用户。

        优势：结构简单，容易实现

        缺点：可靠性差，可扩展性差

1.3.2 协做Web缓存系统

        在协做环境下，由一组相互合做的缓存服务器共同服务于用户。代理缓存之间能够转发用户请求信息，当全部协做的代理都没有用户访问的请求对象时，代理服务器表明用户向Web服务器获取相应请求对象。所以应确保缓存体系结构中各代理缓存之间可以有效地合做，能保证缓存系统性能的提升。

        典型的缓存体系结构有如下几种:层次式Web缓存体系结构、分布式Web缓存体系结构和混合式Web缓存体系结构。

         1）层次式Web缓存体系结构

        层次式Web缓存体系结构首次在Harvest项目中提出，在层次式Web缓存体系结构中，缓存在网络上呈现多级配置，并以一棵树的形状进行构建，为了节省系统开销，层次式Web缓存体系结构最多设置为三层或者四层，最下层是客户端的缓存，最一上层则直接链接服务器。如图2.4(a)所示，为简单起见，假定Web缓存层次模型有四层:底层缓存、局域层缓存、区域层缓存、广域层缓存。底层是客户/浏览器缓存，当请求的对象在底层缓存中未命中时，该请求被转发到局域层缓存，若是请求对象仍然不在局域层缓存，则该请求被转发到区域层缓存直至广域层缓存。若是请求对象不在各层缓存中，则请求被转发到服务器，由服务器响应该请求对象，而后在沿途的每级缓存中存储此请求对象 ，最后该请求对象被转发给用户。

        层次式Web缓存体系结构缩短了客户端请求的距离，每层内部节点具备必定的相关性，“热点”的Web对象能够快速、高效地分布到网络中，具备提升命中率，缩短查找时间等优势。但该体系结构也存在一些缺陷,

          ①各缓存服务器之间须要相互合做 ，必须保证缓存服务器配置在网络中关键节点认。

          ②若是请求对象不在缓存中，则每一级的缓存将带来额外的访问延迟。

          ③因为不一样的缓存中可能保存同一个对象的副本，下降了整个缓存空间利用率.

         2）分布式Web缓存体系结构

         分布式Web缓存体系结构把缓存设置在网络体系结构的底层，没有中间层次的缓存，各缓存之间不存在从属和层次关系。如图2.4(b)所示的分布式Web缓存结构，每个局域层缓存都保存有其它局域层缓存的目录信息，以便快速地肯定将请求发送到哪个局域层缓存。分布式Web缓存体系结构一般采用缓存阵列路由协议CARP（Cache Array Routing protocol ），把客户端请求对象的URL空间分割成不一样的部分，而后把每一部分指定给特定的缓存。此外，Cache Mesh和适应缓存也是分布式缓存系统。与层次式Web缓存体系结构的父子节点间单一的关系不一样，分布式Web缓存结构中节点间的网状关系，使缓存服务器之间可以经过相互协做，提升缓存存储空间使用效率，达到均衡网络负载、减小网络拥塞发生的目的。然而，分布式Web缓存系统的配置可能会遇到一些问题，如系统管理困难、链接次数多等。

          3）混合式Web缓存体系结构

         混合式Web缓存体系结构 是由若干个缓存组成的分布式、层次式的一种集成的结构，如图2.4(c)所示，采用分布式缓存结构应用于同级缓存，而采用层次式缓存结构应用于较高层，混合式Web体系结构具有层次式缓存体系结构和分布式缓存体系结构的优势。研究代表，层次式Web缓存具备较短的链接时间，所以在中间层缓存中保存较小的对象能够提升访问速度;而分布式Web缓存具备较高的响应速度和有效的带宽利用率，所以将二者结合起来，同时减小链接时间和传输时间。不少国家(如美国的NLANR、英国的JANET、欧洲的CHOICE等)都创建了这样的项目，Harvest集团设计的ICP ( the Internet Cache Protocol，互联网缓存协议)协议，就是混合式缓存体系结构的一个典型表明，普遍应用于Squid和NetCache中。如何管理和配置混合式Web缓存体系结构，使混合式 Web缓存体系结构具备较低复杂性、较低冗余度和较高的命中率等优势，仍然是当前研究的热门课题。

图2.4 web缓存体系结构

2  Web缓存模型描述

                                                          

2.1无限缓存空间模型

        若是请求对象在缓存中，则直接从缓存中获取请求对象;不然，若是请求对象不在缓存中，则将从服务器下载请求对象，并存储到缓存中以便后续访问。无限缓存空间模型的缓存空间C无限大，确实有足够空间存储请求对象而不须要使用缓存替换算法，可是此模型是一种理想化的状况，在现实生活中很难达到。

2.2 有限缓存空间模型

        基本思想是:若是请求对象在缓存中，则直接从缓存中获取请求对象;不然，若是请求对象不在缓存中且剩余缓存空间足以容纳新的请求对象，则将从服务器下载请求对象并存储到缓存中以便后续用户访问;换算法选取对象Et，井将对象Et移出缓存，直到有足够的缓存空间容纳此对象。

2.3 Web缓存替换算法

        在Web缓存模型中，当剩余缓存空间不足以存储新的对象时，这时须要按某种替换算法将当前再也不具备存储价值的对象移出缓存;缓存替换算法须要肯定移出价值较低的缓存对象以便存储新的请求对象，所以Web缓存替换算法的选取可以影响缓存系统的总体性能。当前的Web缓存替换算法有如下五种类型:

2.3.1 基于访问时间间隔的替换算法

        这种替换算法的典型表明是LRU（Least Recently Used )算法。LRU替换算法基于请求访问的时间局部性原理，当发生缓存末命中时，若是请求对象的大小大于剩余缓存空间时，须要将最近最少使用的对象移出缓存，直到当前剩余缓存空间可以容纳此请求对象。从算法的描述中能够看到，LRU替换算法仅考虑对象访问的时间问隔，比较容易实现，被普遍应用在Harvest和Squid等系统中;可是LRU替换算法并无将对象大小、访问频率、延迟时间等因素做为替换时的考虑因素，可能使缓存系统得到较低的命中率或字节命中率，例如，当有一个大的对象放入缓存，就有可能以替换出若干个小的对象为代价，这样会严重影响命中率。改进的替换算法如LRU-Threshold，在LRU替换算法的基础上，经过引入一个阈值，仅缓存对象大小低于此阈值的对象，避免因缓存一个较大的对象而移出若干个小的对象。

2.3.2基于访问频率的替换算法

        这种替换算法的典型表明是LFU ( Least Frequency Used )算法。LFU算法基于对象的访问频率做为替换依据，当发生对象替换时，从缓存移出访问次数最少的对象，保留访问次数高的对象。LFU算法实现简单，由于它只需采用计数器统计每一个对象的访问次数，在发生替换时，只需将访问次数最少的对象移出缓存;可是LFU算法没有考虑对象的访问时间间隔、对象大小等因素，例如，某些实时性很强的“热点”对象虽然具备较高的访问次数，可是通过一段时间之后，己经变得再也不具备存储价值，若是一直保存在缓存中，会致使缓存空间的浪费，形成缓存“污染”。改进的替换算法如LFU-Aging，当发生对象替换时，除考虑对象访问次数以外，还考虑对象的“年龄”，从而避免已经失效的对象仍占据在缓存中，可以更有效地利用缓存空间。

2.3.3基于对象大小的替换算法

        这种算法的典型表明是SIZE算法，SIZE替换算法仅考虑对象的大小，当发生对象替换时，将从缓存中移出最大的对象。SIZE替换算法仅考虑对象大小，容易实现，因为将最大的对象移出缓存以后，会有更多的空间容纳其余请求对象，有可能提升命中率。然而，SIZE替换算法因为没有考虑对象的访问次数、访问时间间隔等因素，有可能出现刚从缓存移出的对象会被再次访问，这样不只致使命中率的降低，也会致使用户访问速度的降低。为了不SIZE替换算法的缺点，引入GDS替换算法，经过计算权值 ，将权值最小的对象移出缓存，其中，取对象t到缓存所产生的代价用C_t表示;对象t的大小用s_t表示;L是一个膨胀因子，开始时赋初值为0，当对象t被替换时就用对象的权值K_t更新L，即L=K_t.

2.3.4基于目标函数的替换算法

        这种算法典型表明是LUV (Least-Unified Value)算法，LUV替换算法是针对缓存对象不一致性提出的，依照缓存对象过去的访问历史，如采用最近被访问的时间和过去被访问的次数估计对象从新被访问的可能性和对象的单元代价。采用下面的代价函数,f_i 表示对象i被访问的几率。其中，c_i为取对象i的代价，s_i为对象i的大小;当发生缓存未命中时，将Value(i)值最小的对象移出缓存。

2.3.5随机替换算法

        这种算法的典型表明是RAND算法，当缓存空间占满时，随机地选择一个对象移出缓存，而后把须要放入的对象存储到缓存中。RAND算法对环境依赖程度较大，如在不一样的环境下，采用RAND算法处理相同的请求序列，当须要发生对象替换时，因为替换时没有考虑对象的任何访问特性，致使每次替换的对象可能不同，从而导致缓存性能不稳定。