深刻浅出计算机组成原理学习笔记：第三十六讲

平时进行服务端软件开发的时候，咱们一般会把数据存储在数据库里。而服务端系统遇到的第一个性能瓶颈，每每就发生在访问数据库的时候。

这个时候，大部分工程师和架构师会拿出一种叫做“缓存”的武器，经过使用Redis或者Memcache这样的开源软件，在数据库前面提供一层缓存的数据，

来缓解数据库面临的压力，提高服务端的程序性能。

 

　　　　　　　　　　　　　　　　　　　　　　　　　　在数据库前添加数据缓存是常见的性能优化方式

那么，不知道你有没有想过，这种添加缓存的策略必定是有效的吗？或者说，这种策略在什么状况下是有效的呢？若是从理论角度去分析，

添加缓存必定是咱们的最佳策略么？进一步地，若是咱们对于访问性能的要求很是高，但愿数据在1毫秒，乃至100微妙内完成处理，咱们还能用这个添加缓存的策略么？

1、局部性原理

能够看到，不一样的存储器设备之间，访问速度、价格和容量都有几十乃至上千倍的差别。

 

一、时间局部性

同一份数据在短期内会反复屡次被访问

二、空间局部性

相邻的数据会被连续访问

三、局部性和空间局部性实际在存储中的应用

2、具体案例分析过程

一、案例需求描述

二、把数据放在内存

三、在内存里放前1%的热门商品

四、以上案例就利用了局部性原理

3、如何花最少的钱，装下亚马逊的全部商品？

一、痛点

二、内存的随机访问请求须要100ns

三、估算天天的活跃用户为1亿

四、缓存没有命中

 

固然，这里咱们只是一个简单的估算。在实际的应用程序中，查看一个商品的数据可能意味着不止一次的随机内存或者随机磁盘的访问。对应的数据存储空间也不止要考虑数据，

还须要考虑维护数据结构的空间，而缓存的命中率和访问请求也要考虑均值和峰值的问题。

经过这个估算过程，你须要理解，如何进行存储器的硬件规划。你须要考虑硬件的成本、访问的数据量以及访问的数据分布，而后根据这些数据的估算，来组合不一样的存储器，

能用尽量低的成本支撑所须要的服务器压力。而当你用上了数据访问的局部性原理，组合起了多种存储器，你也就理解了怎么基于存储器层次结构，来进行硬件规划了。

4、总结延伸

这一讲，咱们讲解了计算机存储器层次结构中最重要的一个优化思路，就是局部性原理。

 

在实际的计算机平常的开发和应用中，咱们对于数据的访问老是会存在必定的局部性。有时候，这个局部性是时间局部性，就是咱们最近访问过的数据还会被反复访问。

有时候，这个局部性是空间局部性，就是咱们而局部性的存在，使得咱们能够在应用开发中使用缓存这个有利的武器。好比，经过将热点数据加载并保留在速度更快的存储设备里面，

在速度更快的存储设备里面，咱们能够用更低的成原本支撑服务器。

 

经过亚马逊这个例子，咱们能够看到，咱们能够经过快速估算的方式，来判断这个添加缓存的策略是否可以知足咱们的需求，以及在估算的服务器负载的状况下，

须要规划多少硬件设备。这个“估算+规划”的能力，是每个指望成长为架构师的工程师，必须掌握的能力。

最后，回到这一讲的开头，我问了你这样一个问题，在遇到性能问题，特别是访问存储器的性能问题的时候，是否能够简单地添加一层数据缓存就能让问题迎刃而解呢？

今天这个亚马逊网站商品数据的例子，彷佛给了咱们一个“Yes”的答案。那么，这个答案是否放之四海皆准呢？后面的几讲，咱们会深刻各类应用场景，进一步来回答这个问题。