一个开发眼中的运维

转载自：http://segmentfault.com/a/1190000000348370

在云计算时代，开发和运维的结合变得愈来愈重要。在DIFF论坛第一期，前新浪SAE运维主管，郑志勇，分享了《一个开发眼中的运维》根据本身从开发人员转型运维以后的心得，谈如何把在开发上的运用抽象思惟方式运用到运维领域。

1. 运维不是什么？

运维不是打杂的，运维不是客服，运维也不是服务开发的，但要作好合做。

2. 运维是什么？

运维服务于整个产品，保证架构合理，系统稳定。运维只对业务稳定负责，全部的工做都是奔着这个去的。

3. 你如何写程序，写程序的目的是什么？

程序是为了完成特定的功能。为了完成特定的功能，程序须要申请资源、使用资源、管理资源，功能完成后，还要释放资源。说到底，就是跟资源打交道，和资源打交道的工具是“编程语言”。
资源包括什么？内存、CPU、磁盘、网络、文件描述符、外部API、缓存、数据库等，编程语言是如何管理资源的、合理的算法/架构保证了资源的合理使用，malloc/free分配内存、connec、close使用网络等等。

4. 什么样的程序算好程序？

正确的程序算好程序。

• 逻辑正确，使用资源尽量的少；

• 没有bug，没有把机器资源耗尽；

• 稳定性好，不会异常退出；

• 可用性高，有HA方案，不会由于一台机器（或一个进程）没法提供服务，而影响整个系统的服务；

• 没有单点是基本要求；

• 容易扩展，只须要简单的增长资源（CPU、内存、磁盘、机器等）就行，不须要太多人工迁数据、修改配置等；

• 容易维护，包括容易配置、容易部署、容易监控等。

5. 如何写出好程序？

什么样的程序不出错？代码少的程序错误少，逻辑简单的程序错误少，须要管理的资源少的程序错误少。要复用代码，减小代码的数量。

• 要抽象，分层，内聚，解藕，简化逻辑，隔离资源，才能简化逻辑，隔离资源，限制错误。

• 没有持久状态的程序好扩展，没有持久状态意味着上下线机器不须要迁移数据。没有状态的程序也很容易作HA方案。

• 配置简单，日志丰富，能提供程序状态查询的程序好运维。

• 但程序不可能没有数据，经过集中管理数据库，让数据尽可能只读，预加载数据等手段隔离逻辑和数据，也能让扩展变的容易。

6. 系统是什么？

• 系统是咱们运维的目标，不了解系统是什么，就不知道如何运维。

• 系统是网络，是机器，是程序。是把网络，机器，程序组织起来的架构。

• 机器角色应该是尽可能单一的，架构应该是数据流简单的，基础业务服务化的。

• 系统是动态的，运维系统首先考虑的不是当下成本，而是系统变动（扩容，上下线机器）的成本。

• 运维必需是简单的，要考虑的一个新手，如何能尽快上手工做，而不是冗长的文档和复杂的培训。

7. 写程序和作运维是相似的，甚至同样的！程序提供单一功能，而运维搭建，维护的系统提供所有的功能，开发人员开发的程序只是整个系统的一个部分。

• 从某个角度说，开发人员作的事情越少，系统越容易稳定，由于开源的老是更靠谱。这是减小代码，也是复用。

• 但运维却理应比开发更不容易犯错，由于运维只须要管理资源，而不须要应对复杂的业务逻辑。

• 这是个矛盾，由于开发负责的复杂业务逻辑，是运维负责的系统的一部分，前者不稳定，后者也别想消停。

因此运维不懂开发，至少要懂如何控制复杂度，如何隔离故障，如何服务降级。出色的运维人员，只要精通一门语言，必然也是出色的开发（反之亦然）。但什么是出色的运维呢？大部分运维人员，只是一个熟练的操做工人。出色的运维必然更了解系统（原理），这要读不少书，作不少思考，有不少实践。
只看这个cat bigfile.txt | parallel --pipe wc -l | awk '{s+=$1} END {print s}'你能不能想出parallel加速的原理是什么？

8. 你是否了解你运维的资源？

• CPU高意味着什么？你是否是应该先问问是sys，user，iowait这三个的哪一个高？是单个CPU高，仍是总体都搞？

• 你是否了解有的程序CPU使用率90%就有问题了，而有的350%了还没问题？

• load高意味着cpu高吗？内存耗尽致使load高的原理是什么？内存耗尽回致使io高吗？

9. 是否正确的监控了资源？

监控了磁盘使用率，是否是也监控了磁盘的io能力，raid卡呢？磁盘损坏呢？监控了网卡使用率，是否是也监控了丢包率？

10. 资源是否必定对应硬件？

• CPU，内存，磁盘，带宽都有对应的硬件，那些没有硬件对应的资源呢？文件描述符，端口数，进程数是否是资源？

• 路由表，iptables，cron是否是资源？

• MySQL主从，第三方REST接口是否是资源？

11. 为何要尽可能把一切抽象为资源？

还记得刚才说程序要讲抽象么，为何linux一切皆文件？一切运维对象都抽象为资源后，就能够用尽可能统一的方法来管理（配置，监控）。
若是新上线一台机器无比容易，为何还要费尽修复删除的/usr目录呢，把它当成新机器重作上线就好了。

12. 运维原则:

1. 线上变动必需走配置管理。线上系统对任何人应该是只读的，只有配置管理程序有权写。这样保证了，变动是可重复的，可复制的。手工加路由，手工修改文件权限，手工配置ip，手工配置nfs，手工起虚拟机等等。一切在线上手工作的操做，于团队都是无益的，由于团队失去了一次改进配置管理的机会。任何操做不是想我就这一台机器，而是想我有1000台机器怎么办。

2. 上线业务必需先问，如何保证HA，如何扩展，如何运维/监控。这三个问题不解决，谨慎上线，固然上线必需使用配置管理上线。

3. 隔离复杂度，要简化，抽象。抽象指角色抽象。运维眼中没有计数用的mc，和缓存用的mc，运维眼中只有mc，因而全部的mc都来自mc池，mc池经过puppet配置，建立mc的过程编程了简单的
   puppet配置。一旦把本身管理的全部业务抽象/分拆为几种有限的“业务”，缓存、mysql、httpd等，一切就简单了。例如咱们有缓存池、数据库池、redis池、httpd池。（参考:四、5）

4. 先解决问题，而后是之后如何避免此类问题，后者更重要。

5. 不犯第三次错误（重复的问题不出现第三次）。第一次算不知道，第二次算不当心，第三次特么是故意的吧。若是每一个问题都能完全有效解决（最终落实到配置变动和监控），问题就会愈来愈少。

6. 时刻思考如何“偷懒”，运维越悠闲，系统越稳定。

13. 配置管理是如何管理资源的？

1. 包，全部线上的软件/脚本都是经过(rpm)包管理的。

2. 文件，全部的变动“持久化”都是经过文件。程序的配置文件，sysctl，iptables，route，cron等凡是能用配置文件控制的一切。

3. 进程，全部的进程都是用配置管理启动的，或者经过配置管理写文件到系统启动目录，例如rc3.d。

你能相到的一切，不管是配置keepalived，仍是添加用户，都抽象为这三个。若是不能抽象为这三个，请再思考两个小时。
若是系统能够由这三者所有控制，而这三者又所有写入了配置管理，这意味着按照配置管理配置出来的系统就必定是对的。扩容，升级，机器的上线，下线今后该有多容易。而运维人员，能够经过配置管理，一览整个系统，经过持续改进的模板，配置更容易学习，不容易出错。

监控

1. 的正确性，业务响应时间也要同等关注的。

2. 基础监控要全面，但不必定实时报警。若是业务不受影响，又何须半夜起来处理宕机呢？若是业务有问题，全面的监控会帮你发现问题的蛛丝马迹。

若是memcache偶尔响应慢，你怎么能想到是swap致使的呢？全面的监控能够帮你发现这一点。把业务逻辑抽象为资源，能够统一业务监控和基础监控。（监控如何算全面，参考八、9）

运维技巧

1. 重装操做系统，使用puppet从新配置，是系统恢复到正确状态的最佳途径。理论上，新装的机器使用puppet配置后必定是能用的，不然，就是puppet写的有问题。

2. 区分无状态的机器和有状态的机器，尽可能把状态集中，而后集中精力运维这些有状态的机器。宁肯经过网络把状态集中也要尽可能让机器避免有状态，无状态的机器很是好运维。