技术性问题 – 您须要多少个PHP/Python/Ruby 应用服务器工做线程？

咱们常常会碰到因为不知道如何配制应用服务器线程而致使应用服务器过载或崩溃的问题。尽管此类问题常常出如今PHP语言中，可是在其它语言中也会出现这些问题，它们所表现出来的都是同一类问题。

这些问题一般与队列理论及低负载下动态多层队列行为有关，也与吞吐量及到达率和服务时间有关。这样要进行合理的系统配置就变得更为困难，再加上默认设置比较差，并且繁忙系统也缺少直觉。最后，多核CPU结构很难理解并且实时排除故障也很困难。

可是，若您仔细阅读下文解释，您会发现解决这一问题也很简单。

首先，须要理解问题产生的缘由，应用服务器在高负载时要么是CPU不够，要么是RAM不够或者二者都不够，虽然RAM问题一般就是CPU问题。不论是RAM不够仍是CPU不够，都是灾难性的，由于它们会致使服务器崩溃，而配置较差的服务器状况会更糟。

致使该问题产生有两个重要的因素。

第一个因素是：不少应用程序编写得并很差，并且在CPU上运行的很慢，一般要等1或数秒才开始执行。可是这种慢性执行速度一般在快速测试及开发服务器或有强大硬件的上线系统上表现的并不明显。可是，当系统在低载时，计算能力低下的状况下，若发生这种情况，确实是一种灾难。

第二个因素是：许多应用程序很消耗RAM，这主要是由于无用的大型的DB结果缓存，或内存泄漏，致使占用了很大的内存。天天咱们都会发现机器中运行的一些程序平均每一个实例占用内存达100-256MB， 最差的单个进程甚至可能使用500MB以上的内存。

以上例数据做参考，若一个16核的机器运行32个程序，仅仅应用程序，将至少占用32x256MB或8GB RAM。甚至配置最好的服务器，也会出现这样的问题。因为程序占用空间大，若RAM为4-8GB，状况会更糟。

若系统负载较大且延迟时间长的话，进程数目会增长。这是由于当Apache中的应用程序调度器等若发现全部进程都很忙的话，他将建立更多的进程，直到达到MaxClients（或FPM子进程数量）中设置 的极限值。一般有256子进程，乘以256MB， 将达到64GBRAM， 远远超过应用服务器的RAM。

这一问题的直接后果就是，系统在进程数较少的时候，就开始交换，这将致使进程延迟及进程数量增长。 这种死循环的一般特色是：CPU过载，进程数量多，低RAM，swap使用过多，最终致使网站崩溃。 最坏的后果就是，因为swap使用过多，你甚至不可以SSH登录进系统去解决问题。

另外一个致使系统失败的缘由就是，当有足够的RAM的时候，CPU却严重过载，然而系统却在数百个Apache进程中频繁交换。这将扼杀全部吞吐量，更别提你想登录进去。

最后，咱们发现数据库性能严重影响系统总体性能。无论应用服务器是否繁忙，数据库回应速度慢会使进程数量增多，致使服务器RAM不足。

解决问题的方法很直截了当，就是将进程数量最大值设置为2倍核数量。同时，要确保在达到最大内存使用量时，你有足够的RAM能够处理进程。这种状况下，CPU负载很大时，系统会变慢，可是，在这种配置下，会以合理的加载量，一直排在队列中处理进程。

咱们将其设为2倍核数，是由于进程有延迟。例如，若是你要链接远程DB，进程将在此连接过程当中，处于暂停状态，因此，在这段时间，你必须有额外的程序可使CPU利用达到最大。

可是有个例外，就是当你有服务器以外的RPC请求时，如查询系统中的Lucense或Solr， 或真实的远程系统如Facebook。 这些状况不在本博客讨论范围内，可是它们采用了更复杂的配置及监控以确保系统高载时仍可以成功运行。

总结一下，将应用服务器进程设置为2xCores，并确保有足够的RAM。这将使你的系统运行不会过载，且优化了你的系统，下降了CPU及RAM使用量，你能够在一样的硬件上进行扩展。不然，你确定会遇到系统扩展瓶颈。

（Authored by Steve Mushero / ChinaNetCloud CEO & CTO 本博客英文原文请点此查看）