吞吐量(Throughput)、QPS、并发数、响应时间(RT)

  1. 吞吐量:系统在单位时间内处理请求的数量,是并发系统的一个重要的性能指标。
  2. QPS(每秒查询率 Query Per Second):对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准,在因特网上,做为域名系统服务器的机器的性能常常用每秒查询率来衡量。对应fetches/sec,即每秒的响应请求数,也便是最大吞吐能力。 
  3. 并发数:指系统能够同时承载的正常使用系统功能的用户的数量。与吞吐量相比,并发用户数是一个更直观但也更笼统的性能指标。
  4. 响应时间:系统对请求做出响应的时间。

QPS提高带来什么?QPS提高说明单台服务器处理能力提高,若是QPS提高1倍,服务器资源减小1半,或者说服务器不变能够支撑2倍的请求量。 
如何提高QPS? 
1)减小CPU的使用时间(哪些代码会消耗CPU:循环、字符串拼接\查找\替换、编码\解码、序列化\反序列化、压缩) 
2)增长CPU的数量 
3)减小同步锁 
(若是CPU不能被压到85%以上,而且此时的QPS已经达到了峰值,则说明另有瓶颈,接下去关注内存) 
RT提高带来什么? 
响应速度提高说明单词请求的处理速度提高,用户感受任务处理速度更快,系统反应速度更快。固然在处理能力不变的状况下,RT的提高必然会提高QPS。 
如何提高RT? 
1)减小I/O的响应时间 
2)减小I/O的调用次数 
3)减小CPU使用时间(固然在I/O占大头的应用里,这方面优化效果确定不明显) 服务器

QPS(TPS)= 并发数/平均响应时间
 并发

相关文章
相关标签/搜索