并发量与qps的区别和联系,以及系统吞吐量的介绍

前言

  • 首先OPS(TPS)、并发量、响应时间其实都是系统吞吐量几个重要参数,于是我们可以去先了解下什么是吞吐量

一、什么是系统吞吐量

1.1 吞吐量概念

  • 是针对一个系统而言的,表示系统的承压能力;
  • 是软件测试的单位,与request对CPU的消耗、外部接口、IO等秘密关联;
  • 单个request对CPU消耗越高,外部系统接口、IO影响速度越慢,系统的吞吐能力越低,反之越高。

1.2 系统吞吐量的几个重要参数

  • OPS、并发量、响应时间
1.OPS(TPS):每秒处理的查询量,可以理解为每秒处理的request/事务数,也就是说服务器在一秒的时间内处理了多少个请求。;

例:如果只有一个CPU,处理1个sql是10ms那么1秒就处理100个sql ,于是QPS<=100,是小于,因为CPU还要进行其他的活动。
如果一个sql是100ms,这就只能每秒处理10sql了。

QPS和TPS区别:
(1)Tps即每秒处理事务数,包括了:用户请求服务器、服务器自己的内部处理、服务器返回给用户
    这三个过程,每秒能够完成N个这三个过程,Tps也就是N;
(2)Qps基本类似于Tps,但是不同的是,对于一个页面的一次访问,形成一个Tps;
    但一次页面请求,可能产生多次对服务器的请求,服务器对这些请求,就可计入“Qps”之中。

2.并发量:系统同时处理的请求数(request)/事务数;
指系统同时能处理的请求数量,同样反应了系统的负载能力。这个数值可以分析机器1s内的访问日志数量来得到

3.响应时间:一般取平均响应时间;

注意:

1)一个系统的吞吐量(承压能力)通常由OPS(TPS)和并发量两个因素决定,每套系统这两个值都有一个相对极限值,在应用场景访问压力下,只要某一项达到系统最高值,系统的吞吐量就上不去;

2)若压力继续增大,系统的吞吐量反而会下降,因为系统超负荷工作,上下文切换,内存等等其他消耗导致系统性能下降。

1.3 TPS和吞吐量的联系和区别

联系:
都是性能指标,都是以秒为单位进行计算。

区别:
1.吞吐量是数据层的指标,指单位时间内系统传输的数据量,以MB/GB等为单位;
2.TPS是网络协议层的指标,指一秒内成功完成的事务数。通常只在Loadrunner工具中使用;
3.吞吐量 = 一次性能测试过程中网络上传输的数据量的总和。

二、并发量与QPS之间的关系

并发量 = QPS * 平均响应时间

典型案例:

  • 比如一个签到系统,某公司假设有600个人进行上班打卡,9:00为签到时间,从8:50至9:00这10分钟之内,600个人访问此系统,假设每人访问签到一次为1分钟,请问:此系统的QPS是多少?并发数为多少?
首先确定平均响应时间,平均响应时间 = 1*60 = 60秒

再确定QPS的值,OPS = 600/10*60= 1/(600指事务数,10*60表示用了多少秒,即事务/)

并发量 = QPS * 平均响应时间 = 1*60 = 60

三、相关参数

1.PV(Page View):页面访问量,即页面浏览量或点击量;
用户每次刷新即被计算一次。可以统计服务一天的访问日志得到。

2.UV(Unique Visitor):独立访客,统计1天内访问某站点的用户数。可以统计服务一天的访问日志并根据用户的唯一标识去重得到。
响应时间(RT):响应时间是指系统对请求作出响应的时间,一般取平均响应时间。可以通过Nginx、Apache之类的Web Server得到。

3.DAU(Daily Active User),日活跃用户数量。常用于反映网站、互联网应用或网络游戏的运营情况。
DAU通常统计一日(统计日)之内,登录或使用了某个产品的用户数(去除重复登录的用户),与UV概念相似

4.MAU(Month Active User):月活跃用户数量,指网站、app等去重后的月活跃用户数量

四、系统吞吐量评估

  • 我们在做系统设计的时候就需要考虑CPU运算,IO,外部系统响应因素造成的影响以及对系统性能的初步预估。而通常情况下,我们面对需求,我们评估出来的出来QPS,并发数之外,还有另外一个维度:日pv。

  • 通过观察系统的访问日志发现,在用户量很大的情况下,各个时间周期内的同一时间段的访问流量几乎一样。比如工作日的每天早上。只要能拿到日流量图和QPS我们就可以推算日流量。

通常的技术方法:

1、找出系统的最高TPS和日PV,这两个要素有相对比较稳定的关系(除了放假、季节性因素影响之外)

2、通过压力测试或者经验预估,得出最高TPS,然后跟进1的关系,计算出系统最高的日吞吐量。B2B中文和淘宝面对的客户群不一样,这两个
客户群的网络行为不应用,他们之间的TPS和PV关系比例也不一样。

猜你喜欢

转载自blog.csdn.net/weixin_42449832/article/details/114297312