如何提高服务器并发处理能力

有什么方法衡量服务器并发处理能力

1 吞吐率

吞吐率，单位时间里服务器处理的最大请求数，单位req/s

从服务器角度，实际并发用户数的可以理解为服务器当前维护的代表不同用户的文件描述符总数，也就是并发连接数。服务器一般会限制同时服务的最多用户数，比如apache的MaxClents参数。

这里再深入一下，对于服务器来说，服务器希望支持高吞吐率，对于用户来说，用户只希望等待最少的时间，显然，双方不能满足，所以双方利益的平衡点，就是我们希望的最大并发用户数。

2 压力测试

有一个原理一定要先搞清楚，假如100个用户同时向服务器分别进行10个请求，与1个用户向服务器连续进行1000次请求，对服务器的压力是一样吗？实际上是不一样的，因对每一个用户，连续发送请求实际上是指发送一个请求并接收到响应数据后再发送下一个请求。这样对于1个用户向服务器连续进行1000次请求, 任何时刻服务器的网卡接收缓冲区中只有1个请求，而对于100个用户同时向服务器分别进行10个请求，服务器的网卡接收缓冲区最多有100个等待处理的请求，显然这时的服务器压力更大。

压力测试前提考虑的条件

并发用户数: 指在某一时刻同时向服务器发送请求的用户总数(HttpWatch)

总请求数

请求资源描述

请求等待时间(用户等待时间)

用户平均请求的等待时间

服务器平均请求处理的时间

硬件环境

压力测试中关心的时间又细分以下2种:

用户平均请求等待时间（这里暂不把数据在网络的传输时间，还有用户PC本地的计算时间计算入内）

服务器平均请求处理时间

用户平均请求等待时间主要用于衡量服务器在一定并发用户数下，单个用户的服务质量；而服务器平均请求处理时间就是吞吐率的倒数，一般来说，用户平均请求等待时间 = 服务器平均请求处理时间 并发用户数

怎么提高服务器的并发处理能力

1 提高CPU并发计算能力

服务器之所以可以同时处理多个请求，在于操作系统通过多执行流体系设计使得多个任务可以轮流使用系统资源，这些资源包括CPU，内存以及I/O 这里的I/O主要指磁盘I/O, 和网络I/O。

多进程 & 多线程

多执行流的一般实现便是进程，多进程的好处可以对CPU时间的轮流使用，对CPU计算和IO操作重叠利用。这里的IO主要是指磁盘IO和网络IO，相对CPU而言，它们慢的可怜。

而实际上，大多数进程的时间主要消耗在I/O操作上。现代计算机的DMA技术可以让CPU不参与I/O操作的全过程，比如进程通过系统调用，使得CPU向网卡或者磁盘等I/O设备发出指令，然后进程被挂起，释放出CPU资源，等待I/O设备完成工作后通过中断来通知进程重新就绪。对于单任务而言，CPU大部分时间空闲，这时候多进程的作用尤为重要。

多进程不仅能够提高CPU的并发度。其优越性还体现在独立的内存地址空间和生命周期所带来的稳定性和健壮性，其中一个进程崩溃不会影响到另一个进程。

但是进程也有如下缺点：

fork()系统调用开销很大: prefork

进程间调度和上下文切换成本: 减少进程数量

庞大的内存重复：共享内存

IPC编程相对比较麻烦

　　处理器：

中央处理器是一块超大规模的集成电路，是一台计算机的运算核心和控制核心。

功能主要是解释计算机指令以及处理计算机软件中的数据。

　　服务器：

是提供计算服务的设备。由于服务器需要响应服务请求，并进行处理，服务器应具备承担服务并且保障服务的能力。

服务器的构成包括处理器、硬盘、内存、系统总线等，和通用的计算机架构类似，但是由于需要提供高可靠的服务，因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

英特尔cpu排行

当谈论到英特尔CPU排行时，我可以分享一些我所了解的信息。

在英特尔的CPU排行榜中，最知名的系列之一是Intel Core系列。这个系列包括i3、i5、i7和i9等不同级别的处理器。每个级别都有不同的性能和定位，根据个人需求和预算可以选择适合自己的型号。

1i9系列

i9-12900k,i9-12900kf,i9-12900,i9-12900F。

2i7系列

i7-12700k,i7-12700kf,i7-12700F,i7-12700。

3i5系列

i5-12600k ,i5-12600kf ,i5-12400,i5-12400F, i5-12400T。

4i3系列

i3-12300，i3-12100,i3-12100F,i3-12100T。

另外，英特尔还有一些其他系列的CPU，如Xe on系列专为服务器和工作站设计，以及Atom系列用于低功耗设备等。

总之，英特尔是一家在CPU领域拥有丰富产品线的公司，选择适合自己需求的CPU需要根据个人的使用场景、预算和性能要求进行综合考虑。