并发数是什么意思,第1张

并发数

并发数,计算机网络术语,是指同时访问服务器站点的链接数。

由于虚拟主机是建立在每台服务器多用户的基础上的,也就是多个用户共同使用一台服务器。为了避免同一台服务器上的某一个用户的IIS链接人数过多或占用服务器资源过多而影响其它用户的正常使用,所以,目前所有虚拟空间提供商都对单个用户的IIS链接数,流量及服务器进程占用CPU的比率进行了相应的限制。 当某一个用户的站点超出了服务器上的设制后,访问站点时就会出现服务器忙,或目前访问该站点的人数过多,超出了WEB的处理能力等相关错误提示。

服务器socket只创一个实例就可以,然后创建监听文件描述符,然后用select或者poll 进行并发监听,来了请求就进行处理一下,数据处理完成就关掉数据联接。

但即使这样,在大规模商用的时候,还是可能超出一个服务器的能力,要负载平衡,多个服务器平均承担负载。

不过看你描述,你的程序应该还远没到大规模商用的地步。

应用服务器的性能分析是复杂的,关注点很多。比如典型场景Web服务器+数据库,底层网络链路和网络硬件性能姑且不论,单看:Web服务器对静态文件的读写与磁盘和文件系统IO性能紧密相关;对数据的处理和数据库性能相关;而高并发访问则关系到操作系统的线程、网络套接字以及异步网络模型的效率。

在数据量大的情况下,数据库的性能成为一个至关重要的因素,随之带来Web服务器等待数据库的时间。在此基础上如果有大量的用户同时访问,那么会对Web服务器带来什么样的影响?以下主要讨论这个问题。

对于并发访问的处理,一般有两种处理机制:异步非阻塞机制、多线程阻塞机制(介绍略)。在测试选择上,前者使用基于Python的Tornado服务器,而后者使用基于Java的Tomcat服务器。注意:本文并非讨论开发语言的优劣,事实上,新版本的Java也支持异步机制,甚至高性能的epoll等。

测试工具:变态级的http_load

测试方法:使用该工具模拟1、10、100、1000个客户端并发访问以下场景,每次测试时间1分钟,得到服务器端每秒的总响应数。注意:由于Tomcat最大线程的限制(下面有提到)以及操作系统对端口数量的限制,1000个并发已经能够得到明显的结论了。

测试场景:

静态文件的读写。一个html文件和一大一小两个,大小分别为676k、16M和12k,使用http_load工具随机读取。静态文件读写的耗时可以忽略不计的。

模拟一个耗时操作,比如数据库操作。注意:耗时操作并不占用Web服务器本身的资源,它更多地体现的是Web服务器对并发访问处理的“合理”性。

建议你选择一款云服务器吧,本身你的需要也不是很复杂,只需要配置高一点就够用了。

根据网站规模大小和功能的不同,服务器配置要求不低,2核4G内存5M带宽是起步的,低于这个运行的时候会比较卡顿。

从你的需求来看,国内选择那几个比较大的商家合适,至于名字和具体配置选择也是一门学问,老魏会帮助你提供参考意见。

不久前,全球首款亿级并发云服务器系统在天津正式量产,该产品是“十二五”国家863计划信息技术领域“云计算关键技术与系统(二期)”重大专项的成果。

那么,什么是云服务器,和云计算又有什么关系?这款云服务器有何特殊之处呢?

什么是云计算?

(来源于网络)

云计算是一种基于互联网的计算方式。狭义的云计算是指以计算、存储为核心的IT硬件、软件乃至IT基础设施资源以服务形式进行交付和使用的模式,指用户可以通过网络以按需、易扩展的方式获得所需的IT资源。广义的云计算泛指服务的交付和使用模式,指用户通过网络以按需、易扩展的方式获得所需的服务,这种服务既可以是IT硬件、软件、互联网技术相关的,也可以是任意其他的服务。

一般说来,云计算具有大规模、资源池化、快速弹性、泛在接入访问、按需自服务、服务可计量等特征,如果说互联网是一个神经网络的话,云计算就是它的中枢神经,云计算将互联网的核心硬件层,核心软件层和互联网信息层统一起来,并进行管理、调度,为互联网各系统提供支持和服务。在理想状态下,互联网使用者和物联网传感器通过网络线路和计算机终端与云计算进行交互,向云计算提供数据,接受云计算提供的服务。

目前,世界经济较发达国家和地区大多推出政策支持云计算核心技术的革新——在2012年,欧盟启动了“释放欧洲云计算潜力”的战略计划;在2014年,美国国家标准与技术研究所发布了《美国政府云计算技术路线图》;我国也在《国家“十二五”规划纲要》中把云计算列为重点发展的战略性新兴产业,提出构建下一代信息基础设施,加强云计算服务平台建设。可以说,云计算将成为世界各国抢占科技经济发展制高点的途径之一。

什么是云服务器?

(来源于网络)

云服务器是专门面向云计算需求的服务器,最大的特点就在于性能功耗比和整体服务能力较传统架构服务器有显著提升。传统通用服务器架构搭建的数据中心,优点是可以应对各种场景,然而,采用这种万精油式的产品进行数据中心的搭建,也带来相应的弊端,其中很重要的一点就是,没有针对性,各项指标表现平平。然而云数据中心应对的任务中,各自场景并非平均分布,相反云数据中心每天需要应对大量的高并发访问及信息查询,同时,又对计算量要求不高,这就造成了云数据中心每天疲于应付海量并发,而计算性能却白白浪费掉,同时能耗大也是采用服务器面临的问题。对于云计算应用中大量网络托管、网页服务器集群等网络带宽密集型应用而言,平均CPU利用率仅为20%左右,造成了成本的浪费。

相比之下,云服务器体系构架有别于传统的服务器,以本次曙光发布的全球首款亿级并发云服务器系统来说,该产品放弃了通用服务器所采用的芯片组,针对云计算业务应用的特点进行了优化,用3D Torus网络实现节点服务器的互联,实现单路直连高耦合体系架构,其中每个处理器可以独占25bpsG带宽,可以实现快速响应。在结构上大幅精简,实现散热、电源、管理监控模块、计算、网络全共享,不仅降低了成本,又提高了系统的稳定性和可靠性。

解决了硬件资源虚拟化技术难题

随着云计算、大数据时代的到来,云计算中心和数据中心部署的集群系统规模都非常大,计算节点大多以千为单位计算,在计算节点如此之多的情况下,要提高效率和效能,就离不开资源共享——当应用需要性能很强的时候,就配置高一些,把内存、网络、计算资源多占一些,当应用需要性能不强的时候,就配置低一些,把内存、网络、计算资源释放一些。

然而,传统服务器是独立架构,无法从硬件上实现服务器间资源共享。虽然可以通过软件,从上层来进行资源分配,但是这种做法会带来额外的开销,导致性能损失。而这恰恰与云计算中心和数据中心的运营者要求的高效率和高能效相违背。本次量产的全球首款亿级并发云服务器则实现了从硬件上来实现资源共享,把存储、网络、计算资源池化,根据用户的需求来配置,根据应用不同来提供不同的配置。亿级并发云服务器内部设计有一套高性能互连网络,确保从硬件上进行资源共享时性能损失非常小。

实现硬件资源共享,有两个关键,一个是在体系结构上做出革新,比如存储共享架构、网络共享架构等等,另一个是要在硬件上能够实现,包括系统控制器、高性能互连网络、通信协议等等。

在体系结构上,该产品采用的是分布式资源共享架构。曾经有国外公司主张做集中式资源共享——把存储、网络、计算资源按类别集中放置,通过互连网络连起来,想用多少资源去远端去取就可以了,但这种体系结构的灵活性不不足,当系统规模扩大到一定规模,就会带来很多问题。如果是几十个节点还好说,上百个节点都去一个地方取资源的话一定会有瓶颈。曙光公司提出并实现了一种分布式资源共享架构,相对于集中式资源共享架构,分布式资源共享的好处在于存储、网络等资源以计算为核心分布在处理器周边,处理器本地资源可以自己优先使用,不够的话可以去远端别的处理器那去取,这样可扩张性和整机效率就远远高于集中式资源共享。

在硬件上来实现则是要有性能足够好的CPU、互连网络、存储等硬件,虽然在CPU上采用的是Intel的产品,但互连网络是曙光自主研发的,而且还实现了全面而完备的硬件资源虚拟化——计算,存储,网络,内存等都是基于硬件协议层来实现共享的,比如存储,基于SATA/SAS协议的共享控制器实现了存储资源的虚拟化。

必须说明的是,虽然硬件虚拟化的理念人所共知,而且也知道是未来的大趋势,但如何去实现就是另一回事了。

实际上,国外也在向服务器硬件虚拟化方向发展,但至今未见成功的产品面世。与国外的情况相反,在云服务器硬件虚拟化上,中国不仅在技术上实现了,而且做出了工业化量产的产品,更可贵的是,还在实际应用中取得了效果。相比之下,还没有国外厂能做到这一步,换言之,在云服务器硬件虚拟化上,中国已经走在外国前列。

云服务器相对于传统服务器具有哪些优势

云服务器相对于传统服务器有多大优势呢?就以曙光公司发布的云服务器为例,一台32 CPU的云服务器日处理HTTP请求数大于900亿次,64台云服务器组成的云服务器系统,负载并发处理能力大于1亿。与传统架构相比,云服务器可以实现节点性能功耗比提升3倍以上,总拥有成本降低70%。与业内最好的传统架构服务器相比空间占用减少50%,系统复杂性降低60%。

高并发处理能力有和意义呢?12306自开通以来,几乎每年春运都会出现系统崩溃,无法订票或查询的现象,这一方面是因为访问量实在太高且超出了服务器的处理能力,另一方面是因为采用传统架构服务器的数据中心应对海量并发访问的能力不足。如果不从根本上解决传统架构与云应用不匹配的问题,单纯地加大硬件投入,堆砌并发数,不仅无法解决日益上升的高并发访问,还会导致成本、空间、能耗的上升,对于解决系统崩溃问题于事无补。而云服务器恰恰是针对高并发要求、低计算场景的要求而研制的,对于应对大量的高并发访问场景可谓得心应手。

除了强悍的并发处理能力外,云服务器在密度和功耗上的特性也使其具备一定优势——当前较大的数据中心服务器集群由超过百万台服务器组成,不少数据中心的功耗往往超过20MW,数据中心电费成本已经在使用维护成本中占到很大比例,而电力和空间都是相对宝贵的资源,能够节能降耗和减少服务器空间占用,对于数据中心而言意义重大。

正是因为云服务器在能效比、空间和成本上相对于现有的整机柜服务器有巨大的优势,使得数据中心的拥有者、运营者、甚至使用者都对云服务器青睐有加,云服务器也将随着云计算、大数据的兴起而获得广阔的市场。

出品:科普中国

制作:铁流

监制:中国科学院计算机网络信息中心

“科普中国”是中国科协携同社会各方利用信息化手段开展科学传播的科学权威品牌。

本文由科普中国融合创作出品,转载请注明出处。

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » 并发数是什么意思

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情