大型数据库服务器配置(访问量在3万左右)具体清单里有什么?
访问量在3W左右的话,算比较大的了。这种大型数据库服务器对cpu性能,内存容量,磁盘读写速度要求都非常高的。
你可以看看国产品牌正睿的这款双路八核服务器,标配2个Xeon E5-2690八核心十六线程处理器(29GHz,8GT,20M缓存)、24G DDR3 REG ECC容错校验内存,SSD 512G 6Gbps高性能固态硬盘,2U热插拔机构,可以在不关机的情况下增加或更换硬盘,四个千兆网卡。如果以后随着业务量的增长,觉得性能不够用了,还可以扩展到两颗处理器,达成16颗处理核心32条计算线程(任务管理器那里可以看到32个处理器格子,相当恐怖- -~),最大支持512GB DDR3 REG ECC高速容错校验内存,怎么也够用了。
产品型号:I22S2-88916RHVK
产品类型:双路八核机架式服务器
处 理 器:Xeon E5-2690×2
内 存:32G DDR3 REG ECC
硬 盘:SSD 512G
机 构:2U机架式
价 格:¥69800
银牌服务
全国三年免费上门售后服务,关键部件三年以上免费质保。
这个配置跑你的大型数据库怎么也够用了,CPU性能时顶级配置了,没办法再升了。硬盘是超高性能的SSD硬盘,读可以达到500MB/s,写可以达到260MB/s,如果加上3个做raid5,那读速度可以达到1200MB/s,写可以达到500MB/s左右,所向无敌。所以可以考虑增加到3个,做raid5阵列,这样既保证数据安全,又可以提升读写性能。
给你推荐的是国产品牌正睿的服务器产品,他们的产品性价比很高,做工很专业,兼容性,质量之类的都有保障,售后也很完善,3年免费质保,3年免费上门售后服务,在业界口碑很不错。
[服务器术语]
磁盘阵列卡
磁盘阵列(Disk Array)是由一个硬盘控制器来控制多个硬盘的相互连接,使多个硬盘的读写同步,减少错误,增加效率和可靠度的技术。磁盘阵列卡则是实现这一技术的硬件产品,磁盘阵列卡拥有一个专门的处理器,还拥有专门的存贮器,用于高速缓冲数据。通过使用磁盘阵列卡,服务器对磁盘的操作就直接通过磁盘阵列卡来进行处理,因此不需要大量的CPU及系统内存资源,不会降低磁盘子系统的性能。磁盘阵列卡使用专用的处理单元来进行操作,它的性能要远远高于常规非阵列硬盘,并且更安全更稳定。
IA服务器
通常将采用Intel(英特尔)处理器的服务器称之为IA(Intel Architecture)架构服务器,又称CISC(Complex Instruction Set Computer复杂指令集)架构服务器,由于IA架构的服务器是基于PC的体系结构,所以又把IA架构的服务器称为PC服务器。如联想的万全系列服务器,HP公司的Netserver系列服务器等。
由于该架构服务器采用了开放式体系,以"小、巧、稳"为特点,凭借可靠的性能、低廉的价格,并且实现了工业标准化技术和得到国内外大量软硬件供应商的支持,在大批量生产的基础上,以其极高的性能价格比而在全球范围内,尤其在我国得到广泛的应用。在互联网和局域网内更多的完成文件服务、打印服务、通讯服务、WEB服务、电子邮件服务、数据库服务、应用服务等主要应用。
虽然IA构架服务器始于PC,但经过不断的发展,IA架构服务器已经远远超出了PC的概念,它在如下几个方面不同于PC。
在CPU处理能力方面
由于服务器要将其数据、硬件提供给网络共享,在运行网络应用程序时要处理大量的数据。因此要求CPU要有很强的处理能力。大多数IA架构的服务器采用多CPU对称处理技术,多颗CPU共同进行数据运算,大大地提高了服务器的计算能力,满足学校的教学、多媒体应用方面的需求。而普通电脑PC基本上都配置的是单颗CPU,所以PC在数据处理能力上比起服务器当然要差许多了。如果用PC充当服务器,在日常应用中就会经常发生死机、停滞或启动很慢等现象。
在I/O(输入输出)性能方面
在中小型企业或校园网络应用中,经常有许多的用户同时访问服务器,网络上存在着大量多媒体信息的传输,要求服务器的I/O(输入/输出)性能要强大。服务器上采用了SCSI卡、RAID卡、高速网卡、内存中继器等设备,大大提高了服务器I/O能力。因为PC是个人电脑,无需提供额外的网络服务,因此在PC上很少使用高性能的I/O技术,和服务器相比其I/O性能自然相差甚远。
在安全可靠性方面
由于服务器是网络中的核心设备,因此它必须具备高可靠性、安全性。服务器采用专用的ECC内存、RAID技术、热插拔技术、冗余电源(如下图所示)、冗余风扇等方法使服务器具备容错能力、安全保护能力。
预算有3-4万的话,可以配一台配置中高档的数据存储服务器了,首先,我不了解您的数据量每天有多少,R710最多能上6块硬盘,现在有最大2TB 的硬盘,还有,R5并不是要5个硬盘才能做,3个包括三个以上就可以做R5,4个包括四个以上做R6,如果你数据比较重要的话,建议做R6,我给您一个参考配置
四核至强E56202颗、8G DDR3 ECC 1333MHz(2G4)、2TB SATS企业级6个(实际可使用容量为N-1,即只有8T的可用容量)、RAID6控制器、DVD刻录光驱、四个千兆网卡、冗余电源、三年247上门保修服务
另外,如果你真的觉得千兆(超6类)的传输速度不能满足的话,你可以给服务器加一块光纤网卡,在核心交换机上用光纤直接这台服务器,,本人是在广州做DELL的,如有不明白之处请加QQ:188853338 注明是百度提问的。
数据库服务器依赖于存储服务器的数据,这意味着数据库数据文件被放置在存储服务器上。
数据以记录的形式存储在数据库中;数据库将数据作为文件存储在存储服务器上。
数据库服务器由在局域网和数据库管理系统软件中运行的一台或多台计算机组成,数据库服务器为客户端应用程序提供数据服务。存储服务器是为特定目标设计的,因此配置也不同。它可能是一个稍有额外存储空间的服务器,或者它可能有很多存储空间。
扩展资料:
数据库服务器特征:
1、编程量减少
数据库服务器提供了用于数据操纵的标准接口API(Application Programming Interface,应用程序编程接 口)。
2、数据库安全高
数据库服务器提供监控性能、并发控制等工具。由DBA(Database Administrator,数据库管理员)统一负 责授权访问数据库及网络管理。
3、数据可靠性管理
数据库服务器提供统一的数据库备份/恢复、启动/停止数据库的管理工具。
4、计算机资源利用充分
数据库服务器把数据管理及处理工作从客户机上分离出来,使网络中各计算机资源能灵活分配、各尽其用。
-存储服务器
-数据库服务器
一直想整理一下这块内容,既然是漫谈,就想起什么说什么吧。我一直是在互联网行业,就以互联网行业来说。
先大概列一下互联网行业数据仓库、数据平台的用途:
整合公司所有业务数据,建立统一的数据中心;
提供各种报表,有给高层的,有给各个业务的;
为网站运营提供运营上的数据支持,就是通过数据,让运营及时了解网站和产品的运营效果;
为各个业务提供线上或线下的数据支持,成为公司统一的数据交换与提供平台;
分析用户行为数据,通过数据挖掘来降低投入成本,提高投入效果;比如广告定向精准投放、用户个性化推荐等;
开发数据产品,直接或间接为公司盈利;
建设开放数据平台,开放公司数据;
。。。。。。
上面列出的内容看上去和传统行业数据仓库用途差不多,并且都要求数据仓库/数据平台有很好的稳定性、可靠性;但在互联网行业,除了数据量大之外,越来越多的业务要求时效性,甚至很多是要求实时的 ,另外,互联网行业的业务变化非常快,不可能像传统行业一样,可以使用自顶向下的方法建立数据仓库,一劳永逸,它要求新的业务很快能融入数据仓库中来,老的下线的业务,能很方便的从现有的数据仓库中下线;
其实,互联网行业的数据仓库就是所谓的敏捷数据仓库,不但要求能快速的响应数据,也要求能快速的响应业务;
建设敏捷数据仓库,除了对架构技术上的要求之外,还有一个很重要的方面,就是数据建模,如果一上来就想着建立一套能兼容所有数据和业务的数据模型,那就又回到传统数据仓库的建设上了,很难满足对业务变化的快速响应。应对这种情况,一般是先将核心的持久化的业务进行深度建模(比如:基于网站日志建立的网站统计分析模型和用户浏览轨迹模型;基于公司核心用户数据建立的用户模型),其它的业务一般都采用维度+宽表的方式来建立数据模型。这块是后话。
整体架构下面的图是我们目前使用的数据平台架构图,其实大多公司应该都差不多:
逻辑上,一般都有数据采集层、数据存储与分析层、数据共享层、数据应用层。可能叫法有所不同,本质上的角色都大同小异。
我们从下往上看:
数据采集数据采集层的任务就是把数据从各种数据源中采集和存储到数据存储上,期间有可能会做一些简单的清洗。
数据源的种类比较多:
网站日志:
作为互联网行业,网站日志占的份额最大,网站日志存储在多台网站日志服务器上,
一般是在每台网站日志服务器上部署flume agent,实时的收集网站日志并存储到HDFS上;
业务数据库:
业务数据库的种类也是多种多样,有Mysql、Oracle、SqlServer等,这时候,我们迫切的需要一种能从各种数据库中将数据同步到HDFS上的工具,Sqoop是一种,但是Sqoop太过繁重,而且不管数据量大小,都需要启动MapReduce来执行,而且需要Hadoop集群的每台机器都能访问业务数据库;应对此场景,淘宝开源的DataX,是一个很好的解决方案(可参考文章 《异构数据源海量数据交换工具-Taobao DataX 下载和使用》),有资源的话,可以基于DataX之上做二次开发,就能非常好的解决,我们目前使用的DataHub也是。
当然,Flume通过配置与开发,也可以实时的从数据库中同步数据到HDFS。
来自于Ftp/Http的数据源:
有可能一些合作伙伴提供的数据,需要通过Ftp/Http等定时获取,DataX也可以满足该需求;
其他数据源:
比如一些手工录入的数据,只需要提供一个接口或小程序,即可完成;
数据存储与分析毋庸置疑,HDFS是大数据环境下数据仓库/数据平台最完美的数据存储解决方案。
离线数据分析与计算,也就是对实时性要求不高的部分,在我看来,Hive还是首当其冲的选择,丰富的数据类型、内置函数;压缩比非常高的ORC文件存储格式;非常方便的SQL支持,使得Hive在基于结构化数据上的统计分析远远比MapReduce要高效的多,一句SQL可以完成的需求,开发MR可能需要上百行代码;
当然,使用Hadoop框架自然而然也提供了MapReduce接口,如果真的很乐意开发Java,或者对SQL不熟,那么也可以使用MapReduce来做分析与计算;Spark是这两年非常火的,经过实践,它的性能的确比MapReduce要好很多,而且和Hive、Yarn结合的越来越好,因此,必须支持使用Spark和SparkSQL来做分析和计算。因为已经有Hadoop Yarn,使用Spark其实是非常容易的,不用单独部署Spark集群,关于Spark On Yarn的相关文章,可参考:《Spark On Yarn系列文章》
实时计算部分,后面单独说。
数据共享这里的数据共享,其实指的是前面数据分析与计算后的结果存放的地方,其实就是关系型数据库和NOSQL数据库;
前面使用Hive、MR、Spark、SparkSQL分析和计算的结果,还是在HDFS上,但大多业务和应用不可能直接从HDFS上获取数据,那么就需要一个数据共享的地方,使得各业务和产品能方便的获取数据; 和数据采集层到HDFS刚好相反,这里需要一个从HDFS将数据同步至其他目标数据源的工具,同样,DataX也可以满足。
另外,一些实时计算的结果数据可能由实时计算模块直接写入数据共享。
数据应用
业务产品
业务产品所使用的数据,已经存在于数据共享层,他们直接从数据共享层访问即可;
报表
同业务产品,报表所使用的数据,一般也是已经统计汇总好的,存放于数据共享层;
即席查询
即席查询的用户有很多,有可能是数据开发人员、网站和产品运营人员、数据分析人员、甚至是部门老大,他们都有即席查询数据的需求;
这种即席查询通常是现有的报表和数据共享层的数据并不能满足他们的需求,需要从数据存储层直接查询。
即席查询一般是通过SQL完成,最大的难度在于响应速度上,使用Hive有点慢,目前我的解决方案是SparkSQL,它的响应速度较Hive快很多,而且能很好的与Hive兼容。
当然,你也可以使用Impala,如果不在乎平台中再多一个框架的话。
OLAP
目前,很多的OLAP工具不能很好的支持从HDFS上直接获取数据,都是通过将需要的数据同步到关系型数据库中做OLAP,但如果数据量巨大的话,关系型数据库显然不行;
这时候,需要做相应的开发,从HDFS或者HBase中获取数据,完成OLAP的功能;
比如:根据用户在界面上选择的不定的维度和指标,通过开发接口,从HBase中获取数据来展示。
其它数据接口
这种接口有通用的,有定制的。比如:一个从Redis中获取用户属性的接口是通用的,所有的业务都可以调用这个接口来获取用户属性。
实时计算现在业务对数据仓库实时性的需求越来越多,比如:实时的了解网站的整体流量;实时的获取一个广告的曝光和点击;在海量数据下,依靠传统数据库和传统实现方法基本完成不了,需要的是一种分布式的、高吞吐量的、延时低的、高可靠的实时计算框架;Storm在这块是比较成熟了,但我选择Spark Streaming,原因很简单,不想多引入一个框架到平台中,另外,Spark Streaming比Storm延时性高那么一点点,那对于我们的需要可以忽略。
我们目前使用Spark Streaming实现了实时的网站流量统计、实时的广告效果统计两块功能。
做法也很简单,由Flume在前端日志服务器上收集网站日志和广告日志,实时的发送给Spark Streaming,由Spark Streaming完成统计,将数据存储至Redis,业务通过访问Redis实时获取。
任务调度与监控在数据仓库/数据平台中,有各种各样非常多的程序和任务,比如:数据采集任务、数据同步任务、数据分析任务等;
这些任务除了定时调度,还存在非常复杂的任务依赖关系,比如:数据分析任务必须等相应的数据采集任务完成后才能开始;数据同步任务需要等数据分析任务完成后才能开始; 这就需要一个非常完善的任务调度与监控系统,它作为数据仓库/数据平台的中枢,负责调度和监控所有任务的分配与运行。
前面有写过文章,《大数据平台中的任务调度与监控》,这里不再累赘。
总结在我看来架构并不是技术越多越新越好,而是在可以满足需求的情况下,越简单越稳定越好。目前在我们的数据平台中,开发更多的是关注业务,而不是技术,他们把业务和需求搞清楚了,基本上只需要做简单的SQL开发,然后配置到调度系统就可以了,如果任务异常,会收到告警。这样,可以使更多的资源专注于业务之上。
现如今大数据已经逐渐改变了我们的生活方式,成为必不可少的存在,在我们享受大数据给我们带来的便利时,安全性无论对于企业还是个人都是必须要解决的重大课题。
总结大数据面临的三大风险问题如下
1个人隐私问题凸显
例如大数据中的精准营销定位功能,通常是依赖于高度采集个人信息,通过多种关联技术分析来实现信息推广,精准营销。企业会掌握用户大量的数据,不排除隐私部分的敏感数据,一旦服务器遭到不法分子攻击导致数据泄露,很可能危及用户的隐私、财产甚至是人身安全。
2数据准确与权威性
大数据通过各种渠道获取大量数据进行计算分析,企业通常直接通过分析结果进行支持决策,有时候企业只看结果,却忽略了源头数据的准确性,不准确的数据直接影响大数据分析的结果和企业的利益,错误的指导会对企业带来一定的风险与损失。
3基础设施维护压力
数据量越大,对基础设施的性能要求就越高,同样对于网络的安全、恢复、防范依赖性就越强,一定程度上对企业设施安全的维护造成了压力,基础设施建设不完善、维护不到位,抱有没出问题就得过且过的态度,时刻面临被攻击的危险可能。
针对上述问题的防护措施如下
1对用户而言
虽然在互联网时代下要完全保护自己的隐私是比较困难的,但也要加强自身信息的防范意识。注册账号时,遵循最少原则,不要随意泄露敏感信息,降低隐私信息被泄露的危险;
2对企业而言
加强数据安全管理,实现数据的治理与清洗,从源头保证数据的一致性、准确性。首先升级基础服务器环境,建立多重防护、多级互联体系结构,确保大数据处理环境可信度。其次全方位实时监控、审计、防护,防止敏感数据泄露、丢失,确保数据风险可控,并不断通过体系化的大数据安全评估,形成数据安全治理的闭环管理;
3对政策而言
应该加强对数据信息的保护,对数据的使用进行一定的监管与限制,对非法盗用、滥用数据信息者严惩,之后加强对技术安全研发使用的推广与实施,保证数据安全,加强对数据治理的力度。
大数据时代的到来,可以为我们的生活带来切实的利益,行业的数据规范正在建立并逐步趋于完善,对于我们来说,既不要因为安全风险问题而排斥大数据,也不要疏忽于对个人/企业信息的保护,合理看待和利用大数据,让其发挥真正的价值。
二者的主要区别在于:
服务器:是回应运用软件的总站点,它提供软件的数据收集和处理。服务器通常情况是一台(或台)电脑构成,通过网络与应用软件(客户湍)连接。它硬件珥软件、网络的结合体。
数据库:是存贮信息数据的软件,它有多种。大型的MSSQL,放在服务器上,同时需要数据库软件提供应用操作。小型的放在个体电脑上即可。
扩展资料:
数据库服务器由运行在局域网中的一台/多台计算机和数据库管理系统软件共同构成,数据库服务器为客户应用程序提供数据服务。
数据库服务器建立在数据库系统基础上,具有数据库系统的特性,且有其独特的—面。主要功能如下:
1、数据库管理功能,包括系统配置与管理、数据存取与更新管理、数据完整性管理和数据安全性管理;
2、数据库的查询和操纵功能,该功能包括数据库检索和修改;
3、数据库维护功能,包括数据导入/导出管理,数据库结构维护、数据恢复功能和性能监测;
4、数据库并行运行,由于在同一时间,访问数据库的用户不止一个,所以数据库服务器必须支持并行运行机制,处理多个事件的同时发生。
参考资料:
1Oracle数据库
是甲骨文公司的一款关系数据库管理系统。Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的适应高吞吐量的数据库解决方案。
2、MySQL数据库
MySQL是一种开放源代码的关系型数据库管理系统(RDBMS),MySQL数据库系统使用最常用的数据库管理语言--结构化查询语言(SQL)进行数据库管理。MySQL数据库也是可以跨平台使用的(如linux和Windows),通常被中小企业所青睐。
3、SQLserver数据库 (Windows上最好的数据库)
SQLServer是一个可扩展的、高性能的、为分布式客户机/服务器计算所设计的数据库管理系统,实现了与WindowsNT的有机结合,提供了基于事务的企业级信息管理系统方案。
4、PostgreSQL(功能最强大的开源数据库)
PostgreSQL是一种特性非常齐全的自由软件的对象-关系型数据库管理系统(ORDBMS),POSTGRES的许多领先概念只是在比较迟的时候才出现在商业网站数据库中。PostgreSQL支持大部分的SQL标准并且提供了很多其他现代特性,如复杂查询、外键、触发器、视图、事务完整性、多版本并发控制等。
5、MongoDB(最好的文档型数据库)
MongoDB是可以配置各种规模的企业,各个行业以及各类应用程序的开源数据库。
6、 Redis(最好的缓存数据库)
Redis是完全开源免费的,遵守BSD协议,是一个高性能的key-value数据库。
0条评论