如何处理大量数据并发操作

如何处理大量数据并发操作,第1张

处理大量数据并发操作可以采用如下几种方法:

1使用缓存:使用程序直接保存到内存中。或者使用缓存框架: 用一个特定的类型值来保存,以区别空数据和未缓存的两种状态。 

2数据库优化:表结构优化;SQL语句优化,语法优化和处理逻辑优化;分区;分表;索引优化;使用存储过程代替直接操作。

3分离活跃数据:可以分为活跃用户和不活跃用户。

4批量读取和延迟修改: 高并发情况可以将多个查询请求合并到一个。高并发且频繁修改的可以暂存缓存中。

5读写分离: 数据库服务器配置多个,配置主从数据库。写用主数据库,读用从数据库。

6分布式数据库: 将不同的表存放到不同的数据库中,然后再放到不同的服务器中。

7NoSql和Hadoop: NoSql,not only SQL。没有关系型数据库那么多限制,比较灵活高效。Hadoop,将一个表中的数据分层多块,保存到多个节点(分布式)。每一块数据都有多个节点保存(集群)。集群可以并行处理相同的数据,还可以保证数据的完整性。

:

大数据(big data),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法(抽样调查)这样捷径,而采用所有数据进行分析处理。大数据的5V特点(IBM提出):Volume(大量)、Velocity(高速)、Variety(多样)、Value(低价值密度)、Veracity(真实性)。

参考资料:网页链接

DB2

开放分类: 数据库、互联网、电脑、技术、计算机

IBM公司研制的一种关系型数据库系统。DB2主要应用于大型应用系统,具有较好的可伸缩性,可支持从大型机到单用户环境,应用于OS/2、Windows等平台下。 DB2提供了高层次的数据利用性、完整性、安全性、可恢复性,以及小规模到大规模应用程序的执行能力,具有与平台无关的基本功能和SQL命令。DB2采用了数据分级技术,能够使大型机数据很方便地下载到LAN数据库服务器,使得客户机/服务器用户和基于LAN的应用程序可以访问大型机数据,并使数据库本地化及远程连接透明化。 它以拥有一个非常完备的查询优化器而著称,其外部连接改善了查询性能,并支持多任务并行查询。 DB2具有很好的网络支持能力,每个子系统可以连接十几万个分布式用户,可同时激活上千个活动线程,对大型分布式应用系统尤为适用。

DB2是IBM出口的一系列关系型数据库管理系统,分别在不同的操作系统平台上服务。虽然DB2产品是基于UNIX的系统和个人计算机操作系统,在基于UNIX系统和微软在windows系统下的Access方面,DB2追寻了ORACLE的数据库产品。

除了它可以提供主流的OS/390和VM操作系统,以及中等规模的AS/400系统之外,IBM还提供了跨平台(包括基于UNIX的LINUX,HP-UX,Sun Solaris,以及SCO UnixWare;还有用于个人电脑的OS/2操作系统,以及微软的Windows 2000和其早期的系统)的DB2产品。DB2数据库可以通过使用微软的开放数据库连接(ODBC)接口,Java数据库连接(JDBC)接口,或者CORBA接口代理被任何的应用程序访问。

7月14日,IBM全球同步发布了一款具有划时代意义的数据库产品——DB2 9(“DB2”是IBM数据库产品系列的名称)。而这款新品最大特点即是率先实现了可扩展标记语言(XML)和关系数据间的无缝交互,而无需考虑数据的格式、平台或位置。

DB2的前世今生和未来:

对于每个最终站在奖台上泪水盈面的奥运冠军来说,为此刻他或她也许已经付出了5年甚至10年的艰苦努力。相比这些人类的冠军们,这个世界还有另外一种意义上的冠军,它们虽没有泪水,却依然在历史上留下了非凡的轨迹—DB2就是这类冠军中的一员。这个数据库领域里当之无愧的冠军,已用了足足25年来描绘它的轨迹。

纪念IBM DB2的诞生

IBM DB2已经25周岁拉!DB2回顾与展望

专家点评DB2:

微软人物谈DB2发展:成功是必然的

DB2的成功案例:

DB2在各个行业得到了广泛的应用。

最好说明你的ERP是什么品牌的,使用了多少模块,高峰时候的数据量有多大,数据库文件有多大?

一般来说,这一类型的服务器应该完全可以满足需求了!

建议:

1、数据的自动备份,避免使用高峰期,可以设置在吃午饭和吃完饭时间

2、ERP和SQL主要的工作就是存储和数据交换,所以内存的要求还是有的,不过这个配置足够了!

3、平时,特别是高峰期注意看看内存包括虚拟内存的使用情况,查看是否是ERP系统的相关进程!

4、如果数据库文件非常大,建议备份10年之前的数据,另外建立帐套仅供备查

5、培训操作人员养成一些良好的习惯,比如:历史数据可以导出成Excel,不用每次都到系统中查询,增加系统负担;

希望对你有用!

先要做观察,例如观察内存,IO,语句执行情况。看看是什么问题影响了性能。根据问题优化你的业务流程,数据库语句,数据库结构,例如索引,数据库配置,服务器操作系统配置,服务器硬件配置或者网络配置。这个东西不是一句话两句话就能搞掂的事情,比较难。

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » 如何处理大量数据并发操作

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情