java分布式架构有哪些技术

　　既然是分布式系统，系统间通信的技术就不可避免的要掌握。

　　首先，我们必须掌握一些基本知识，例如网络通信协议（例如TCP / UDP等），网络IO（Blocking-IO，NonBlocking-IO，Asyn-IO），网卡（多队列等）。   了解有关连接重用，序列化/反序列化，RPC，负载平衡等的信息。

　　在学习了这些基本知识之后，您基本上可以在分布式系统中编写一个简单的通信模块，但这实际上还远远不够。 现在，您已经进入了分布式字段，您已经对规模有很多要求。 这意味着需要一种通信程序，该程序可以支持大量连接，高并发性和低资源消耗。

　　大量的连接通常会有两种方式：

　　大量client连一个server

　　当前在NonBlocking-IO非常成熟的情况下，支持大量客户端的服务器并不难编写，但是在大规模且通常是长连接的情况下，有一点需要特别注意 ，即服务器挂起时不可能所有客户端都在某个时间点启动重新连接。 那基本上是一场灾难。 我见过一些没有经验的类似案例。 客户端规模扩大后，服务器基本上会在重新启动后立即刷新。 大量传入连接中断（当然，服务器的积压队列首先应设置为稍大一些）。 可以使用的通常方法是在客户端重新连接之前睡眠一段随机的时间。 另外，重连间隔采用避让算法。

　　一个client连大量的server

　　有些场景也会出现需要连大量server的现象，在这种情况下，同样要注意的也是不要并发同时去建所有的连接，而是在能力范围内分批去建。

　　除了建连接外，另外还要注意的地方是并发发送请求也同样，一定要做好限流，否则很容易会因为一些点慢导致内存爆掉。

　　这些问题在技术风险上得考虑进去，并在设计和代码实现上体现，否则一旦随着规模上去了，问题一时半会还真不太好解。

　　高并发这个点需要掌握CAS、常见的lock-free算法、读写锁、线程相关知识（例如线程交互、线程池）等，通信层面的高并发在NonBlocking-IO的情况下，最重要的是要注意在整体设计和代码实现上尽量减少对io线程池的时间占用。

　　低资源消耗这点的话NonBlocking-IO本身基本已经做到。

　　伸缩性

　　分布式系统基本上意味着规模不小。 对于此类系统，在设计时必须考虑可伸缩性。 在体系结构图上绘制的任何点，如果请求量或数据量继续增加，该怎么办？ 通过添加机器来解决。 当然，此过程不需要考虑无限的情况。 如果您有经验的建筑师，从相对较小的规模到非常大型的范围，那么优势显然并不小，而且它们也将越来越稀缺。  。

　　横向可扩展性（Scale Out）是指通过增加服务器数量来提高群集的整体性能。 垂直可伸缩性（Scale Up）是指提高每台服务器的性能以提高集群的整体性能。 纵向可扩展性的上限非常明显，而分布式系统则强调水平可伸缩性。

　　分布式系统应用服务最好做成无状态的

　　应用服务的状态是指运行时程序因为处理服务请求而存在内存的数据。分布式应用服务最好是设计成无状态。因为如果应用程序是有状态的，那么一旦服务器宕机就会使得应用服务程序受影响而挂掉，那存在内存的数据也就丢失了，这显然不是高可靠的服务。把应用服务设计成无状态的，让程序把需要保存的数据都保存在专门的存储上(eg 数据库)，这样应用服务程序可以任意重启而不丢失数据，方便分布式系统在服务器宕机后恢复应用服务。

　　伸缩性的问题围绕着以下两种场景在解决：

　　无状态场景

　　对于无状态场景，要实现随量增长而加机器支撑会比较简单，这种情况下只用解决节点发现的问题，通常只要基于负载均衡就可以搞定，硬件或软件方式都有；

　　无状态场景通常会把很多状态放在db，当量到一定阶段后会需要引入服务化，去缓解对db连接数太多的情况。

　　有状态场景

　　所谓状态其实就是数据，通常采用Sharding来实现伸缩性，Sharding有多种的实现方式，常见的有这么一些：

　　21 规则Sharding

　　基于一定规则把状态数据进行Sharding，例如分库分表很多时候采用的就是这样的，这种方式支持了伸缩性，但通常也带来了很复杂的管理、状态数据搬迁，甚至业务功能很难实现的问题，例如全局join，跨表事务等。

　　22 一致性Hash

　　一致性Hash方案会使得加机器代价更低一些，另外就是压力可以更为均衡，例如分布式cache经常采用，和规则Sharding带来的问题基本一样。

　　23 Auto Sharding

　　Auto Sharding的好处是基本上不用管数据搬迁，而且随着量上涨加机器就OK，但通常Auto Sharding的情况下对如何使用会有比较高的要求，而这个通常也就会造成一些限制，这种方案例如HBase。

　　24 Copy

　　Copy这种常见于读远多于写的情况，实现起来又会有最终一致的方案和全局一致的方案，最终一致的多数可通过消息机制等，全局一致的例如zookeeper/etcd之类的，既要全局一致又要做到很高的写支撑能力就很难实现了。

　　即使发展到今天，Sharding方式下的伸缩性问题仍然是很大的挑战，非常不好做。

　　上面所写的基本都还只是解决的方向，到细节点基本就很容易判断是一个解决过多大规模场景问题的架构师，:)

　　稳定性

　　作为分布式系统，必须要考虑清楚整个系统中任何一个点挂掉应该怎么处理（到了一定机器规模，每天挂掉一些机器很正常），同样主要还是分成了无状态和有状态：

　　无状态场景

　　对于无状态场景，通常好办，只用节点发现的机制上具备心跳等检测机制就OK，经验上来说无非就是纯粹靠4层的检测对业务不太够，通常得做成7层的，当然，做成7层的就得处理好规模大了后的问题。

　　有状态场景

　　对于有状态场景，就比较麻烦了，对数据一致性要求不高的还OK，主备类型的方案基本也可以用，当然，主备方案要做的很好也非常不容易，有各种各样的方案，对于主备方案又觉得不太爽的情况下，例如HBase这样的，就意味着挂掉一台，另外一台接管的话是需要一定时间的，这个对可用性还是有一定影响的；

　　全局一致类型的场景中，如果一台挂了，就通常意味着得有选举机制来决定其他机器哪台成为主，常见的例如基于paxos的实现。

　　可维护性

　　维护性是很容易被遗漏的部分，但对分布式系统来说其实是很重要的部分，例如整个系统环境应该怎么搭建，部署，配套的维护工具、监控点、报警点、问题定位、问题处理策略等等。

EJB是sun的服务器端组件模型，设计目标与核心应用是部署分布式应用程序。凭借java跨平台的优势，用EJB技术部署的分布式系统可以不限于特定的平台。EJB (Enterprise JavaBean)是J2EE的一部分，定义了一个用于开发基于组件的企业多重应用程序的标准。其特点包括网络服务支持和核心开发工具(SDK)。 在J2EE里，Enterprise Java Beans(EJB)称为Java 企业Bean，是Java的核心代码，分别是会话Bean（Session Bean），实体Bean（Entity Bean）和消息驱动Bean（MessageDriven Bean）。

相关知识请搜索“EJB”。

基本原理 要实现网络机器间的通讯，首先得来看看计算机系统网络通信的基本原理，在底层层面去看，网络通信需要做的就是将流从一台计算机传输到另外一台计算机，基于传输协议和网络 IO 来实现，其中传输协议比较出名的有 http、tcp、 udp 等等，http、tcp、udp 都是在基于Socket 概念上为某类应用场景而扩展出的传输协议，网络IO，主要有bio、nio、aio 三种方式，所有的分布式应用通讯都基于这个原理而实现，只是为了应用的易用，各种语言通常都会提供一些更为贴近应用易用的应用层协议。 应用级协议 远程服务通讯，需要达到的目标是在一台计算机发起请求，另外一台机器在接收到请求后进行相应的处理并将结果返回给请求端，这其中又会有诸如 onewayrequest、同步请求、异步请求等等请求方式，按照网络通信原理，需要实现这个需要做的就是将请求转换成流，通过传输协议传输至远端，远端计算机在接收到请求的流后进行处理，处理完毕后将结果转化为流，并通过传输协议返回给调用端。原理是这样的，但为了应用的方便，业界推出了很多基于此原理之上的应用级的协议，使得大家可以不用去直接操作这么底层的东西，通常应用级的远程通信协议会提供: 1为了避免直接做流操作这么麻烦，提供一种更加易用或贴合语言的标准传输格式;2网络通信机制的实现，就是替你完成了将传输格式转化为流，通过某种传输协议传输至远端计算机，远端计算机在接收到流后转化为传输格式，并进行存储或以某种方式通知远端计算机。 所以在学习应用级的远程通信协议时，我们可以带着这几个问题进行学习: 1传输的标准格式是什么2怎么样将请求转化为传输的流3怎么接收和处理流4传输协议是 不过应用级的远程通信协议并不会在传输协议上做什么多大的改进，主要是在流操作方面，让应用层生成流和处理流的这个过程更加的贴合所使用的语言或标准，至于传输协议则通常都是可选的，在java 领域中知名的有:RMI、 XML-RPC、Binary-RPC、SOAP、CORBA、JMS，来具体的看看这些远程通信的应用级协议: RMIRMI 是个典型的为java 定制的远程通信协议，我们都知道，在 singlevm 中，我们可以通过直接调用javaobjectinstance 来实现通信，那么在远程通信时，如果也能按照这种方式当然是最好了，这种远程通信的机制成为RPC(RemoteProcedureCall)，RMI 正是朝着这个目标而诞生的。 来看下基于RMI 的一次完整的远程通信过程的原理: 1客户端发起请求，请求转交至RMI 客户端的stub 类;2stub 类将请求的接口、方法、参数等信息进行序列化;3基于socket 将序列化后的流传输至服务器端;4服务器端接收到流后转发至相应的skelton 类;5skelton 类将请求的信息反序列化后调用实际的处理类;6处理类处理完毕后将结果返回给 skelton 类;7Skelton 类将结果序列化，通过socket 将流传送给客户端的 stub;8stub 在接收到流后反序列化，将反序列化后的JavaObject 返回给调用者。 根据原理来回答下之前学习应用级协议带着的几个问题: 1传输的标准格式是什么是JavaObjectStream。2怎么样将请求转化为传输的流基于Java 串行化机制将请求的javaobject 信息转化为流。3怎么接收和处理流根据采用的协议启动相应的监听端口，当有流进入后基于Java 串行化机制将流进行反序列化，并根据RMI 协议获取到相应的处理对象信息，进行调用并处理，处理完毕后的结果同样基于java 串行化机制进行返回。4传输协议是Socket。 XML-RPCXML-RPC 也是一种和RMI 类似的远程调用的协议，它和RMI 的不同之处在于它以标准的 xml 格式来定义请求的信息(请求的对象、方法、参数等)，这样的好处是什么呢，就是在跨语言通讯的时候也可以使用。 来看下XML-RPC 协议的一次远程通信过程: 1客户端发起请求，按照XML-RPC 协议将请求信息进行填充;2填充完毕后将xml 转化为流，通过传输协议进行传输;3接收到在接收到流后转换为xml，按照XML-RPC 协议获取请求的信息并进行处理;4处理完毕后将结果按照XML- RPC 协议写入xml 中并返回。 同样来回答问题: 1传输的标准格式是标准格式的XML。2怎么样将请求转化为传输的流 将XML 转化为流。3怎么接收和处理流通过监听的端口获取到请求的流，转化为XML，并根据协议获取请求的信息，进行处理并将结果写入XML 中返回。4 传输协议是Http。 Binary-RPCBinary-RPC 看名字就知道和XML-RPC 是差不多的了，不同之处仅在于传输的标准格式由XML 转为了二进制的格式。 同样来回答问题: 1传输的标准格式是标准格式的二进制文件。2怎么样将请求转化为传输的流将二进制格式文件转化为流。3怎么接收和处理流通过监听的端口获取到请求的流，转化为二进制文件，根据协议获取请求的信息，进行处理并将结果写入XML 中返回。4传输协议是Http。 SOAPSOAP 原意为SimpleObjectAccessProtocol，是一个用于分布式环境的、轻量级的、基于XML 进行信息交换的通信协议，可以认为SOAP 是XMLRPC 的高级版，两者的原理完全相同，都是http+XML，不同的仅在于两者定义的XML 规范不同，SOAP 也是Webservice 采用的服务调用协议标准，因此在此就不多加阐述了。 CORBACommonObjectRequestBrokerArchitecture(公用对象请求代理[调度]程序体系结构)，是一组用来定义"分布式对象系统"的标准，由 OMG(ObjectMenagementGroup)作为发起和标准制定单位。CORBA 的目的是定义一套协议，符合这个协议的对象可以互相交互，不论它们是用什么样的语言写的，不论它们运行于什么样的机器和操作系统。CORBA 在我看来是个类似于SOA 的体系架构，涵盖可选的远程通信协议，但其本身不能列入通信协议这里来讲，而且CORBA 基本淘汰，再加上对CORBA 也不怎么懂，在此就不进行阐述了。 JMSJMS 呢，是实现java 领域远程通信的一种手段和方法，基于JMS 实现远程通信时和RPC 是不同的，虽然可以做到RPC 的效果，但因为不是从协议级别定义的，因此我们不认为JMS 是个RPC 协议，但它确实是个远程通信协议，在其他的语言体系中也存在着类似JMS 的东西，可以统一的将这类机制称为消息机制，而消息机制呢，通常是高并发、分布式领域推荐的一种通信机制，这里的主要一个问题是容错(详细见ErLang 论文)。 来看JMS 中的一次远程通信的过程: 1客户端将请求转化为符合JMS 规定的Message;2通过JMSAPI 将Message 放入JMSQueue 或Topic 中;3如为JMSQueue，则发送中相应的目标Queue 中，如为Topic，则发送给订阅了此Topic 的JMSQueue。4处理端则通过轮训 JMSQueue，来获取消息，接收到消息后根据JMS 协议来解析Message 并处理。 回答问题: 1传输的标准格式是JMS 规定的Message。2怎么样将请求转化为传输的流将参数信息放入Message 中即可。3怎么接收和处理流轮训JMSQueue 来接收Message，接收到后进行处理，处理完毕后仍然是以Message 的方式放入 Queue 中发送或Multicast。4传输协议是不限。 基于JMS 也是常用的实现远程异步调用的方法之一。

一、高性能计算

Hadoop：Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。

Spark：Spark是UC Berkeley AMP lab所开源的类Hadoop MapReduce的通用的并行，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的map reduce的算法。

CUDA：CUDA(Compute Unified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。 开发人员现在可以使用C语言来为CUDA架构编写程序，C语言是应用最广泛的一种高级编程语言。所编写出的程序于是就可以在支持CUDA的处理器上以超高性能运行。CUDA30已经开始支持C++和FORTRAN。

二、Hadoop生态系统

(1)海量数据怎么存，当然是用分布式文件系统——HDFS。

(2)数据怎么用呢，分析、处理MapReduce框架，让你通过编写代码来实现对大数据的分析工作。

(3)非结构化数据（日志）收集处理——Fuse、WebDAV、Chukwa、Flume和Scribe。

(4)数据导入HDFS中，RDBMS也可以加入HDFS的狂欢了——HIHO、Sqoop。

(5)MaoReduce太麻烦，用熟悉的方式操作Hadoop里的数据——Pig、Hive、Jaql。

(6)让你的数据可见——Drilldown、Intellicus。

(7)用高级语言管理你的任务流——Oozie、Cascading。

(8)Hadoop自己的监控管理工具——Hue、Karmasphere、Eclipse Plugin、Cacti、Ganglia。

(9)数据序列化处理与任务调度——Avro、ZooKeeper。

(10)更多构建在Hadoop上层的服务——Mahout、Elastic Map Reduce。

(11)OLTP存储系统——HBase。

(12)基于Hadoop的实时分析——Impala。