Hadoop生态系统-新手快速入门(含HDFS、HBase系统架构)

Hadoop生态系统-新手快速入门(含HDFS、HBase系统架构),第1张

Hadoop是一个由Apache基金会所开发的分布式系统基础架构。

用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。

Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。

Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,而MapReduce则为海量的数据提供了计算。

广义的Hadoop,一般称为Hadoop生态系统,如下所示。

Hadoop生态系统中这些软件的作用:

HDFS 采用了主从(Master/Slave)结构模型,一个HDFS集群包括一个名称节点(NameNode)和若干个数据节点(DataNode)。

HDFS采用Java语言开发,因此任何支持JVM的机器都可以部署名称节点和数据节点。

在配置好Hadoop 集群之后,可以通过浏览器访问 http://[NameNodeIP]:9870,查询HDFS文件系统。通过该Web界面,可以查看当前文件系统中各个节点的分布信息。

HBase系统架构如下所示,包括客户端、Zookeeper服务器、Master主服务器、Region服务器。一般而言,HBase会采用HDFS作为底层数据存储。

在HBase服务器集群中,包含了一个Master和多个Region服务器,Master是HBase集群的“总管”,它必须知道Region服务器的状态。

HBase中可以启动多个Master,但是Zookeeper 可以帮助选举出一个Master 作为集群的总管,并保证在任何时刻总有唯一一个Master在运行,这样可以避免Master单点失效的问题。

Region服务器是HBase中最核心的模块,负责维护分配给自己的Region,并响应用户的读写请求。

Store是Region服务器的核心。每个Store对应了表中的一个列族的存储。每一个Store包含了一个MemStore缓存和若干个StoreFile文件。

HBase采用HLog来保证系统发生故障时,能够恢复到正确的状态。HLog是磁盘上面的记录文件,它记录着所有的更新操作。

HBase系统为每个Region服务器配置了一个HLog文件,它是一种预写式日志(Write Ahead Log),也就是说,用户更新数据必须首先被记入日志后,才能写入MemStore缓存。

此外,Pig和Hive还为HBase提供了高层语言支持,使得在HBase上进行数据统计处理变的非常简单。 Sqoop则为HBase提供了方便的RDBMS数据导入功能,使得传统数据库数据向HBase中迁移变的非常方便。

注意:Hadoop 安装完成之后,只包含HDFS和MapReduce,并不含HBase,因此需要在Hadoop 之上继续安装HBase。

一 简介

参考了网上许多教程,最终把hadoop在ubuntu1404中安装配置成功。下面就把详细的安装步骤叙述一下。我所使用的环境:两台ubuntu 1404 64位的台式机,hadoop选择271版本。(前边主要介绍单机版的配置,集群版是在单机版的基础上,主要是配置文件有所不同,后边会有详细说明)

二 准备工作

21 创建用户

创建用户,并为其添加root权限,经过亲自验证下面这种方法比较好。

1 sudo adduser hadoop2 sudo vim /etc/sudoers3 # 修改内容如下:4 root ALL = (ALL)ALL5 hadoop ALL = (ALL)ALL

给hadoop用户创建目录,并添加到sudo用户组中,命令如下:

1 sudo chown hadoop /home/hadoop2 # 添加到sudo用户组3 sudo adduser hadoop sudo

最后注销当前用户,使用新创建的hadoop用户登陆。

22 安装ssh服务

ubuntu中默认是没有装ssh server的(只有ssh client),所以先运行以下命令安装openssh-server。安装过程轻松加愉快~

sudo apt-get install ssh openssh-server

23 配置ssh无密码登陆

直接上代码:执行完下边的代码就可以直接登陆了(可以运行ssh localhost进行验证)

1 cd ~/ssh  # 如果找不到这个文件夹,先执行一下 "ssh localhost"2 ssh-keygen -t rsa3 cp id_rsapub authorized_keys

注意:

这里实现的是无密登陆自己,只适用与hadoop单机环境。如果配置Hadoop集群设置Master与Slave的SSH无密登陆可

三 安装过程

31 下载hadoop安装包

有两种下载方式:

1 直接去官网下载:

2 使用wget命令下载:

32 配置hadoop

1 解压下载的hadoop安装包,并修改配置文件。我的解压目录是(/home/hadoop/hadoop-271),即进入/home/hadoop/文件夹下执行下面的解压缩命令。

tar -zxvf hadoop-271targz

2 修改配置文件:(hadoop271/etc/hadoop/)目录下,hadoop-envsh,core-sitexml,mapred-sitexmltemplate,hdfs-sitexml。

(1) core-sitexml 配置:其中的hadooptmpdir的路径可以根据自己的习惯进行设置。

<configuration><property><name>hadooptmpdir</name><value>file:/home/hadoop/hadoop/tmp</value><description>Abase for other temporary directories</description></property><property><name>fsdefaultFS</name><value>hdfs://localhost:9000</value></property></configuration>

(2) mapred-sitexmltemplate配置: 

<configuration><property><name>mapredjobtracker</name><value>localhost:9001</value></property></configuration>

(3) hdfs-sitexml配置: 其中dfsnamenodenamedir和dfsdatanodedatadir的路径可以自由设置,最好在hadooptmpdir的目录下面。

注意:如果运行Hadoop的时候发现找不到jdk,可以直接将jdk的路径放置在hadoop-envsh里面,具体如下:

export JAVA_HOME="/opt/java_file/jdk170_79",即安装java时的路径。

<configuration><property><name>dfsreplication</name><value>1</value></property><property><name>dfsnamenodenamedir</name><value>file:/home/hadoop/hadoop/tmp/dfs/name</value></property><property><name>dfsdatanodedatadir</name><value>file:/home/hadoop/hadoop/tmp/dfs/data</value></property></configuration>

配置完成后运行hadoop。

四 运行hadoop

41 初始化HDFS系统

在hadop271目录下执行命令:

bin/hdfs namenode -format

出现如下结果说明初始化成功。

42 开启 NameNode 和 DataNode 守护进程

在hadop271目录下执行命令:

sbin/start-dfssh

成功的截图如下:

43 使用jps命令查看进程信息:

若出现如图所示结果,则说明DataNode和NameNode都已经开启。

44 查看web界面

在浏览器中输入 http://localhost:50070 ,即可查看相关信息,截图如下

至此,hadoop的环境就已经搭建好了。

五 运行wordcount demo

1  在本地新建一个文件,里面内容随便填:例如我在home/hadoop目录下新建了一个hahatxt文件,里面的内容为" hello world! "。

2 然后在分布式文件系统(hdfs)中新建一个test文件夹,用于上传我们的测试文件hahatxt。在hadoop-271目录下运行命令:

# 在hdfs的根目录下建立了一个test目录

bin/hdfs dfs -mkdir /test

# 查看HDFS根目录下的目录结构

bin/hdfs dfs -ls /

结果如下:

3 将本地hahatxt文件上传到test目录中;

# 上传

bin/hdfs dfs -put /home/hadoop/hahatxt /test/# 查看

bin/hdfs dfs -ls /test/

结果如下:

4 运行wordcount demo;

# 将运行结果保存在/test/out目录下

bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-271jar wordcount /test/hahatxt /test/out

# 查看/test/out目录下的文件

bin/hdfs dfs -ls /test/out

结果如下:

运行结果表示:运行成功,结果保存在part-r-00000中。

5 查看运行结果;

# 查看part-r-00000中的运行结果

bin/hadoop fs -cat /test/out/part-r-00000

结果如下:

至此,wordcount demo 运行结束。

六 总结

配置过程遇到了很多问题,最后都一一解决,收获很多,特此把这次配置的经验分享出来,方便想要配置hadoop环境的各位朋友~

(Hadoop集群安装配置过程基本和单机版是一样的,主要是在配置文件方面有所区别,以及ssh无密登陆要求master和slave能够互相无密登陆。

windows不能执行hadoop吗为什么非要用linux执行hadoop

hadoop 20还是220之后有相容windows的版本,然而大部分都是部署在linux上的。记得刚出win版本的那天,我兴冲冲的下载部署了一整天还是遇到各种问题没能部署成功。至今为止还没见到有哪个公司把hadoop生产环境部署在windows上的。

为什么hadoop job执行的时候 其他的执行绪不能执行

首先,一个job具体启动多少个map,是由你配置的inputformat来决定的。inputformat在分配任务之前会对输入进行切片。最终启动的map数目,就是切片的结果数目。具体来看 一、如果使用是自定义的inputformat,那么启动多少个map 需要获取mapreduce的执行资讯,比如执行状态,map,reduce的执行进度 hadoop 50030埠提供web ui服务,没找到提供json或者xml的服务方式 于是,查询hadoop 50030的载入

linux为什么不能执行windows程式

首先系统是不一样的。windows系统是避源的,linux 系统是开源的,Linux系统一般是命令列的,而windows 系统是偏向于图形化的。就像苹果手机是不能允许安卓手机的软体的。但是Linux系统在不多的强大。不断的创新,图形化已经做的非常好了,软体也越来越丰富了。在Linux上面执行windows程式变得没有那么困难了--wine。

可以尝试使用wine 来执行windows系统。Linux的学习是一个过程,需要不断的去探索。更多的知识建议参考《Linux就该这样学》,加油吧,不断探索Linux的奥秘吧

python执行hadoop用到什么库

# map: 对序列的每个元素进行一个指定的操作 >>> lst = map(lambda x: "%02d" % x, range(10)) >>> lst ['00', '01', '02', '03', '04', '05', '06', '07', '08', '09'] >>> # reduce: 对序列每个元素进行一种“累进”操作 >>> rst = reduce(lambd

怎么检视hadoop能不能执行

看各个节点的程序,是不是都起来了,通过web查各个节点的状态,是不是都正常

一般都是上传 一个档案,看看成不成功

然后执行那个wordcount的,统计单词的数量,如果执行都没有问题,就OK了

windows下的exe为什么在linux下不能执行

linux下需要安装wine来相容windows下的程式。

一 安装Wine

Wine适应于所有流行的UNIX作业系统,包括Ubuntu、Debian、Red Hat、SUSE、Mandriva、FreeBSD、Solaris和Mac OS X。

在Ubuntu上:

一、通过Unbuntu软体中心安装

1、 开启Applications(应用程式)>Ubuntu Sofare Center(Unbuntu软体中心),开启Ubuntu软体中心。

然后点选Edit(编辑)>Sofare Sources(软体源)。选择Other Sofare(其他软体)选项卡,点选Add(新增)。然后输入下列apt行:ppa:ubuntu-wine/ppa

2、Allsofares右侧选单中选择“PPA for Ubuntu Wine Team”,然后选择Microsoft Windows Compatibility Layer(Development files) – wine13-dev。点选Install(安装)。这会安装最新的Wine软体包,包括开发库。

提示:解除安装现有的Wine软体包,以确保最大的相容性。另外,如果想干净安装,可以删除Wine使用者目录,为此可以从主目录中使用命令rm -r -v wine。

二、通过终端安装

终端输入[如何在Ubuntu1404中安装和执行Windows应用程式]

sudo add-apt-repository ppa:ubuntu-wine/ppa

sudo apt-get update

apt-get install wine17

wine --version

[Wine完全解除安装]

二、安装Wine支援包

现在,需要安装非开源(但免费)的支援包。这包括微软Core Fonts、Visual C++执行时环境等软体包。

安装Cabextract:

需要该软体包来解压缩微软cab档案。

$ sudo apt-get install cabextract

在Windows上执行Hadoop,配置好java,cygwin,hadoop之后,要怎么做

启动cygwin就可以操作hadoop了。比如start-allsh、jps、s-allsh等

游戏的执行和机器的CPU,记忆体,独立显示核心等硬体配置有直接的关系,另外也和系统,驱动,其他软体等也有联络。当前,是否可以玩一个游戏,首先需要检视游戏执行的配置要求和机器的配置要求做一个对比,检视机器的配置是否符合。如果可以满足游戏的最低执行需求,则可以支援。"

Hadoop最早是为了在Linux平台上使用而开发的,但是Hadoop在UNIX、Windows和Mac OS X系统上也运行良好。不过,在Windows上运行Hadoop稍显复杂,首先必须安装Cygwin以模拟Linux环境,然后才能安装Hadoop。Hadoop的安装非常简单,大家可以在官网上下载到最近的几个版本,在Unix上安装Hadoop的过程与在Linux上安装基本相同,因此下面不会对其进行详细介绍。

在Linux上安装与配置Hadoop

在Linux上安装Hadoop之前,需要先安装两个程序:

1 JDK 16或更高版本;

2 SSH(安全外壳协议),推荐安装OpenSSH。

下面简述一下安装这两个程序的原因:

1 Hadoop是用Java开发的,Hadoop的编译及MapReduce的运行都需要使用JDK。

2 Hadoop需要通过SSH来启动salve列表中各台主机的守护进程,因此SSH也是必须安装的,即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式,Hadoop会采用与集群相同的处理方式,即依次序启动文件conf/slaves中记载的主机上的进程,只不过伪分布式中salve为localhost(即为自身),所以对于伪分布式Hadoop,SSH一样是必须的。

一、安装JDK 16

安装JDK的过程很简单,下面以Ubuntu为例。

(1)下载和安装JDK

确保可以连接到互联网,输入命令:

sudo apt-get install sun-java6-jdk

输入密码,确认,然后就可以安装JDK了。

这里先解释一下sudo与apt这两个命令,sudo这个命令允许普通用户执行某些或全部需要root权限命令,它提供了详尽的日志,可以记录下每个用户使用这个命令做了些什么操作;同时sudo也提供了灵活的管理方式,可以限制用户使用命令。sudo的配置文件为/etc/sudoers。

apt的全称为the Advanced Packaging Tool,是Debian计划的一部分,是Ubuntu的软件包管理软件,通过apt安装软件无须考虑软件的依赖关系,可以直接安装所需要的软件,apt会自动下载有依赖关系的包,并按顺序安装,在Ubuntu中安装有apt的一个图形化界面程序synaptic(中文译名为“新立得”),大家如果有兴趣也可以使用这个程序来安装所需要的软件。(如果大家想了解更多,可以查看一下关于Debian计划的资料。)

(2)配置环境变量

输入命令:

sudo gedit /etc/profile

输入密码,打开profile文件。

在文件的最下面输入如下内容:

#set Java Environment

export JAVA_HOME= (你的JDK安装位置,一般为/usr/lib/jvm/java-6-sun)

export CLASSPATH=":$JAVA_HOME/lib:$CLASSPATH"

export PATH="$JAVA_HOME/:$PATH"

这一步的意义是配置环境变量,使你的系统可以找到JDK。

(3)验证JDK是否安装成功

输入命令:

java -version

查看信息:

java version "160_14"

Java(TM) SE Runtime Environment (build 160_14-b08)

Java HotSpot(TM) Server VM (build 140-b16, mixed mode)

二、配置SSH免密码登录

同样以Ubuntu为例,假设用户名为u。

1)确认已经连接上互联网,输入命令

sudo apt-get install ssh

2)配置为可以无密码登录本机。

首先查看在u用户下是否存在ssh文件夹(注意ssh前面有“”,这是一个隐藏文件夹),输入命令:

ls -a /home/u

一般来说,安装SSH时会自动在当前用户下创建这个隐藏文件夹,如果没有,可以手动创建一个。

接下来,输入命令:

ssh-keygen -t dsa -P '' -f ~/ssh/id_dsa

解释一下,ssh-keygen代表生成密钥;-t(注意区分大小写)表示指定生成的密钥类型;dsa是dsa密钥认证的意思,即密钥类型;-P用于提供密语;-f指定生成的密钥文件。(关于密钥密语的相关知识这里就不详细介绍了,里面会涉及SSH的一些知识,如果读者有兴趣,可以自行查阅资料。)

在Ubuntu中,~代表当前用户文件夹,这里即/home/u。

这个命令会在ssh文件夹下创建两个文件id_dsa及id_dsapub,这是SSH的一对私钥和公钥,类似于钥匙及锁,把id_dsapub(公钥)追加到授权的key里面去。

输入命令:

cat ~/ssh/id_dsapub >> ~/ssh/authorized_keys

这段话的意思是把公钥加到用于认证的公钥文件中,这里的authorized_keys是用于认证的公钥文件。

至此无密码登录本机已设置完毕。

3)验证SSH是否已安装成功,以及是否可以无密码登录本机。

输入命令:

ssh -version

显示结果:

OpenSSH_51p1 Debian-6ubuntu2, OpenSSL 098g 19 Oct 2007

Bad escape character 'rsion'

显示SSH已经安装成功了。

输入命令:

ssh localhost

会有如下显示:

The authenticity of host 'localhost (::1)' can't be established

RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77

Are you sure you want to continue connecting (yes/no) yes

Warning: Permanently added 'localhost' (RSA) to the list of known hosts

Linux master 2631-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686

To access official Ubuntu documentation, please visit:

http://helpubuntucom/

Last login: Mon Oct 18 17:12:40 2010 from master

admin@Hadoop:~$

这说明已经安装成功,第一次登录时会询问你是否继续链接,输入yes即可进入。

实际上,在Hadoop的安装过程中,是否无密码登录是无关紧要的,但是如果不配置无密码登录,每次启动Hadoop,都需要输入密码以登录到每台机器的DataNode上,考虑到一般的Hadoop集群动辄数百台或上千台机器,因此一般来说都会配置SSH的无密码登录。

三、安装并运行Hadoop

介绍Hadoop的安装之前,先介绍一下Hadoop对各个节点的角色定义。

Hadoop分别从三个角度将主机划分为两种角色。第一,划分为master和slave,即主人与奴隶;第二,从HDFS的角度,将主机划分为NameNode和DataNode(在分布式文件系统中,目录的管理很重要,管理目录的就相当于主人,而NameNode就是目录管理者);第三,从MapReduce的角度,将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task,从这个角度不难理解它们之间的关系)。

Hadoop有官方发行版与cloudera版,其中cloudera版是Hadoop的商用版本,这里先介绍Hadoop官方发行版的安装方法。

Hadoop有三种运行方式:单节点方式、单机伪分布方式与集群方式。乍看之下,前两种方式并不能体现云计算的优势,在实际应用中并没有什么意义,但是在程序的测试与调试过程中,它们还是很有意义的。

你可以通过以下地址获得Hadoop的官方发行版,下载Hadoop-0202targz并将其解压,这里会解压到用户目录下,一般为:/home/[你的用户名]/。

单节点方式配置:

安装单节点的Hadoop无须配置,在这种方式下,Hadoop被认为是一个单独的Java进程,这种方式经常用来调试。

伪分布式配置:

你可以把伪分布式的Hadoop看做是只有一个节点的集群,在这个集群中,这个节点既是master,也是slave;既是NameNode也是DataNode;既是JobTracker,也是TaskTracker。

伪分布式的配置过程也很简单,只需要修改几个文件,如下所示。

进入conf文件夹,修改配置文件:

Hadoop-envsh:

export JAVA_HOME=“你的JDK安装地址”

指定JDK的安装位置:

conf/core-sitexml:

<configuration>

<property>

<name>fsdefaultname</name>

<value>hdfs://localhost:9000</value>

</property>

</configuration>

这是Hadoop核心的配置文件,这里配置的是HDFS的地址和端口号。

conf/hdfs-sitexml:

<configuration>

<property>

<name>dfsreplication</name>

<value>1</value>

</property>

</configuration>

这是Hadoop中HDFS的配置,配置的备份方式默认为3,在单机版的Hadoop中,需要将其改为1。

conf/mapred-sitexml:

<configuration>

<property>

<name>mapredjobtracker</name>

<value>localhost:9001</value>

</property>

</configuration>

这是Hadoop中MapReduce的配置文件,配置的是JobTracker的地址和端口。

需要注意的是,如果安装的是020之前的版本,那么只有一个配置文件,即为Hadoop-sitexml。

接下来,在启动Hadoop前,需格式化Hadoop的文件系统HDFS(这点与Windows是一样的,重新分区后的卷总是需要格式化的)。进入Hadoop文件夹,输入下面的命令:

bin/Hadoop NameNode -format

格式化文件系统,接下来启动Hadoop。

输入命令:

bin/start-allsh(全部启动)

最后,验证Hadoop是否安装成功。

打开浏览器,分别输入网址:

http://localhost:50030 (MapReduce的Web页面)

http://localhost:50070 (HDFS的Web页面)

如果都能查看,说明Hadoop已经安装成功。

对于Hadoop来说,安装MapReduce及HDFS都是必须的,但是如果有必要,你依然可以只启动HDFS(start-dfssh)或MapReduce(start-mapredsh)。

1、什么是python?

2、python的10大Web框架有哪些,以及它们各自的特点?

3、本文只是这10大框架做了简单介绍,让你对它们有个初步的了解。

Python 是一门动态、面向对象语言。其最初就是作为一门面向对象语言设计的,并且在后期又加入了一些更高级的特性。除了语言本身的设计目的之外,Python标准 库也是值得大家称赞的,Python甚至还自带服务器。其它方面,Python拥有足够多的免费数据函数库、免费的Web网页模板系统、还有与Web服务 器进行交互的库、这些都可以设计到你的Web应用程序里面。在这篇文章里,我们将为Python Web开发者介绍基于Python的10大Web应用框架。

1、CubicWeb

1jpg (10151 KB, 下载次数: 2)

2015-7-16 11:04 上传

CubicWeb的最重要的支柱就是代码的可重用性。CubicWeb宣扬自己不仅是一个Web开发框架,而且还是一款语义Web开发框架。CubicWeb使用关系查询语言(RQL Relation Query Language)与数据库之间进行通信。

2、Zope2

2jpg (5386 KB, 下载次数: 1)

2015-7-16 11:04 上传

Zope 2是一款基于Python的Web应用框架,是所有Python Web应用程序、工具的鼻祖,是Python家族一个强有力的分支。Zope 2的“对象发布”系统非常适合面向对象开发方法,并且可以减轻开发者的学习曲线,还可以帮助你发现应用程序里一些不好的功能。

3、Web2py

3jpg (9994 KB, 下载次数: 1)

2015-7-16 11:04 上传

Web2py是一个用Python语言编写的免费的开源Web框架,旨在敏捷快速的开发Web应用,具有快速、可扩展、安全以及可移植的数据库驱动的应用,遵循LGPLv3开源协议。

Web2py提供一站式的解决方案,整个开发过程都可以在浏览器上进行,提供了Web版的在线开发,HTML模版编写,静态文件的上传,数据库的编写的功能。其它的还有日志功能,以及一个自动化的admin接口。

4、TurboGears

4jpg (9537 KB, 下载次数: 1)

2015-7-16 11:04 上传

它是另外一个基于 Python 的 MVC 风格的 Web 应用程序框架。

TurboGears 开发人员称这个项目是一个 “大框架(megaframework)”,这是因为它是由现有的子项目构成的。TurboGears 可以帮助将很多主要组件集成在一起:MochiKit:JavaScript 库

Kid:模板语言

CherryPy:基本 Web 框架

SQLObject:对象关系映射器(ORM)

5、Pylons

5jpg (13151 KB, 下载次数: 1)

2015-7-16 11:04 上传

Pylons是一个开放源代码的Web应用框架,使用python语言编写。它对WSGI标准进行了扩展应用,提升了重用性且将功能分割到独立的模块中。

Pylons是最新的Web应用框架中的典型,类似于Django和TurboGears。Pylons受Ruby on Rails影响很深:它的两个组件,Routes和WebHelpers是Rails特性的Python实现。

6、Grok

6jpg (7928 KB, 下载次数: 0)

2015-7-16 11:04 上传

Grok 是一个为 Python 开发者提供的Web应用开发框架,Grok 的重点是敏捷开发,是一个易用而且功能强大的开发框架,基于 Zope 3 技术。

7、Webpy

7jpg (6953 KB, 下载次数: 2)

2015-7-16 11:10 上传

Webpy是一个轻量级的开源Python Web框架,小巧灵活、简单并且非常强大,在使用时没有任何限制。目前Webpy被广泛运用在许多大型网站,如西班牙的社交网站Frinki、主页日平均访问量达7000万次的Yandex等。

8、Pyramid

8jpg (98 KB, 下载次数: 2)

2015-7-16 11:10 上传

Pyramid也是一款轻量级的开源Python Web框架,是Pylons项目的一部分。Pyramid只能运行在Python 2x或24以后的版本上。在使用后端数据库时无需声明,在开发时也不会强制使用一些特定的模板系统。

9、CherryPy

9jpg (8316 KB, 下载次数: 2)

2015-7-16 11:11 上传

CherryPy是一个基于Python的Web使用程序开发框架,它极大地简化了运用 Python 的web开发人员的工作。它为Python开发人员提供了友好的HTTP协议接口。大家知道,HTTP可是万维网的支柱协议,而CherryPy将HTTP协议简化成Python API来供Python 开发人员使用,这极大地简化了Web开发人员对HTTP协议的操作。CherryPy自身内置了一个HTTP服务器,或者称为Web服务器。这样,对于CherryPy的用户来说,不用另外搭设Web服务器就能直接运行 CherryPy应用程序了。实际上,Web服务器是到达CherryPy应用程序的关口,是所有的HTTP请求和响应的必经之地。因此,可以这样理解 CherryPy内建的Web服务器:它是位于处理客户端与服务器端之间的一层软件,用于把底层TCP套按字传输的信息转换成Http请求,并传递给相应 的处理程序;同时,还把上层软件传来的信息打包成Http响应,并向下传递给底层的TCP套按字。

10、Flask

10jpg (5297 KB, 下载次数: 2)

2015-7-16 11:10 上传

Flask是一个轻量级的Web应用框架, 使用Python编写。基于 WerkzeugWSGI工具箱和 Jinja2模板引擎。使用 BSD 授权。

Flask也被称为 “microframework” ,因为它使用简单的核心,用 extension 增加其他功能。Flask没有默认使用的数据库、窗体验证工具。然而,Flask保留了扩增的弹性,可以用Flask-extension加入这些功 能:ORM、窗体验证工具、文件上传、各种开放式身份验证技术

一、单机部署HADOOP:(非分布式)

1、环境准备

(1)虚拟内存

dd if=/dev/zero of=swap bs=1M count=2048

mkswap swap

swapon swap

chmod 0600 swap

(2)本地解析文件

vim /etc/hosts

1921681001 server

2、安装HADOOP,配置JAVA环境

yum install java-180-openjdk java-180-openjdk-devel -y

tar zxvf hadoop-312targz -C /usr/local/

ln -s hadoop-312/ hadoop

vim /etc/profile

PATH=$PATH:/usr/local/hadoop/bin:/usr/local/hadoop/sbin

export JAVA_HOME=/usr/lib/jvm/jre-180-openjdk-180161-2b14el7x86_64

source /etc/profile

3、测试

hadoop version

cd /usr/local/hadoop/share/hadoop/mapreduce

hadoop jar hadoop-mapreduce-examples-312jar pi 2 10000000000

二、单机部署HADOOP:(伪分布式)

1、SSH免密登录

ssh-keygen

ssh-copy-id -i id_rsapub 1921681001

2、配置HDFS

vim hadoop-envsh

export JAVA_HOME=/usr/lib/jvm/jre-180-openjdk-180161-2b14el7x86_64

export HDFS_NAMENODE_USER=root

export HDFS_DATANODE_USER=root

export HDFS_SECONDARYNAMENODE_USER=root

export YARN_RESOURCEMANAGER_USER=root

export YARN_NODEMANAGER_USER=root

vim core-sitexml

<property>

<name>hadooptmpdir</name>

<value>/usr/local/hadoop/tmp</value>

</property>

<property>

<name>fsdefaultname</name>

<value>hdfs://server:9000</value>

</property>

vim hdfs-sitexml

<property>

<name>dfsreplication</name>

<value>1</value>

</property>

<property>

<name>dfspermissions</name>

<value>false</value>

</property>

hadoop namenode -format

start-dfssh&stop-dfssh

hadoop dfsadmin -report

3、配置MAPREDUCE

vim mapred-sitexml

<property>

<name>mapreduceframeworkname</name>

<value>yarn</value>

</property>

<property>

<name>mapreducejobtracker</name>

<value>hdfs://server:8001</value>

<final>true</final>

</property>

<property>

<name>mapreduceframeworkname</name>

<value>yarn</value>

</property>

<property>

<name>mapreduceapplicationclasspath</name>

<value>

/usr/local/hadoop/etc/hadoop,

/usr/local/hadoop/share/hadoop/common/,

/usr/local/hadoop/share/hadoop/common/lib/,

/usr/local/hadoop/share/hadoop/hdfs/,

/usr/local/hadoop/share/hadoop/hdfs/lib/,

/usr/local/hadoop/share/hadoop/mapreduce/,

/usr/local/hadoop/share/hadoop/mapreduce/lib/,

/usr/local/hadoop/share/hadoop/yarn/,

/usr/local/hadoop/share/hadoop/yarn/lib/

</value>

</property>

4、配置YARN

hadoop classpath

centos75+hadoop312实战图文攻略--2019持续更新

vim yarn-sitexml

<property>

<name>yarnresourcemanagerhostname</name>

<value>server</value>

</property>

<property>

<name>yarnnodemanageraux-services</name>

<value>mapreduce_shuffle</value>

</property>

<property>

<name>yarnapplicationclasspath</name>

<value>/usr/local/hadoop-312/etc/hadoop:/usr/local/hadoop-312/share/hadoop/common/lib/:/usr/local/hadoop-312/share/hadoop/common/:/usr/local/hadoop-312/share/hadoop/hdfs:/usr/local/hadoop-312/share/hadoop/hdfs/lib/:/usr/local/hadoop-312/share/hadoop/hdfs/:/usr/local/hadoop-312/share/hadoop/mapreduce/lib/:/usr/local/hadoop-312/share/hadoop/mapreduce/:/usr/local/hadoop-312/share/hadoop/yarn:/usr/local/hadoop-312/share/hadoop/yarn/lib/:/usr/local/hadoop-312/share/hadoop/yarn/</value>

</property>

5、启动并测试

start-allsh&stop-allsh

hadoop jar hadoop-mapreduce-examples-312jar pi 2 10

web访问HDFS:http://1921681001:9870

web访问MAPREDUCE:http://1921681001:8088

在虚拟机上安装了Hadoop,安装情况如下:

192168220129  master

192168220130  slave1

192168220131  slave2

配置好各个ip后,在虚拟系统中可以访问,http://192/168220129:50070  ,但是在笔记本的window上不能访问

使用命令查看如下:

可见,The address and the base port(0000:50070) where the dfs namenode web ui will listen on

而不是我们想要的192168220129。所以,从笔记本windows不能访问dfs的web界面。

在hdfs-sitexml增加以下配置

<name>dfsnamenodehttp-address</name>

<value>master:50070</value> 

修改后,再查看

1、首先你要确定不用ha的时候你的hadoop集群是正常的,不然找错误的方向就偏离了 2、如果都正常,配置ha 需要zookeeper,先要看看是不是zookeeper没有配置好的问题 3、如果都正常,在hadoop安装目录执行sbin/hadoop-daemonsh start zkfc

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » Hadoop生态系统-新手快速入门(含HDFS、HBase系统架构)

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情