hadoop下载地址 http://archive.apache.org/dist/hadoop/common/ hbase下载地址 http://archive.apache.org/dist/hbase/
需要注意hbase和hadoop的版本兼容问题,具体可参考https://blog.csdn.net/renzhewudi77/article/details/83826779 注意一个非常重要的点,即使是单节点,也是需要配置SSH密钥才能保证hadoop正常启动。
jdk 需要提前安装,这里不再贴出
1、SSH设置和密钥生成
SSH设置需要在集群上执行不同的操作,如启动,停止和分布式守护shell操作。进行身份验证不同的Hadoop用户,需要一种用于Hadoop的用户提供的公钥/私钥对,并用不同的用户共享。以下的命令被用于生成秘钥值对。复制公钥从id_rsa.pub为authorized_keys,并提供所有者、读写权限到authorized_keys当中:(这里为了方便我们直接回车不设置密码)
ssh-keygen -t rsa (中间Y/N选择直接回车即可) cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys验证
ssh localhost预期结果
2、下载hadoop
wget http://archive.apache.org/dist/hadoop/common/hadoop-2.4.0/hadoop-2.4.0.tar.gz或者采用网页下载上传方式
3、解压
tar -zxvf hadoop-2.4.0.tar.gz4、配置hadoop相关的环境配置 vi /etc/profile文件,添加如下代码: /usr/local/soft/hadoop/hadoop-2.4.0 是我安装hadhoop 的目录
export HADOOP_HOME=/usr/local/soft/hadoop/hadoop-2.4.0 export HADOOP_MAPRED_HOME=$HADOOP_HOME export HADOOP_COMMON_HOME=$HADOOP_HOME export HADOOP_HDFS_HOME=$HADOOP_HOME export YARN_HOME=$HADOOP_HOME export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin export HADOOP_INSTALL=$HADOOP_HOME export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"7、刷新环境变量
source /etc/profile8、$HADOOP_HOME/etc/hadoop目录当中,使用vi编辑器,打开hadoop-env.sh文件,修改Java环境变量JAVA_HOME的值,由于Hadoop官网上下载的本地库文件都是基于32位系统编译的,而我们本地环境基本都是64位。故还需添加。
export JAVA_HOME=/usr/local/soft/jdk/jdk1.8.0_171 export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_PREFIX}/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"9、同样因为下载的本地库文件都是基于32位系统编译的,而我们本地环境基本都是64位。在yarn-env.sh 中添加
export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_PREFIX}/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"10、配置hadoop-2.4.0/etc/hadoop/core-site.xml 其中8020为hadoop的端口号
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://127.0.0.1:8020</value> </property> </configuration>11、配置hadoop-2.4.0/etc/hadoop/hdfs-site.xml
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:///usr/local/src/hadoop/hdfs/nn</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:///usr/local/src/hadoop/hdfs/dn</value> </property> </configuration>12、格式化namenode
hdfs namenode -format13、启动namenode和datanode守护进程,命令如下:
start-dfs.sh注意:
在启动时候注意是否出现这个错误
WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable把hadoop-native-64-2.4.0.tar 换成对应要安装的版本hadoop-native-64-2.x.tar
wget http://dl.bintray.com/sequenceiq/sequenceiq-bin/hadoop-native-64-2.4.0.tar解压至\lib\native下 再重新启动 start-dfs.sh
14、启动yarn守护进程,命令如下:
start-yarn.sh15、在浏览器上输入http://IP:50070/访问Hadoop服务。
16、在浏览器上输入http://IP:8088/验证集群中的所有应用程序。
1、下载HBase
wget http://archive.apache.org/dist/hbase/1.3.0/hbase-1.3.0-bin.tar.gz或者采用网页下载上传方式
2、打开hbase-1.3.0/conf/hbase-env.sh文件,修改Java环境变量JAVA_HOME的值
export JAVA_HOME=/usr/local/soft/jdk/jdk1.8.0_1713、hbase-1.3.0/conf目录,修改hbase-site.xml文件,将替换为以下内容
<configuration> <property> <name>hbase.rootdir</name> <value>file:///home/pythoner/hbase/rootdir</value> </property> <property> <name>hbase.zookeeper.property.dataDir</name> <value>/home/pythoner/hbase/zookeeper</value> </property> </configuration>4、进入hbase-1.3.0/bin目录,输入以下命令启动HBase:
./start-hbase.sh5、在页面输入http://IP:16010/ 6、进入hbase-1.3.0/bin 目录输入
./hbase shell查看hbase 表创建成功