HBase单机安装(加Hadoop单机安装教程)

    科技2024-12-08  17

    准备

    hadoop下载地址 http://archive.apache.org/dist/hadoop/common/ hbase下载地址 http://archive.apache.org/dist/hbase/

    需要注意hbase和hadoop的版本兼容问题,具体可参考https://blog.csdn.net/renzhewudi77/article/details/83826779 注意一个非常重要的点,即使是单节点,也是需要配置SSH密钥才能保证hadoop正常启动。

    jdk 需要提前安装,这里不再贴出

    hadoop 的安装

    1、SSH设置和密钥生成

    SSH设置需要在集群上执行不同的操作,如启动,停止和分布式守护shell操作。进行身份验证不同的Hadoop用户,需要一种用于Hadoop的用户提供的公钥/私钥对,并用不同的用户共享。以下的命令被用于生成秘钥值对。复制公钥从id_rsa.pub为authorized_keys,并提供所有者、读写权限到authorized_keys当中:(这里为了方便我们直接回车不设置密码)

    ssh-keygen -t rsa (中间Y/N选择直接回车即可) cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

    验证

    ssh localhost

    预期结果

    2、下载hadoop

    wget http://archive.apache.org/dist/hadoop/common/hadoop-2.4.0/hadoop-2.4.0.tar.gz

    或者采用网页下载上传方式

    3、解压

    tar -zxvf hadoop-2.4.0.tar.gz

    4、配置hadoop相关的环境配置 vi /etc/profile文件,添加如下代码: /usr/local/soft/hadoop/hadoop-2.4.0 是我安装hadhoop 的目录

    export HADOOP_HOME=/usr/local/soft/hadoop/hadoop-2.4.0 export HADOOP_MAPRED_HOME=$HADOOP_HOME export HADOOP_COMMON_HOME=$HADOOP_HOME export HADOOP_HDFS_HOME=$HADOOP_HOME export YARN_HOME=$HADOOP_HOME export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin export HADOOP_INSTALL=$HADOOP_HOME export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"

    7、刷新环境变量

    source /etc/profile

    8、$HADOOP_HOME/etc/hadoop目录当中,使用vi编辑器,打开hadoop-env.sh文件,修改Java环境变量JAVA_HOME的值,由于Hadoop官网上下载的本地库文件都是基于32位系统编译的,而我们本地环境基本都是64位。故还需添加。

    export JAVA_HOME=/usr/local/soft/jdk/jdk1.8.0_171 export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_PREFIX}/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"

    9、同样因为下载的本地库文件都是基于32位系统编译的,而我们本地环境基本都是64位。在yarn-env.sh 中添加

    export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_PREFIX}/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_PREFIX/lib"

    10、配置hadoop-2.4.0/etc/hadoop/core-site.xml 其中8020为hadoop的端口号

    <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://127.0.0.1:8020</value> </property> </configuration>

    11、配置hadoop-2.4.0/etc/hadoop/hdfs-site.xml

    <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:///usr/local/src/hadoop/hdfs/nn</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:///usr/local/src/hadoop/hdfs/dn</value> </property> </configuration>

    12、格式化namenode

    hdfs namenode -format

    13、启动namenode和datanode守护进程,命令如下:

    start-dfs.sh

    注意:

    在启动时候注意是否出现这个错误

    WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

    把hadoop-native-64-2.4.0.tar 换成对应要安装的版本hadoop-native-64-2.x.tar

    wget http://dl.bintray.com/sequenceiq/sequenceiq-bin/hadoop-native-64-2.4.0.tar

    解压至\lib\native下 再重新启动 start-dfs.sh

    14、启动yarn守护进程,命令如下:

    start-yarn.sh

    15、在浏览器上输入http://IP:50070/访问Hadoop服务。

    16、在浏览器上输入http://IP:8088/验证集群中的所有应用程序。

    HBase单机安装

    1、下载HBase

    wget http://archive.apache.org/dist/hbase/1.3.0/hbase-1.3.0-bin.tar.gz

    或者采用网页下载上传方式

    2、打开hbase-1.3.0/conf/hbase-env.sh文件,修改Java环境变量JAVA_HOME的值

    export JAVA_HOME=/usr/local/soft/jdk/jdk1.8.0_171

    3、hbase-1.3.0/conf目录,修改hbase-site.xml文件,将替换为以下内容

    <configuration> <property> <name>hbase.rootdir</name> <value>file:///home/pythoner/hbase/rootdir</value> </property> <property> <name>hbase.zookeeper.property.dataDir</name> <value>/home/pythoner/hbase/zookeeper</value> </property> </configuration>

    4、进入hbase-1.3.0/bin目录,输入以下命令启动HBase:

    ./start-hbase.sh

    5、在页面输入http://IP:16010/ 6、进入hbase-1.3.0/bin 目录输入

    ./hbase shell

    查看hbase 表创建成功

    Processed: 0.013, SQL: 8