博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
hadoop 部署安装
阅读量:6231 次
发布时间:2019-06-21

本文共 1519 字,大约阅读时间需要 5 分钟。

hot3.png

使用版本为2.7.2

1 安装配置

java ssh 必须安装

2 修改host 均要修改

3 ssh配置各slave节点 与 master节点免密码登录

1.配置SSH 免密码登录

  • master上设置
  • cd ~/.ssh # 如果没有该目录,先执行一次ssh localhost
  • rm ./id_rsa* # 删除之前生成的公匙(如果有)
  • ssh-keygen -t rsa # 一直按回车就可以

2.让Master节点需能无密码SSH本机

  • 在 Master 节点上执行:
  • cat ./id_rsa.pub >> ./authorized_keys
  • 修改authorized_keys权限 chmod 600 ~/.ssh/authorized_keys

3.slave免密码登录master

  • 复制公钥 master上操作 scp ~/.ssh/id_rsa.pub :~/.ssh
  • cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
  • chmod 600 ~/.ssh/authorized_keys

参考:

4 hadoop安装

1.解压下载hadoop文件

2.在master本地文件系统创建以下文件夹:

hadoop/dfs/name hadoop/dfs/data hadoop/tmp

3.配置文件

core-site.xml

hadoop.tmp.dir
file:/usr/hadoop/tmp
Abase forother temporary directories.

这里是hadoop的临时文件目录,file的含义是使用本地目录。也就是使用的是Linux的目录,一定确保下面目录

hdfs-site.xml

dfs.namenode.name.dir
file:/usr/hadoop/dfs/name
dfs.datanode.data.dir
file:/usr/hadoop/dfs/data

这里要涉及到的配置文件有7个:

/hadoop/etc/hadoop/hadoop-env.sh(添加java路径)

/hadoop/etc/hadoop/yarn-env.sh(添加java路径)
/hadoop/etc/hadoop/slaves (添加节点)
/hadoop/etc/hadoop/core-site.xml
/hadoop/etc/hadoop/hdfs-site.xml
/hadoop/etc/hadoop/mapred-site.xml
/hadoop/etc/hadoop/yarn-site.xml

4.复制到其他node

5.启动

hadoop/bin 下 hadoop namenode -format 格式化hdfs

hadoop/sbin 下 start-all.sh

参考:

参考:
参考:

经常使用的linux命令

sudo chown -R username:group filename 改变文件所属 sudo scp -r /usr/hadoop app@slave1:~/ 复制文件到其他节点

转载于:https://my.oschina.net/u/3052784/blog/790004

你可能感兴趣的文章
SSL Labs: Increased Penalty When TLS 1.2 Is Not Supported
查看>>
Python 字符串格式化输出(format/printf)
查看>>
Bzoj3781 小B的询问
查看>>
洛谷P1372 a/b problem
查看>>
UVa11762 Race to 1
查看>>
SQL类型转换和数学函数
查看>>
vue.js的学习
查看>>
插入排序的应用
查看>>
Retrofit2.0中注解使用方式
查看>>
Key-Value Coding Accessor 及其与KVC的关系
查看>>
把购买数据添加到购物车
查看>>
[磁盘空间]lsof处理文件恢复、句柄以及空间释放问题
查看>>
C#操作Control异步工具类
查看>>
由两个栈组成队列
查看>>
VirtrualBox使用已存在的镜像创建虚拟机
查看>>
python 拼图验证码
查看>>
JSOI2017 Round1 Day0
查看>>
Java面试题复习笔记(Web方向)
查看>>
第二次冲刺站立会议(3)
查看>>
java中的object... args参数
查看>>