Hadoop2 x偽分模式部署

2022-08-25 12:33:13 字數 1193 閱讀 9769

hadoop偽分布模式,只有乙個節點,通常用來做測試。

linux網路配置已完成,可參見centos7網路配置;

yum源成功掛載,可參見centos7本地yum源掛載;

linux已安裝oraclejdk1.8+,可參見oraclejdk1.8安裝;

su 到root使用者下,並建立使用者;

修改hadoop-env.sh,配置jdk位置;

修改core-site.xml;

在root使用者下修改環境變數,並使生效;

在hodoop使用者下,格式化namenode(執行一次命令即可);

使用hadoop使用者啟動集群;

從windows訪問hdfs頁面;

從windows訪問yarn頁面;

能出來以上介面,表明偽分布模式部署成功;

停止集集群:

hadoop2 x安裝(準備工具)

每次換電腦的時候都要把hadoop的環境重新的搭建一遍,每次配置的時間不是很長,但是準備的時間浪費很多,都是一些常用的工具軟體還有對應的外掛程式,映象什麼的。所以這次在部落格上總結一下。算是一種複習,也算是為剛接觸hadoop的同學乙個方便的思路。下面我將分為幾部分來描述搭建hadoop2.x的所有...

Hadoop 2 x 四層架構

一 儲存層 檔案系統hdfs,nosql hbase 二 資源及資料管理層 yarn以及sentry等 三 計算引擎 mapreduce impala spark等 四 基於mapreduce spark等計算引擎的高階封裝及工具 hive pig mahout等 sqoop sql to hado...

Hadoop2 X中的描述

1,hadoop 1.0中hdfs和mapreduce在高可用 擴充套件性等方面存在問題 2,hdfs存在的問題 namenode壓力過大,且記憶體受限,影響系統擴充套件 3,mapreduce存在的問題 jobtracker單點故障 jobtracker訪問壓力大,影響系統擴充套件性 難以支援除m...