單機版hadoop部署

2021-07-24 19:00:44 字數 1655 閱讀 8431

單機版hadoop部署

解除安裝自帶的jdk,安裝自己的jdk

1.tar -zxf /tmp/hadoop-2.6.5.tar.gz -c /usr/local # 解壓到/usr/local中

2.cd /usr/local/

3.mv ./hadoop-2.6.0/ ./hadoop # 將資料夾名改為hadoop

4.chown -r hadoop ./hadoop # 修改檔案許可權 授權給hadoop使用者

5.hadoop 解壓後就能使用了。輸入如下命令來檢查 hadoop 是否可用,成功則會顯示 hadoop 版本資訊:

cd /usr/local/hadoop

./bin/hadoop version

6.測試使用mapreduce

在hadoop目錄中

切換到 cd /usr/local/hadoop/share/hadoop/mapreduce

統計找乙個文字檔案,統計資訊

./hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep /usr/local/hadoop/input /usr/local/hadoop/output 'dfs[a-z.]+'

---使用hadoop的例子hadoop-examples-2.6.5.jar裡邊的程式grep來執行查詢dfs開頭後面是包含從a到z的字串的單詞

---------檢視執行結果(兩種方式都可以)

cd /usr/local/hadoop

cat ./output/* # 檢視執行結果

統計結果

./hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar wordcount /usr/local/hadoop/input /usr/local/hadoop/output333

cat output/*

出現結果

單機模式

(不需要做任何配置,但不啟動任何dfs和mapreduce daemon程序)

-----------講解hadoop的常用配置檔案core-site.xml,hdfs-site.xml,mapred-site.xml

獲取預設配置

配置hadoop,主要是配置core-site.xml,hdfs-site.xml,mapred-site.xml三個配置檔案,預設下來,

這些配置檔案都是空的,所以很難知道這些配置檔案有哪些配置可以生效,上網找的配置可能因為各個hadoop版本不同,

導致無法生效。瀏覽更多的配置,有兩個方法:

這些就是預設配置,可以參考這些配置的說明和key,配置hadoop集群。

2.瀏覽apache官網,三個配置檔案鏈結如下:

這裡是瀏覽hadoop當前版本號的預設配置檔案,其他版本號,要另外去官網找。其中第乙個方法找到預設的配置是最好的,

因為每個屬性都有說明,可以直接使用。另外,core-site.xml是全域性配置,hdfs-site.xml和mapred-site.xml分別是hdfs和mapred的區域性配置。

hadoop 單機版部署

mac hadoop 單機版部署 確定以安裝 brew 使用brew 安裝 hadoop brew install hadoop配置ssh localhost 設定免密登入 localhost ssh keygen t rsa cat ssh id rsa.pub ssh authorized ke...

storm單機版部署

zeromq jzmq storm zookeeper 解壓zookeeper,然後修改conf檔案中的zoo.cfg ticktime 2000 datadir var zookeeper clientport 2181 由於是單機版的,就只新增了這幾個引數,其中目錄需要自己先建立 啟動zooke...

Ubuntu安裝單機版hadoop注意事項

網上ubuntu安裝單機版的案例教程很多,本人參考 進行安裝。在建立hadoop使用者以及更改許可權時,在系統設定的介面可以把hadoop設定為管理員,從而具有root 的許可權。比如可以進入root目錄等。1.建立ssh 使用 sudo apt get install sshopenssh ser...