Hadoop環境測試

2021-07-09 10:34:30 字數 899 閱讀 3636

ø 測試hdfs

hdfs shell操作

#檢視幫助

hadoop fs -help 

#上傳

hadoop fs -put 上檔案

> 上的路徑

>

#檢視檔案內容

hadoop fs -cat 上的路徑

>

#檢視檔案列表

hadoop fs -ls /

hadoop fs -get 上的路徑

> 上檔案

>

上傳檔案到hdfs

檔案系統上

hadoop  fs  -put  上檔案

>  上的路徑

>

例如:hadoop fs -put /root/install.log hdfs://itcast01:9000/

刪除hdfs

系統檔案

hadoop  fs  -rmr  hdfs://itcast01:9000/install.log

注:如果能正常上傳和刪除檔案說明hdfs

沒問題。

ø 測試yarn

上傳乙個檔案到hdfs

hadoop fs -put  words.txt  hdfs://itcast01:9000/

讓yarn

來統計一下檔案資訊

cd  /$hadoop_home/etc/hadoop/share/hadoop/target/mapreduce/

#測試命令

hadoop jar hadoop-mapreduce-examples-2.7.0.jar wordcount /works.txt hdfs://itcast01:9000/wc

注:如果能正常生成乙個目錄,並把統計資訊輸出到資料夾下,說明yarn

沒問題。

hadoop測試環境搭建1

廢話少說直接乾貨 在虛擬機器裡安裝hadoop,關閉防火牆 配置ip 我的系統環境為 win8系統 vmware11 centos8 1 設定虛擬機器網路通訊模式為host only模式 在虛擬機器目錄下找到vmnetcfg檔案 2 設定windows連線 3 修改linux系統的的ip 命令 if...

Hadoop學習 02Hadoop執行環境搭建

新建虛擬機器 修改虛擬機器的靜態ip 修改主機名 關閉防火牆 systemctl stop firewalld.service 停止firewall systemctl disable firewalld.service 禁止firewall開機啟動建立hadoop 可自定義名字 使用者 usera...

Hadoop環境搭建(二)

一 yarn的配置 啟動命令 sbin yarn daemon.sh start resourcemanager sbin yarn daemon.sh start nodemanager 二 配置mapreduce 三 執行mapreduce程式案例 要求 寫mr程式的一定要有輸入和輸出的路徑 準...