hadoop 虛擬機器linux環境安裝

2021-08-17 04:39:19 字數 1689 閱讀 4916

剛開始學習hadoop,所以邊學邊做筆記。

本機系統win7(由於要裝三個虛擬機器,記憶體最少需要8g以上:每個虛擬機器2g,留給本機2g)

使用的軟體vmware workstation 11

linux系統 centos 6.5(據說centos 6.*和centos 7.*會有些不同,以後再試試)

1.vmware 安裝

2.建立虛擬機器。

記憶體:2g

硬碟:20g

cpu:2個2核

網絡卡:nat

3.裝centos 系統

主機名:hadoop100

硬碟分割槽:

4.設定網路資訊

41.先檢視子網ip

4.2修改ip,命令vim /etc/sysconfig/network-scripts/ifcfg-eth0

4.3重啟網路,命令service network restart

4.4 關閉防火牆

4.5設定對映,修改hosts檔案vim /etc/hosts,新增內容

192.168.126.100 hadoop100

192.168.126.101 hadoop101

192.168.126.102 hadoop102

5.建立乙個使用者hds,並給root許可權。(之後操作如果不特別說明,所有命令都以此使用者執行。)

6.轉殖兩台虛擬機器(轉殖時必須關機狀態)。

6.1開機啟動轉殖出的一台虛擬機器,並用root登入

6.2修改主機名為hadoop101

6.3設定網絡卡資訊,命令vim /etc/udev/rules.d/70-persistent-net.rules

6.3.1刪除eth0資訊

6.3.2把eth1改為eth0,複製mac位址

6.4修改ip,命令vim /etc/sysconfig/network-scripts/ifcfg-eth0

6.4.1修改hwaddr為剛才複製的mac位址

6.4.2ip位址為192.168.126.101

6.5重啟

6.6 啟動另乙個虛擬機器,並設定,重啟。

7.hds使用者登入,分別設定三颱機器ssh免密碼登入功能

7.1生成公鑰和私鑰:命令ssh-keygen -t rsa 

然後敲(三個回車),就會在~/ssh目錄下生成兩個檔案id_rsa(私鑰)、id_rsa.pub(公鑰)

7.2將公鑰拷貝到要免密登入的目標機器上(包括自己)

命令ssh-copy-id hadoop100

命令ssh-copy-id hadoop101

命令ssh-copy-id hadoop102

至此linux系統環境準備完畢。

Hadoop虛擬機器配置

使用centos7 hadoop集群內部防火牆內部時預設關閉的。服務關閉 systemctl stop firewalld.service 禁止開機firewall自啟動 systemctl disable firewalld.service 檢視狀態,確認關閉 not running firewa...

Hadoop 虛擬機器玩壞了

現在正在整體遷移環境,改用吳大佬的u64,主要的蛇皮操作為將lib的許可權改為777,我tm真的腦子有問題 嘗試拯救 在 etc sudoers中新增使用者 username all all all依舊報錯 在進行sudo操作時出現以下錯誤 sudo 在載入外掛程式 sudoers policy 時...

部署Hadoop及虛擬機器總結

在ssh工具上配置檔案時,配置 mapred site.xml 檔案時在 這個是錯誤的,因為感嘆號之後多了乙個空格 應該將感嘆號之後的空格去掉,改為 第二個問題檔案配置 以下是一部分檔案的配置內容。一 hdfs site.xml 3二 mapre site.xml mapreduce.framewo...