在eclipse配置hadoop開發環境

2021-07-04 17:23:01 字數 727 閱讀 8542

配置環境:虛擬機器安裝偽分布式hadoop環境

虛擬機器環境:centos 6.6

eclipse環境:win7

hadoop版本:2.2.0

eclipse 外掛程式:hadoop2x-eclipse-plugin

需要注意的問題:hadoop 2x與hadoop1x相比配置上有了比較大的改變,如果之前搭過1x環境的要注意這些改變,要不然很容易因為慣性思維導致配置錯誤。這其中最大的差別就是多了yarn進行資源管理

步驟一、linux 虛擬機上安裝hadoop2.2.0並配置各個site檔案,網上很多教程,不贅述 步驟

三、這時候會發現eclipse中多了mapreduce的選項,在window-》show view-》others 中配置mapreduce,這裡需要注意埠問題,特別是用過1x的使用者,這裡的埠配置應該與hadoop中配置對應關係為:mapreduce master中host為resourcemanager機器ip,port為resourcemanager接受任務的埠號,即yarn-site.xml檔案中yarn.resourcemanager.scheduler.address配置項中埠號。dfs master中的host為namenode機器ip,port為core-site.xml檔案中fs.defaultfs配置項中埠號。筆者因為這個埠配置問題折騰了半天

在Linux Ubuntu 上安裝Hadoop

1.安裝 ssh hadoop使用ssh進行通訊,需要為ssh配置免密碼登入 apt get install ssh ssh keygen t rsa p f ssh id rsa cat ssh id rsa.pub ssh authorized keys ssh localhost驗證安裝成功 ...

在Eclipse中配置tomcat

網上的那麼多配置文章,唉,不說啥了。看看我的配置步驟吧。eclipse sdk version 3.4.2 build id m20090211 1700 安裝完了,解除安裝tomcat,重新安裝,jre的部分制定成jre1.5,安裝完了後,服務啟動tomcat,瀏覽器輸入,http localho...

在Mac系統centos中搭建Hadoop

首先我自己是mac系統,剛開始以為就正常跟老師一起搭建就沒什麼問題結果過 是一波三折,班裡也有幾個是mac系統,不過往後也逐漸從hadoop搭建到放棄,這裡我會把搭建的方法教給大家還有我自己遇到的問題希望對你們搭建能有所幫助。2.虛擬機器準備 這些就很簡單了可以跟著步驟做就可以了 防火牆關閉 ser...