hadoop 原始碼筆記

2021-06-01 21:07:38 字數 1125 閱讀 2168

public inte***ce tool extends configurable 

public int run(string args) throws exception

public static void main(string args) throws exception

}/***************************toolrunner執行實現了tool介面的類************************************/

public class toolrunner

//轉換命令列引數args為配置項,並設定到conf裡面

genericoptionsparser parser = new genericoptionsparser(conf, args);

//重新設定conf到tool裡面,即改變了tool的設定

tool.setconf(conf);

//取得沒有轉換的引數 hadoop args

string toolargs = parser.getremainingargs();

//呼叫tool的run方法

return tool.run(toolargs);

} /*

根據tool自己的配置執行

*/public static int run(tool tool, string args)

throws exception

public static void printgenericcommandusage(printstream out) }

/********************configured類實現了可配置介面,並儲存了乙個conf例項**************************/

public class configured implements configurable

public configured(configuration conf)

public void setconf(configuration conf)

//返回儲存的conf例項

public configuration getconf()

}

Hadoop原始碼結構

hadoop專案已經得到社群以及行業內很多大牛的貢獻,現在版本已經推進到了1.0.0版本,本人以後將就當前1.0.0版本進行原始碼分析,如有重大特性更新的版本發布,會有相關的原始碼增補分析,多謝!bin 此目錄下為進行hadoop配置 執行以及管理的shell命令集合 c 此目錄下為linux下am...

Hadoop原始碼之JobTracker

jobtracker是map reducer中任務排程的伺服器。1 有如下執行緒為其服務 1 提供兩組rpc服務 intertrackerprotocol jobsubmissionprotocol 的1個listener執行緒與預設10個handler執行緒 2 提供任務執 況查詢的一組web服務...

hadoop原始碼研究 2

job繼承自jobcontext,提供了一系列的set方法,用於設定job的一些屬性 job更新屬性,jobcontext讀屬性 同時,job還提供了一些對job進行控制的方法,如下 ll reduceprogress reduce的進度 0 1.0 liscomplete 作業是否已經完成 lis...