mapreduce完整流程的介紹

2021-10-09 05:48:30 字數 851 閱讀 2361

1:讀取檔案,解析成為key,value對

2:自定義map邏輯接收key,value,轉換成為新的key,value輸出;寫入環形緩衝區

3:分割槽:寫入環形緩衝區的過程,會給每個key,value加上分割槽partition index。(同一分割槽的資料,將來會被傳送到同乙個reduce裡面去)

4:排序:當緩衝區使用80%,開始溢寫檔案

先按partition進行排序,相同分割槽的資料匯聚到一起;

然後,每個分割槽中的資料,再按key進行排序

5:combiner調優過程,對資料進行map階段的合併(可以沒有這個階段)

6:將環形緩衝區的資料進行溢寫到本地磁碟小檔案

7:歸併排序,對本地磁碟溢寫小檔案進行歸併排序

8:等待reducetask啟動執行緒來進行拉取資料

9:reducetask啟動執行緒,從各map task拉取屬於自己分割槽的資料

10:從maptask拉取回來的資料繼續進行歸併排序

11:進行groupingcomparator分組操作

12:呼叫reduce邏輯,寫出資料

13:通過outputformat進行資料輸出,寫到檔案,乙個reducetask對應乙個結果檔案

MQ訊息完整流程

public class queuemanger 建立msmq佇列 佇列路徑 是否事務佇列 public static void createqueue string queuename,bool transactional false else catch messagequeueexceptio...

git上傳完整流程

一.比如,在自己電腦上新建了乙個專案,想上傳到git。自己做個筆記。完整流程如下 在專案資料夾下。啟動git控制塔,輸入git init git add 檔案 或者直接全部檔案 git commit m xx 這一步很關鍵,關鍵 很多人出錯在這一步,我也是 最後執行命令 git push origi...

erp實施入門完整流程

乙個企業中要成功實施乙個erp系統,erp實施方法或erp實施流程問題無疑是乙個重要的因素,請看erp實施入門必須注意9點。1.初次調研 主要的目的就是erp軟體提供商的實施顧問人員能夠對企業各個部門的業務流程初步了解,能收集到各個部門業務流的所有單據,和各個部門人員的認識,了解他們對erp的認識和...