我在Hadoop雲計算會議的演講

2021-08-30 23:29:11 字數 451 閱讀 7456

由中科院計算所主辦的「hadoop 中國2010雲計算大會」於9月4日在北京召開。**網作為國內最大的hadoop應用商之一贊助與參與了這次會議。我有幸代表**在大會上分享了**在分布式資料處理實踐的內容,下面是ppt的乙個節選:

**網目前有會員2億左右,日均uv高達4000萬,日交易量高達10億元,每天產生大量的資料,所以部署了一系列不同規模的hadoop集群。**生產所使用的hadoop集群為目前國內規模最大的hadoop集群之一。在會議前一天,這個集群的規模是

1.總容量為9.3pb,利用率77.09%。

2.共有1100臺機器。

3.每天處理約18000道hadoop作業

4. 使用者數474人,使用者組38個

5.約18000道作業/天,掃瞄資料:約500tb/天使用者數474人,使用者組38個

**由於資料的快速增長,已經計畫擴容至1500機器的規模,總容量達到20+pb.

Hadoop和雲計算的關係

hadoop 主要是由hdfs和mapreduce組成,hdfs是乙個分布式檔案系統 hadoopdistributed file system mapreduce則是用於並行處理大資料集的軟體框架。因此,hadoop是乙個能夠對大量資料進行分布式處理的軟體框架,它是一種技術的實現。hadoop 基...

Hadoop和雲計算的關係

個人理解 hadoop是乙個能夠對大量資料進行分布式處理的軟體框架,它是一種技術的實現 資料 hadoop主要是由hdfs和mapreduce組成,hdfs是乙個分布式檔案系統 hadoop distributed file system mapreduce則是用於並行處理大資料集的軟體框架。因此,...

我心中的「雲」計算

雲 是 2009年it 技術討論最熱之一。幾乎不論是巨頭 it,還是微頭 it,都能跟 雲 拉上關係或是想拉上點點關係,動不動就掛上乙個 雲 字,誰知道它是真的是假的呢。關於雲的概念,資料很多,前輩們講的也比較多,我是沒資格講這些,感興趣的話,你可以雲找些專業解釋。我這裡只是想說說我對 雲 的理解,...