Hadoop綜合大作業

2022-06-04 18:39:07 字數 1173 閱讀 8503

hive對爬蟲大作業產生的csv檔案進行資料分析,寫一篇部落格描述你的分析過程和分析結果。

首先啟動hadoop

檔案上傳到hdfs

啟動hive

建立**表,並匯入資料

用hql進行詞頻統計,結果放在表word_count裡

檢視統計結果

以下是我的爬蟲大作業的資料提交到hive

我統計的是2023年到4月底的新聞詞頻統計,統計的結果大部分為中文,統計的最後幾個單詞如下圖

首先在本地把統計好的詞頻轉化成csv格式和txt格式

通過軟體winscp把檔案上傳到虛擬機器

然後要啟動hdfs

上傳到hdfs並顯示前10條

啟動mysql

啟動hive

建立資料庫

建立表匯入資料

檢視資料

Hadoop綜合大作業

大資料分析 1.將爬蟲大作業產生的csv檔案上傳到hdfs 3.把hdfs中的文字檔案最終匯入到資料倉儲hive中 想要把資料匯入到資料庫hive中,首先要通過命令把服務全部開啟 把hdfs中的文字檔案最終匯入到資料倉儲hive中 7.查詢在省份廣東的男生 8.查詢城市在汕尾的女生 總結 這次的資料...

Hadoop綜合大作業

作業 於 本次作業是在期中大作業的基礎上利用hadoop和hive技術進行大資料分析 1.將爬蟲大作業產生的csv檔案上傳到hdfs 2.對csv檔案進行預處理生成無標題文字檔案 預處理 使用awk指令碼 com pre deal.sh 稍作處理,分隔開每一列 啟動hdfs 在hdfs上建立 big...

hadoop綜合大作業

hadoop綜合大作業 要求 詞頻統計的截圖如下 上次我所使用的文章是一篇中文文章,所以這次我用了一篇英文文件來進行分詞,大致的流程與上次的操作差不多。這是啟動hadoop的畫面。啟動hive的畫面 這是整篇英文文章讀取出來後的結果。2.用hive對爬蟲大作業產生的csv檔案進行資料分析,寫一篇部落...