Hive結合shell指令碼企業實戰用法

2022-09-23 15:45:10 字數 1422 閱讀 5401

目錄1、linux設定定時任務

編輯定時任務

[root@master ]#crontab -e

* * * * *

第1個*:表示分鐘

第2個*:表示小時

第3個*:表示星期幾

第4個*:表示幾號

第5個*:表示月份

舉例:每分鐘執行一次hql.sh指令碼,將其日誌存放到1.log目錄中

*/1 * * * * /usr/local/soft/scripts/hql.sh >> /usr/local/soft/scripts/logs/1.log

2、hive結合shell指令碼使用

hive -e 「sql語句」

舉例:

[root@master ~]# hive -e 「select * from test1.students limit 10」

執行結果:

1500100001 施笑槐 22 女 文科六班

1500100002 呂金鵬 24 男 文科六班

1500100003 單樂蕊 22 女 理科六班

1500100004 葛德曜 24 男 理科三班

1500100005 宣谷芹 22 女 理科五班

1500100006 邊昂雄 21 男 理科二班

1500100007 尚孤風 23 女 文科六班

1500100008 符半雙 22 女 理科六班

1500100009 沈德昌 21 男 理科一班

1500100010 羿彥昌 23 男 理科六班

hive -f sql檔案
當我們的sql比較複雜,不方便寫在hive -e 這一行,我們可以先把sql語句寫下檔案裡

舉例:[root@master ~]# cd /usr/local/soft/

[root@master soft]# mkdir scripts----------建立乙個目錄

[root@master soft]# cd scripts/

[root@master scripts]# touch stu.sql-------建立乙個sql檔案

[root@master scripts]# vim stu.sql --------編輯sql檔案(在裡面寫sql語句)

select * from test1.students limit 5;

[root@master scripts]# hive -f stu.sql ----執行sql檔案

執行結果:

1500100001 施笑槐 22 女 文科六班

1500100002 呂金鵬 24 男 文科六班

1500100003 單樂蕊 22 女 理科六班

1500100004 葛德曜 24 男 理科三班

1500100005 宣谷芹 22 女 理科五班

Shell指令碼實現執行 Hive指令碼

hive是基於hadoop的乙個資料倉儲工具,可以將結構化的資料檔案hive對映為一張資料庫表,並提供完整的sql查詢功能,可以將sql語句轉換為mapreduce任務進行執行。hive目前還不支援像mysql那樣的sql指令碼,如果遇到需要批量處理hql就會比較麻煩 這兩天就遇到需要批量刪除有命名...

Shell指令碼執行Hive語句

一 環境 1 hadoop 0.20.2 2 hive 0.5 3 作業系統 linux m131 2.6.9 78.8axs2smp 1 smp tue dec 16 02 42 55 est 2008 x86 64 x86 64 x86 64 gnu linux 二 步驟 1 直接貼上指令碼吧 ...

python指令碼與shell指令碼的結合應用

獲取命令執行的結果,但是沒有命令的執行狀態,這樣可以將獲取的結果儲存起來放到list中。os.popen 廢棄 popen2.廢棄 commands.廢棄,3.x中被移除 例子 執行命令,返回狀態碼 命令正常執行返回0,報錯則返回1 2 check call 執行命令,如果執行成功則返回狀態碼0,否...