HIVE JDBC任務執行流程

2021-08-22 17:53:49 字數 351 閱讀 4964

hive提供了多種訪問方式,其中jdbc是一種。通常通過jdbc訪問,可以規避使用者對hdfs、metastore的直接訪問。本文研究研究一下hivejdbc執行任務的流程。

主要流程分為三條線:

1. 執行任務,無返回。執行完成,獲取執行結果[boolean/int],直接結束

2. 執行任務,返回資料。執行完成,通過介面獲取資料,使用者執行其他相關操作

3. 執行任務,查詢日誌。執行任務的同時,可以獲取執行日誌。通過單獨的介面,可以分別獲取日誌與資料。

使用jdbc查詢日誌,存在鎖競爭的問題,因而表現出來的現象就是通過jdbc獲取日誌比較慢。具體可以參考:hive-jdbc獲取查詢日誌慢的問題發現與解決。

activity啟動流程與任務執行

1 啟動流程例項 設想一下,流程檔案就是乙個模板,模板定義好了以後,大家就可以拿著這個模板使用了,至於怎麼使用就看各自的使用者了,一旦使用者開始用了,就代表開啟了乙個例項,即所謂的流程例項,模板本身沒有意義,真正執行流程過程的是這個流程例項,也可以理解為,乙個class類可以通過new的方式建立出多...

Job的任務執行流程之TaskCleanup

任何乙個作業在hadoop集群中執行主要包括四個階段 setup map reduce cleanup,但在這四個階段都出現任務例項在tasktracker節點執行失敗的情況。當乙個任務例項在tasktracker節點的jvm中執行時除了成功執行意外,還有可能出現一些異常情況 1 在jvm中執行失敗...

Spark任務提交執行全流程詳解

spark任務的本質是對我們編寫的rdd的依賴關係切分成乙個個stage,將stage按照分區分批次的生成taskset傳送到executor進行任務的執行 spark任務分兩種 1 shufflemaptask shuffle之後的task 2 resulttask shuffle之前的task ...