spark submit主要引數介紹

2021-10-23 06:55:59 字數 3015 閱讀 7050

yarn

--master                        值為yarn

--deploy-mode                   部署模式,執行driver程序在客戶端還是集群上,預設為客戶端(client),可以指定為cluster

--class                         執行程式的類的全限定名

--name                          執行程式的名稱

--jars                          執行程式的jar包,一般放在hdfs上面

--conf                          執行程式需要指定配置資訊

--driver-memory                 執行程式指定的driver的記憶體,預設為1g

--executor-memory               單個executor需要分配的記憶體大小,預設為1g

--proxy-user name               提交應用程式時要模擬的使用者,此引數不適用於--principal/--keytab

-v                              列印其他除錯輸出

--version,                      列印當前的spark版本

--driver-cores                  driver驅動程式的核數,預設為1,只有在部署模式為cluster的時候有效

--num-executors                 executor的個數,預設為2個executor

--executor-cores                executor的核數,預設為1個cpu核數

standalone

--master                        值為spark://host:port

--deploy-mode                   部署模式,執行driver程序在客戶端還是集群上,預設為客戶端(client),可以指定為cluster

--class                         執行程式的類的全限定名

--name                          執行程式的名稱

--jars                          執行程式的jar包,一般放在hdfs上面

--conf                          執行程式需要指定配置資訊

--driver-memory                 執行程式指定的driver的記憶體,預設為1g

--executor-memory               單個executor需要分配的記憶體大小,預設為1g

--proxy-user name               提交應用程式時要模擬的使用者,此引數不適用於--principal/--keytab

-v                              列印其他除錯輸出

--version,                      列印當前的spark版本

--driver-cores                  driver驅動程式的核數,預設為1,只有在部署模式為cluster的時候有效

--kill                          如果給定則殺死指定的程式,只有在部署模式為cluster的時候有效

--status                        如果給定,則請求指定驅動程式的狀態,只有在部署模式為cluster的時候有效

--supervise                     如果給定,則在出現故障時重新啟動驅動程式,只有在部署模式為cluster的時候有效

--executor-cores                executor的核數,預設為所有可用的cpu核心數 

--total-executor-cores          所有的executor的核數,

mesos

--master                        值為mesos://host:port

--deploy-mode                   部署模式,執行driver程序在客戶端還是集群上,預設為客戶端(client),可以指定為cluster

--class                         執行程式的類的全限定名

--name                          執行程式的名稱

--jars                          執行程式的jar包,一般放在hdfs上面

--conf                          執行程式需要指定配置資訊

--driver-memory                 執行程式指定的driver的記憶體,預設為1g

--executor-memory               單個executor需要分配的記憶體大小,預設為1g

--proxy-user name               提交應用程式時要模擬的使用者,此引數不適用於--principal/--keytab

-v                              列印其他除錯輸出

--version,                      列印當前的spark版本

--total-executor-cores          所有的executor的核數,  

--supervise                     如果給定,則在出現故障時重新啟動驅動程式,只有在部署模式為cluster的時候有效

--kill                          如果給定則殺死指定的程式,只有在部署模式為cluster的時候有效

--status                        如果給定,則請求指定驅動程式的狀態,只有在部署模式為cluster的時候有效

Jmail主要引數

下面是乙個忘記密碼時的程式 前一段時間有發過乙個簡單的jmail郵件發郵件的 今天就把這個 做乙個具體的註解,並增加了另外兩個格式的 並舉幾個簡單的例子 首先是jmail.tpmail的核心 set jmail server.createobject jmail.tpmail 建立乙個jmail物件...

tar主要引數

主選項 一條命令以下5個引數只能有乙個 c create 新建乙個壓縮文件,即打包 x extract,get解壓檔案 t list,檢視壓縮文件裡的所有內容 u update 更新原壓縮包中的檔案 輔助選項 z 是否同時具有gzip的屬性?即是否需要用gzip壓縮或解壓?一般格式為 tar.gz或...

Kafka Consumer主要引數解釋

主要對kafka 0.9之後的new consumer的引數進行解釋 該引數是consumer group檢測成員發生崩潰的時間,比如設定為3分鐘,組中有乙個consumer崩潰了,則group中的協調器可能需要3分鐘才能感知到這個崩潰,重新進行分配分割槽。表示為consumer處理訊息可能需要花費...