linux hive使用記錄

2021-09-26 06:08:12 字數 1988 閱讀 4626

##linux下對檔案去重

sort -n test.txt | uniq 這是先把重複的sort在一起,再利用uniq去重,-n是按照數值大小排序

sort -u test.txt

##去除空白行(包括空格和\t)

awk nf file #只能列印出字段數(nf)不為零(即大於零)的行

##取程序號

ps -ef |grep service_name

##殺死程序

kill process_id

##刪除首行

sed -i '1d' a.txt

##刪除前100行

sed -i '1,100d' a.txt

##刪除尾行

sed -i '$d' a.txt

##拷貝1到10行到第3行

命令列: 1,10 co 3

or yy:複製游標所處當前行

n + yy:複製游標所在行及以下共 n 行

按 p 貼上在游標所在行

##剪下1到10行到第3行

1,10 m 3

or dd:剪下游標所處當前行

n + dd:剪下游標所在行及以下共 n 行

按 p 貼上在游標所在行

##刪除1到10行

1,10 de

or dd:刪除游標所處當前行

n + dd:刪除游標所在行及以下共 n 行

## 指定輸入分割符和輸出分割符

awk -f'\t' -v ofs='\t' '' data.txt

## 後台執行命令

nohup command & #一般形式

nohup ./main >yourfile 2>&1 & #例項

## 檢視後台執行的命令

jobs

##ps命令檢視使用者程序

ps -u lidongchao002

ps -ef|grep lidongchao

#替換檔案內容

:s/well/good/ 替換當前行第乙個 well 為 good

:s/well/good/g 替換當前行所有 well 為 good

:n,$s/well/good/ 替換第 n 行開始到最後一行中每一行的第乙個 well 為 good

:n,$s/well/good/g 替換第 n 行開始到最後一行中每一行所有 well 為 good

n 為數字,若 n 為 .,表示從當前行開始到最後一行

:%s/well/good/(等同於 :g/well/s//good/) 替換每一行的第乙個 well 為 good

:%s/well/good/g(等同於 :g/well/s//good/g) 替換每一行中所有 well 為 good

可以使用 # 作為分隔符,此時中間出現的 / 不會作為分隔符

:s#well/#good/# 替換當前行第乙個 well/ 為 good/

:%s#/usr/bin#/bin#g

可以把檔案中所有路徑/usr/bin換成/bin

#傳資料夾:

先在目標機器執行命令準備好接收(1221為任意可用埠)

nc -l 1221 | tar -zxvf -

然後在源機器執行命令

tar -zcvf - [資料夾] | nc [目標ip] 1221

#批量殺死程序

ps -ef|grep mcfcm_st|grep -v grep|cut -c 9-15|xargs kill -9

#按照某一列去重

sort -t " " -k 3,3 -u 檔名

##拉取hive表,且分組&組內排序

hive -e "select city_name,price,row_number() over(partition by city_name order by price) from table_name where pt='20190816000000';" >your_file

linux Hive常用命令總結

寫在開頭 hive是基於hadoop的乙個資料倉儲工具,用來進行資料提取 轉化 載入,這是一種可以儲存 查詢和分析儲存在hadoop中的大規模資料的機制。hive資料倉儲工具能將結構化的資料檔案對映為一張資料庫表,並提供sql查詢功能,能將sql語句轉變成mapreduce任務來執行。某度詞條。下面...

Python 使用記錄(累計記錄)

2 pandas 設定 3 pandas 操作 4 笛卡爾積 1 列表轉字串list1 department of biology str1 join list1 print str1 department of biology2 從列表中刪除元素 要刪除的元素的型別必須與列表中的元素的型別相同 l...

fiddler使用記錄

fiddler 抓不到ie瀏覽器 或者ie核心瀏覽器 的請求包 1 ie的 去掉,這樣會使用fiddler的 去掉 之後一般就可以抓到ie的包了。很常見!另外,此時基於ie核心的瀏覽器可能還不行,比如我用的115br,瀏覽器關掉重啟下就可以了。a 檢查是否配置了某些filter過濾規則 很常見!b ...