elasticsearch自動按天建立索引指令碼

2022-06-16 07:24:10 字數 4503 閱讀 2776

elasticsearch儲存在乙個索引中資料量太大無法查詢,現在需要將索引按照天來建,查詢的時候關聯查詢即可

有時候es集群建立了很多索引,刪不掉,如果是測試環境或者初始化es集群(清空所有資料),可以直接關掉elastic程序,然後刪除nodes下面的所有資料,再次啟動集群即可,記錄一下避免忘記

1.匯出的語句

yum install epel-release -y

yum install nodejs -y

yum install nodejs npm -y

npm install elasticdump -y

2.建立索引的指令碼如下

#!/bin/bash# 1

.建立今天和明天的索引# 2

.刪除3天以前的索引

today_date=`date

'+%y%m%d'`

tomorrow_date=`date -d tomorrow +%y%m%d`

# 需要匯入索引的es集群伺服器ip

es_ip=10.10.33.84

# 找到具體的index目錄和index,對這個index進行處理

# start log

echo

"$ create index start

">> /data/scripts/create_index.log

.json`;

do # 檔名

file=$

# 去掉檔名字尾

file_name=$

# 找到類似push:user:req的索引名稱

某些索引特殊處理,改進後的指令碼

#!/bin/bash# 1

.建立今天和明天的索引# 2

.刪除3天以前的索引

today_date=`date

'+%y%m%d'`

tomorrow_date=`date -d tomorrow +%y%m%d`

today_month=`date

'+%y%m'`

# 需要匯入索引的es集群伺服器ip

es_ip=10.10.33.84

# 找到具體的index目錄和index,對這個index進行處理

# start log

echo

"$ create index start

">> /data/scripts/create_index.log

.json`;

do # 檔名

file=$

# 去掉檔名字尾

file_name=$

# 找到類似push:user:req的索引名稱

# 索引保留3天

# bin開頭的索引保留7天

檢視索引結構的命令:

,

"taskflag

": ,

"taskid

": ,

"time

": ,

"uuid": }}

}}}

elasticsearch 自動發現

自動發現的配置 elasticsearch 是乙個p2p 型別 使用gossip協議 的分布式系統,除了集群狀態管理以外,其他所有的請求逗可以傳送到集群內 任意一台節點上,這個節點可以自己找到需要 給哪些節點,並且直接跟這些節點通訊。所以,從網路架構及配置上來說,構建集群所需要的配置極其簡單。在無阻...

elasticsearch索引自動清理

檢視所有的索引檔案 刪除索引檔案以釋放空間 單節點的elk可在索引目錄刪除索引檔案 集群環境刪除某節點的索引檔案,會導致集群服務不可用.集群環境需要使用api的方式進行刪除.索引檔案保留在伺服器中,大大減小伺服器的效能,占用硬碟空間,因此使用指令碼自動刪除elk中兩個月以前的索引以釋放空間 新增計畫...

Elasticsearch 動態對映 自動檢測

es中有乙個非常重要的特性 動態對映,即索引文件前不需要建立索引 型別等資訊,在索引的同時會自動完成索引 型別 對映的建立。那麼什麼是對映呢?對映就是描述欄位的型別 如何進行分析 如何進行索引等內容。本篇就著重講述下,es中對映的自動檢測特性。在某個字段第一次出現時,如果之前沒有定義過對映,es會自...