(四 es設定)集群安裝配置引數

2021-10-09 15:50:17 字數 3758 閱讀 7292

1.2:磁碟級別的設定

1.3:集群級分片分配過濾設定

2:資料快取設定

3:索引的寫入快取設定

4:執行緒池設定

5:其他重要配置

6:系統設定

分片分配是將分片分配給節點的過程。這可能在初始恢復,副本分配,重新平衡或新增或刪除節點時發生。

有許多設定可用於控制分片分配過程:

集群級別分片分配設定:控制分配和重新平衡操作。

分片分配感知和強制感知控制了如何在不同機架或可用性區域之間分配分片。

集群級分片分配過濾允許某些節點或某些節點組從分配中排除,以便將其停用。

1:控制分片的分配和恢復

控制未分配的主分片副本分配和恢復

cluster.routing.allocation.enable

(動態)啟用或禁用對特定種類的分片的分配:

all -(預設)允許為所有型別的分片分配分片。

primaries -僅允許為主要分片分配分片。

new_primaries -僅允許為新索引的主碎片分配碎片。

none -不允許為任何索引分配任何型別的分片。

2:控制整個集群中的分片重新平衡

控制集群中的分片進行重新分配,當索引的分片分布不均勻時可設定

主要3個引數

1:cluster.routing.rebalance.enable

(動態)為特定種類的分片啟用或禁用重新平衡:

all -(預設)允許所有型別的分片進行分片平衡。

primaries -僅允許對主要分片進行分片平衡。

replicas -僅允許對副本分片進行分片平衡。

none -任何索引都不允許任何形式的分片平衡。

2:cluster.routing.allocation.allow_rebalance

(動態)指定何時允許分片重新平衡:

always -始終允許重新平衡。

indices_primaries_active -僅在分配集群中的所有主節點時。

indices_all_active -(預設)僅在分配集群中的所有分片(主和副本)時。

3:cluster.routing.allocation.cluster_concurrent_rebalance

(動態)允許控制在集群範圍內允許多少併發分片重新平衡。預設為2。請注意,由於群集中的不平衡,

此設定僅控制併發碎片重定位的數量。由於設定過濾或強制感知,此設定不限制碎片重定位

實際使用,處理未分配的分片,有些分片的狀態是unassigned

(動態)預設為true。設定為false禁用磁碟分配決定器。

cluster.routing.allocation.disk.watermark.low

(動態)控制磁碟使用率的低水位線。它的預設值為85%,這意味著elasticsearch不會將碎片分配給使用了超過85%磁碟的節點。如果可用空間少於指定的數量(500mb),還可以將其設定為絕對位元組值(例如500mb),以防止elasticsearch分配碎片。此設定對新建立的索引的主碎片沒有影響,但是會阻止分配它們的副本。

可以使用集群級分片分配過濾器來控制elasticsearch從任何索引分配分片的位置

設定引數

cluster.routing.allocation.include.

:(動態)將分片分配給其節點至少具有乙個逗號分隔值的節點。

cluster.routing.allocation.require.

:(動態)僅將分片分配給具有所有逗號分隔值的節點。

cluster.routing.allocation.exclude.

:(動態)請勿將分片分配給具有任何逗號分隔值的節點

過濾器使用:比如停止向某台伺服器分布分片,支援萬用字元*

put _cluster / settings 

}

單台伺服器所分配的分片限制,預設1000,則集群=1000*n臺伺服器

cluster.max_shards_per_node:控制每個資料節點在集群中允許的分片數量,數量計算包括主副本和未分配的分片,但是不包括關閉和刪除的索引分片。

字段資料快取主要在對字段進行排序或計算聚合時使用。它將所有字段值載入到記憶體中,以提供對這些值的基於文件的快速訪問

indices.fielddata.cache.size:(靜態)字段資料快取的最大大小(例如30%,節點堆空間的最大大小)或絕對值例如12gb

索引緩衝區用於儲存新索引的文件。填滿後,緩衝區中的文件將寫入磁碟上的某個段。它在節點上的所有分片之間劃分。

以下設定是靜態的,並且必須在集群中的每個資料節點上進行配置:

indices.memory.index_buffer_size

(靜態)接受百分比或位元組大小的值。預設為10

%,表示10

%分配給節點的總堆中的堆將用作所有分片之間共享的索引緩衝區大小。

indices.memory.min_index_buffer_size

(靜態)如果將index_buffer_size百分比指定為,則此設定可用於指定絕對最小值。預設為48mb。

indices.memory.max_index_buffer_size

(靜態)如果將index_buffer_size百分比指定為,則此設定可用於指定絕對最大值。預設為無界。

執行緒池設定有get,write,search等執行緒池的設定,一般是根據伺服器的核數計算出來的,不需要手動更改。

of allocated processors:伺服器核數

get:獲取操作。執行緒池型別fixed 的大小為# of allocated processors,queue_size為1000

write

於單文件索引/刪除/更新和批量請求。執行緒池型別fixed,佇列大小queue_size為10000(7.9版本以前為1000,經常會寫不過啦),執行緒併發數of allocated processors

不過也可以通過覆蓋處理器數量進行改變伺服器核數的設定,若集群識別核數錯誤時可以進行顯示指定

node.processor

path.data設定可以被設定為多條路徑,在這種情況下,所有的路徑將被用於儲存資料(雖然屬於單個碎片檔案將全部儲存相同的資料路徑上),比如多磁碟多路徑

path.logs:日誌儲存路徑

通過識別cluster.name。發現新加入集群的其他伺服器,elasticsearch。所以不同的集群名字要區分

xmx和xms占用不超過物理記憶體50%且不超過32g

elasticsearch可用的堆越多,它可用於其內部快取的記憶體就越多

修改系統檔案:vi /etc/sysctl.conf

新增

vm.max_map_count=655360
儲存退出:執行 sysctl -p 使配置生效

也可使用如下命令臨時修改,生產不建議

sudo su  

ulimit -n 65535

su elasticsearch

CDH集群安裝配置(四) mysql 的安裝

安裝mysql,並且建立相關的表 只需要在chd1上面安裝而且需要root許可權 1.1 rpm qa grep mariadb mariadb libs 5.5.41 2 el7 0.x86 64 rpm e nodeps mariadb libs 5.5.41 2.el7 0.x86 64 yu...

mysql集群安裝 配置

mysql cluster 是mysql適合於分布式計算環境的高實用 高冗餘版本。它採用了ndb cluster 儲存引擎,允許在1個 cluster 中執行多個mysql伺服器。在myql 5.0及以上的二進位制版本中 以及與最新的linux版本相容的rpm中提供了該儲存引擎。要想獲得mysql ...

redis 集群安裝配置

朋友手稿 一 安裝目標 假設2臺物理伺服器的記憶體各只有256g,而redis集群要求最少3個主節點。僅有主節點。規劃為每台伺服器上裝2個redis節點,每個節點最大支援96g,2台機共4個redis主節點,合計384g記憶體。因記憶體較少,規劃沒有配置從節點。4個redis節點,每個節點使用單獨的...