大資料集群搭建基本配置說明

2021-08-20 06:27:50 字數 1520 閱讀 4800

大資料發展愈演愈烈,為了快速跟上技術發展的步伐,最近在學習大資料的相關技術,當然第一步,還是要學習大資料集群的搭建,將自己的一些小經驗分享給大家,希望對你們有幫助,當然也感謝在我學習的過程,提供資料和幫助的科多大資料的餘老師,話不多說,先上圖

偽分布:只有一台主要用搭建偽分布式

準備三颱,用於集群搭建

快照

轉殖

轉殖出來的主機,它們的主機名、ip、mac位址都是一樣的。所以要進行一些基本配置。修改主機名、ip、mac位址(vm中進行修改)

mac位址

修改主機名和ip位址

主機名:hostnamectlset-hostname keduox01

進入到檔案中修改

讓網絡卡重啟:cd/etc/init.d

./network restart

100要和自已做免密

100需要將自己的公鑰傳送到101上

101拿到公鑰之後,需要建立.ssh目錄,所以在101上需要執行一次生成免密的檔案

ssh-keygen -t dsa -p '' -f ~/.ssh/id_dsa

在將傳送過的公鑰加入直接的檔案中

cat /tmp/id_dsa.pub >> ~/.ssh/authorized_keys

第二種方法:ssh-copy-id -i 192.168.200.102

讓三颱主機可以通過主機名可以互相訪問

在/etc/hosts目錄下,將ip與主機名進行關聯配置,第乙個關聯是一行。

可以一台一台的配置,建議使用scp的方式,將/etc/hosts的內容傳送到其它2臺主機

scp /etc/hosts root@keduox03:/etc/hosts

大資料學習 Storm集群搭建

安裝storm之前要安裝zookeeper 一.安裝storm步驟 2.解壓安裝包 3.修改配置檔案 修改環境變數 etc profile export path bin path 指定storm使用的zk集群 storm.zookeeper.servers mini1 mini2 mini3 指定...

cratedb 集群搭建說明

此為搭建說明,實際上搭建過es 集群的都是可以的,和es 基本一樣 配置檔案 crate.yaml 如果省略會自動生產,必須唯一 node.name node1 transport.tcp.port 4350 4360 可以使用dns 或者直接配置ip port 模式 discovery.zen.p...

大資料平台搭建 kafka集群的搭建

本系列文章主要闡述大資料計算平台相關框架的搭建,包括如下內容 kafka是乙個分布式 分割槽的 多副本的 多訂閱者的訊息佇列,以高吞吐量著稱,主要用於實時資料的傳輸和處理,總體架構如下 本文環境列表 直接在伺服器10.20.112.59上解壓 cd tar zxvf kafka 2.11 0.10....