CDH基礎配置

2021-10-14 08:41:50 字數 3727 閱讀 7910

一、基礎環境搭建

5. 關閉防火牆

檢視防火牆狀態: systemctl status firewalld.service

綠的running表示防火牆開啟

執行關閉命令: systemctl stop firewalld.service

再次執行檢視防火牆命令:systemctl status firewalld.service

執行開機禁用防火牆自啟命令  : systemctl disable firewalld.service

完成6. 關閉selinux(在配置檔案中第一次設定時需要重啟伺服器)

setenforce 0

vim /etc/selinux/config

將selinux=enforcing改為selinux=disabled

reboot

7. 安裝httpd服務

yum install httpd -y(已安裝過)

systemctl start httpd.service 啟動httpd服務

cd /var/www/html/

mkdir -p cm6/6.2.1/redhat7/yum/rpms/x86_64/

上傳cmd6中的檔案到此目錄,上傳allkeys.asc檔案到/var/www/html/cm6/6.2.1/目錄下

訪問測試:

8. 生成repodata目錄(便於通過yum源找到檔案)

cd /var/www/html/cm6/6.2.1/redhat7/yum

createrepo .

9. 配置本地yum源

cd /etc/yum.repos.d/

vim cloudera-manager.repo

填寫:[cloudera-manager]

name=cloudera manager

baseurl=

gpgcheck=0

enabled=1

執行命令:

yum clean all

yum list | grep cloudera

10. 建立cloudera-scm使用者(centos7要求必須有,centos6沒有要求)

useradd cloudera-scm

passwd cloudera-scm

test123456

--免金鑰登入

echo "cloudera-scm all=(root)nopasswd:all" >> /etc/sudoers

su - cloudera-scm

exit

第二步:mysql設定

啟動:systemctl start mysqld.service

檢視運**況:

systemctl status mysqld.service

第三步:登入mysql

檢視mysql密碼

grep "password" /var/log/mysqld.log

登入mysql

mysql -uroot -p

第四步:修改密碼

取消mysql密碼規範限制(正式環境保留強密碼)

set global validate_password_policy=0;

set global validate_password_length=1;

重設密碼

alter user 'root'@'localhost' identified by '123456';

flush privileges;

第五步:解除安裝repo包

此時還有乙個問題,因為安裝了yum repository,以後每次yum都會自動更新,耗費時間,所以解除安裝掉:

yum -y remove mysql57-community-release-el7-10.noarch

第六步:安裝mysql(後續作為元資料庫)

create database scm default character set utf8;

grant all privileges on *.* to 'root'@'%' identified by '123456' with grant option;

grant all privileges on *.* to 'root'@'localhost' identified by '123456' with grant option;

grant all privileges on *.* to 'root'@'hadoop01' identified by '123456' with grant option;

flush privileges;

二、配置server和agent

1、安裝server服務

yum install -y oracle-j2sdk1.8-1.8.0+update181-1.x86_64

yum install -y enterprise-debuginfo-6.2.1-1426065.el7.x86_64

yum install -y cloudera-manager-server-6.2.1-1426065.el7.x86_64

yum install -y cloudera-manager-server-db-2-6.2.1-1426065.el7.x86_64

注意:如果在yum源中新增了新的包時:

(1).需要刪除之前的repodata檔案後,重新生成;

(2).重啟httpd服務

(3).清除yum快取 yum clean all

2、設定元資料庫為mysql

設定元資料庫為mysql--前提是安裝clouderamanager server服務

/opt/cloudera/cm/schema/scm_prepare_database.sh -h localhost mysql scm root 123456

舊版本:/usr/share/cmf/schema/scm_prepare_database.sh -h localhost mysql scm root 123456

提示error jdbc driver com.mysql.jdbc.driver not found.

需要上傳mysql驅動包jar到/opt/cloudera/cm/lib目錄下。

檢視:cat /etc/cloudera-scm-server/db.properties

3、啟動server服務程序(檢視7180埠)

systemctl start cloudera-scm-server

檢視啟動日誌:

tail -f /var/log/cloudera-scm-server/cloudera-scm-server.log

檢視啟動狀態:

systemctl status cloudera-scm-server

netstat -an | grep 7180

4、配置本地parcel包

注意:必須要在資料庫初始化後,將parcel檔案放置到/opt/cloudera/parcel-repo目錄中

4.1 上傳cdh6的parcel等檔案到opt/cloudera/parcel-repo

4.2 重新命名金鑰檔名

mv cdh-6.2.1-1.cdh6.2.1.p0.1425774-el7.parcel.sha1 cdh-6.2.1-1.cdh6.2.1.p0.1425774-el7.parcel.sha

5、開始安裝

訪問server:

賬號密碼均為admin

設定parcel 更新頻率為1分鐘

CDH中Kafka配置問題

在chd5.16.2中安裝 kafka 2.1.1 1.2.1.1.p0.18,環境配置結束後測試kafka是否搭建成功 遇到以下問題 1.kafka建立生產者後用消費者消費時 bootstrap server 與 zookeeper的區別 在控制台上消費者命令不能 bootstrap server...

cdh 簡介 CDH 1 CDH簡介

1 apache hadoop 不足之處 版本管理混亂 部署過程繁瑣 公升級過程複雜 相容性差 安全性低 2 hadoop 發行版 apache hadoop cloudera s distribution including apache hadoop cdh hortonworks data p...

cdh 簡介 CDH 1 CDH簡介

1 apache hadoop 不足之處 版本管理混亂 部署過程繁瑣 公升級過程複雜 相容性差 安全性低 2 hadoop 發行版 apache hadoop cloudera s distribution including apache hadoop cdh hortonworks data p...