三 kylin讀寫分離集群部署

2021-09-20 10:18:29 字數 1802 閱讀 3435

1、部署圖

注意

1、在kylin服務機器上hbase shell 作為儲存hbase集群的客戶端,配置需要儲存集群的客戶端配置,cdh 的hbase配置路徑在/etc/hbase/conf下,hbase-site.xml

中不能包含hdfs的資訊,不然計算集群會使用hbase的hdfs配置,只包含zk的資訊即可

2、hadoop  的配置包含計算集群的所有配置,需要在hdfs-site.xml配置檔案中新增儲存集群的hdfs的namespasece位址,因為計算集群構建cube之後,會把結果轉換成hfile,直接複製hfile檔案到儲存集群的hdfsr

3、可以使用kylin.env.hadoop-conf-dir:指定 hadoop 配置檔案目錄,如果不指定的話,獲取環境中的 hadoop_conf_dir,但是不能指定hbase的配置檔案,因為kylin是通過hbase shell方式訪問儲存集群的hbase的

hadoopconfig目錄檔案列表

2、步驟

步驟一:分布部署hadoop(mapreduce計算集群,以下簡稱計算)集群和hbase(hdfs儲存,以下簡稱儲存)集群;兩套集群環境的hadoop核心版本要一致,分別有各自的hdfs、zookeeper等元件;

步驟二:在準備執行kylin的伺服器上,安裝和配置hadoop(計算)集群的客戶端;通過 hadoop , hdfs , hive , mapred 等命令,可以訪問計算集群上的服務和資源。

步驟三:確保hadoop(計算)集群和hbase(儲存)集群的網路互通,且無需額外驗證;可以從hadoop(計算)集群的任一節點上,拷貝檔案到hbase(儲存)集群的任一節點; 

步驟四:在準備執行kylin的伺服器上,安裝和配置hbase(儲存)集群的hbase客戶端;通過 hbase 命令,可以訪問和操作儲存集群的hbase

步驟五:確保在準備執行kylin的伺服器上,通過hdfs命令列加上hbase集群namenode位址的方式(比如hdfs dfs -ls hdfs://pro-jsz800000:8020/),可以訪問和操作儲存集群的hdfs。

步驟六:為了提公升kylin查詢響應效率,準備執行kylin的伺服器,在網路上應靠近hbase集群,以確保密集查詢時的網路低延遲;

步驟七:編輯conf/kylin.properties,設定 kylin.hbase.cluster.fs 為hbase集群hdfs的url,例如:kylin.hbase.cluster.fs=hdfs://nameservice3

步驟八:重啟kylin服務例項

一、kylin簡介

二、kylin優化

三、kylin讀寫分離部署

最重要的事情:檢驗是否有人看我的部落格,檢驗是否有人看我的部落格、檢驗是否有人看我的部落格

Kylin 讀寫分離實戰

計算集群 集群1 hadoop hive,儲存集群 集群2 hadoop,hive hbase 需要core site.xml,hbase site.xml,hdfs site.xml,hive site.xml,mapred site.xml,yarn site.xml hbase site.xm...

kylin集群部署以及踩坑

1 kylin啟動命令異常 hbase common lib not found 原因 疑似hbase版本與kylin版本相容問題。kylin啟動時通過 hbase classpath 命令嘗試獲取hbase common庫的路徑,而hbase並不一定返回hbase common庫的路徑。對策 vi...

mysql讀寫分離(三) 讀寫分離實現

現在的mysql讀寫分離方案有很多,在這裡筆者列舉出幾種自己使用過的方案 1.spring實現route不同的資料來源,來達到讀寫分離的目的。主要原理是根據service或者dao方法做切面,然後根據規範方法名字首來切換不同的資料來源,實現讀寫分離,好處,速度快,支援事務,但是缺點,是不好管理 2....