RDS資料訂閱服務使用說明

2021-09-19 20:26:05 字數 2069 閱讀 7912

rds資料訂閱服務主要解決的rds上的資料同步到hbase,使用者可以在hbase上查到rds的資料,滿足大資料查詢分析的需求

歷史資料沉澱

rds歷史資料遷移

rds實時增量資料遷移

rds歷史資料遷移

客戶自行使用開源的工具完成資料的遷移

rds實時增量資料遷移

客戶 - 開通dts訂閱通道

客戶 - dts通道上設定延遲報警

客戶 - 獲取dts通道id、access key、access key secret、regionid等資訊

客戶 - 申請一台ecs並且繫結公網,ecs和雲hbase屬於同乙個vpc,能夠打通和hbase集群的網路

雲hbase值班同學 - 協助部署bds遷移服務,並對客戶提供遷移服務的互動介面

客戶 - 在hbase裡面建立表資訊

客戶 - 錄入hbase集群資訊、dts通道資訊,提交遷移任務

hbase版本:1.x、2.x

rds版本:訂閱通道的限制

錄入hbase集群資訊

hdfs ha 的填寫例子

集群名:***xx

hdfs uri:hdfs:

hbase在hdfs根目錄:/hbase

dfs.nameservices: hbase-cluster

clusterkey:  100.81.140.116,100.81.140.120,100.81.140.122:2185:/hbase

hdfs 非ha 的填寫例子

集群名:***xx

hdfs uri:hdfs:

hbase在hdfs根目錄:/hbase

dfs.nameservices:

clusterkey: 100.81.140.116,100.81.140.120,100.81.140.122:2185:/hbase

dts增量資料訂閱

[

, }"

},],

"src_columns": [

"id"

],"expression": "}"}}]

引數

描述必選

定義rowkey的計算方式,src_columns指定用源表哪些列計算rowkey,expression是可選的計算表示式,該計算表示式為jtwig語法,當使用者需要對源表的列進行簡單計算得到rowkey時可以用

是hbase_table_name

目的hbase表名

是rds_table_name

rds的表名

是定義源到目的表的轉換對映資訊,name為hbase列名,需要注意帶上列組名,src_columns為源表的列,和rowkey的定義一樣,也支援expression表示式

是skip_delete

是否跳過刪除操作,true為跳過,false為不跳過

否,預設為true,即跳過刪除語句

}"

}

操作

支援備註

insert

是對應hbase的put

update

是對應hbase的put

delete

是使用者可以配置是否同步源端的delete,預設不同步

操作支援備註

create table

否使用者在mysql新建表後,如果需要同步到hbase,需自行在hbase建立對應的表

drop table

否alter table add column

是同步到預設列組,如果沒有預設列組則忽略同步該列

alter table drop column

否alter table rename column

是新資料同步到預設列組,如果沒有預設列組則忽略同步該列,老資料不變

alter table modify column

是hbase無型別,所以源表列型別變更無影響

所有索引ddl

svn伺服器安裝使用說明

由於專案中經常需要用到svn,下面就簡單介紹一下如何搭建svn伺服器。目錄 一 在windows上安裝與配置 1.建立subversion資料庫 2.修改使用者許可權 3.啟動方式 4.匯入 二 在linux上安裝與配置 1.如何在linux上編譯svn 2.啟動方式 當前版本subversion支...

Nginx伺服器集群簡單使用說明

模組引數參考 1.新建兩個html靜態頁面並部署到同乙個iis伺服器上,只是在iis上建立了兩個頁面,讓兩個頁面稍微有一點不同以作區分。實際成產環境中,通常是把相同的web專案部署在不同的iis伺服器上面 2.修改配置檔案nginx.conf 新增如下 伺服器的集群 upstream netitte...

postgres資料庫相關使用說明

預設的資料庫和使用者名稱是postgres 登入psql u postgres d postgres ctrl c q 退出資料庫互動模式 建立新使用者 gwp createuser u postgres p d gwp 輸入密碼 mxq123 使用新使用者gwp建立乙個資料庫gwp created...