canal指定binlog位點啟動

2021-10-17 01:14:54 字數 2262 閱讀 5193

canal指定binlog位點啟動

1. canal基於集群模式搭建,所用版本為帶有視覺化頁面的canal-1.1.4,包結構如下

canal-adapter

canal-admin

canal-server

2.抽取例項主要配置canal-server,包結構如下
cd canal-server/

binconf

liblogs

#conf目錄

[canal-server]$ cd conf/

canal_local.properties

canal.properties

example

logback.xml

metrics

spring

#spring目錄

[conf]$ cd spring/

base-instance.xml

default-instance.xml

file-instance.xml

group-instance.xml

memory-instance.xml

tsdb

3.集群模式下每乙個抽取例項所記錄的binlog位點資訊存在與zookeeper中,使用的配置檔案為default-instance.xml

a.canal.properties

canal.instance.global.spring.xml = classpath:spring/default-instance.xml
b.instance.properties 中binlog位點資訊配置如下
# position info

canal.instance.master.address=127.0.0.1:3306

# binlog日誌檔名

canal.instance.master.journal.name=

# binlog具體位點

canal.instance.master.position=

# binlog指定時間戳

canal.instance.master.timestamp=

4.mysql中找到需要指定的日誌位點資訊
-- 1.檢視mysql binlog 日誌:

show binary logs ;

-- 2.檢視某一binlog具體位點資訊:

show binlog events in 'mysql-bin.000001';

-- 3.檢視當前binlog最新位點:

show master status;

5.定位具體binlog位點有兩種方式

a.通過name和position確定

# binlog日誌檔名

canal.instance.master.journal.name=

'mysql-bin.000001'

# binlog具體位點

canal.instance.master.position=100

b.通過時間戳指定
# binlog指定時間戳

canal.instance.master.timestamp=1611072000000

c.當使用以上方式指定位點啟動時需要刪除zookeeper中儲存的binlog位點資訊(如canal為本地模式則操作具體例項下的meta.dat檔案)
# 檢視位點資訊 example 為具體抽取例項的檔名

get /otter/canal/destinations/example/1001/cursor

},"postion":

}# 刪除位點資訊

delete /otter/canal/destinations/example/1001/cursor

d.如果指定name與position啟動,可以直接修改zookeeper中的位點資訊無需修改instance.properties
set /otter/canal/destinations/example/1001/cursor  

},"postion":

}

6.需要刪除zookeeper中儲存的binlog位點資訊(canal為本地模式則操作具體例項下的meta.dat檔案)是因為canal例項在啟動時先會查詢上一次成功儲存的位點資訊,如果存在則不會讀取instance.properties,當不存在時才會讀取instance.properties中相關的binlog位點資訊

canal 從指定binlog日誌檔案及定位中讀取

前言 因為我們讀取的mysql資料庫是華為雲例項資料庫,且設定了binlog日誌儲存最多為30分鐘 在我們的canal 消費端停止時間大於30分鐘後再次啟動,canal或從之前配置檔案中載入binlog讀取位置,但此時該binlog已經不存在了,則會導致報錯以及後續無法繼續讀取監控的資料庫的binl...

通過BINLOG日誌查詢指定日期的SQL語句

通過binlog日誌查詢指定日期的sql語句 在95資料庫伺服器查詢posts.post thread的postid 1652971,在 2013 02 24 日執行的對資料有修改的sql語句 www.2cto.com grep datadir etc mysql my.cnf datadir ss...

位運算 知識點

1.按位與 位運算實質是將參與運算的數字轉換為二進位制,而後逐位對應進行運算。按位與運算為 兩位全為1,結果為1,即1 1 1,1 0 0,0 1 0,0 0 0。例如51 5 00110011 00000101 00000001 51 5 1 特殊用法 1 與0相與可清零。2 與1相與可保留原值,...