Kafka重設訊息位移

2021-10-02 02:46:00 字數 475 閱讀 5627

為什麼重設位移?

開發中有時候會碰到,訊息消費端出現故障統計錯誤,或者訊息格式出現問題,需要修改消費者邏輯重新消費的情況。重設訊息位移可以使消費者重新讀取佇列中的訊息。

重設位移策略

緯度策略含義

位移緯度

earliest

位移到佇列未過期的最早訊息

latest

位移到佇列未過期的最新訊息

current

位移到佇列已消費到的最新訊息

specified-offset

位移到指定的offset處

shift-by-n

位移到當前位移的前/後n處

時間緯度

datetime

位移到某個時間點

duration

位移到當前時間前指定間隔處

設定方法

Kafka學習之旅 十五 重設消費者組位移

簡介 相信大家也遇到過需要重某個位置或者時間點重新消費的情況那麼本篇講下重新設定消費組位移。kafka 乙個比較有特色的設計是由於它是基於日誌結構 log based 的訊息引擎,消費者在消費訊息時,僅僅是從磁碟檔案上讀取資料而已,是唯讀的操作,因此消費者不會刪除訊息資料。同時,由於位移資料是由消費...

Kafka 位移主題詳解

建立時機 提交策略 刪除過期訊息優點 缺點kafka中的內部位移主題是 consumer offsets。offset訊息 簡單的可以理解為 key value 註冊訊息 用來註冊 儲存 consumer group資訊的訊息 墓碑訊息 作用用於刪除 group 過期位移甚至是刪除 group 的訊...

Kafka 疑問之offset位移

1.offset位移 不要搞混,offset位移會存放在2個地方 consumer offsets分割槽位移主題中,和consumer端。consumer offsets中 consumer group將位移資料儲存在broker partition端的內部主題中,consumer.poll時,拉取...