Kafka 自定義分割槽的生產者

2021-10-02 18:08:06 字數 538 閱讀 4713

1,實現 介面 patitioner

public class kafkapartitioner implements partitioner 

@override

public void close()

@override

public void configure(mapmap)

}

2, 預設的分割槽器(defaultpartitioner),首先獲取集群中的分割槽

3, 自定義的 producer 使用自定義的分割槽 函式,如何關聯?

propsmap.put("partitioner.class","kafkapartitioner ");
4,api 同步傳送生產者

//人為的同步傳送 kafka

producer.send(new producerrecord(topic, msg)).get();

..............

producer.close

kafka生產者分割槽策略

kafka生產者 分割槽策略 分割槽的原因 1 方便在集群中擴充套件,每個partition可以通過調整以適應它所在的機器,而乙個topic又 可以有多個partition組成,因此整個集群就可以適應任意大小的資料了 2 可以提高併發,因為可以以partition為單位讀寫了。分割槽的原則 1 指明...

Kafka自定義分割槽器

kafka通過生產者kafkaproducer的send 方法將訊息傳送到broker中,但在傳送過程中需要經過 interceptor 序列化器 serializer 和分割槽器 partitioner 的一系列作用之後才能被真正地發往broker。訊息在經過序列化後需要確定它發往的分割槽,如果訊...

Kafka生產者與消費者分割槽策略

分割槽的目的在於可以提高併發,並在可在集群中擴充套件以適應不同大小的資料 producer傳送的資料會被封裝成producer recorder物件 在生成producer recorder物件時指明partition的情況下,直接進入對應的partition分割槽 沒有指明partition值,但...