kafka的流計算框架

2021-09-05 01:20:23 字數 606 閱讀 1731

producer: 傳送例如  aa-zz

consumer:收到zz

通過-切分得到後面的,如果沒有-就正常輸出

public class logprocessor implements processor

//具體業務邏輯

public void process(byte key, byte value)

//輸出資料

context.forward(key,line.getbytes());

}//釋放資源

public void close()

}

public static void main(string args)

},"source").addsink("sink",twotopic,"processor");

//輸出

kafkastreams ka = new kafkastreams(builder,prop); //可以是builder,s,我試過,好像過時了.....

ka.start();

}} kafka可以做流計算,但是不適合

kafka流處理平台

一 kafka有三個特性 1 可以發布和訂閱資料的流,類似於乙個訊息佇列 2 資料流儲存的平台並具備錯誤容忍 3 當資料產生時就可以對訊息進行處理。面向資料流的生產 轉換 儲存 消費的流資料 二 基本概念 producer 訊息和資料的生產者,向kafka的乙個topic發布訊息的程序 服務 con...

流計算框架 Flink 與 Storm 的效能對比

apache flink 和 apache storm 是當前業界廣泛使用的兩個分布式實時計算框架。其中 apache storm 以下簡稱 storm 在美團點評實時計算業務中已有較為成熟的運用 可參考 storm 的可靠性保證測試 有管理平台 常用 api 和相應的文件,大量實時作業基於 sto...

kafka資料處理框架

kafka框架 高吞吐量分布式的訊息發布和訂閱系統,提供乙個分布式的,可劃分的,冗餘備份的永續性的日誌服務。主要用於處理活躍的流式資料。在大資料系統中,經常碰到乙個問題,整個大資料是由各個子系統組成,且資料需要在各個子系統中高效能,低延時的不停流轉。這時候kafka相當於起到了整個大資料系統的資料匯...