StreamingPro支援Flink的流式計算了

2021-09-23 18:02:20 字數 981 閱讀 1049

前言

有的時候我們只要按條處理,追求實時性而非吞吐量的時候,類似storm的模式就比較好了。spark 在流式處理一直缺乏改進,而flink在流式方面做得很棒,兩者高層的api也是互相借鑑,容易形成統一的感官,所以決定讓streamingpro適配flink,讓其作為streamingpro底層的流式引擎。

streamingpro自身設計之初就是為了支援多引擎的,所以改造成本很低,昨天花了一下午,晚上加了會班就重構完了。這次增強可以讓我司的流式引擎有了新的選擇。

準備工作

1.2.0版本的。

啟動flink

進入flink安裝目錄執行如下命令:

./bin/start-local.sh
之後寫乙個flink.json檔案:

]},]

},]}],

"configparams":

}}

目前source 只支援 kafka/socket ,sink則只支援console和csv。準備好這個檔案你就可以提交任務了:

-streaming.name god \

-streaming.platform flink_streaming \

-streaming.job.file.path file:///users/allwefantasy/streamingpro/flink.json

然後皆可以了。

你也可以到localhost:8081 頁面上提交你的任務。

後面的話

flink目前在流式計算上對sql支援有限,暫時還不支援join,agg等行為操作,這個和spark相比較而言差距還比較大。不過我們很快會將script暴露出來,可以讓大家直接進行程式設計,主要利用其table api。

StreamingPro 簡化流式計算配置

前言 前些天可以讓批處理的配置變得更優雅 streamingpro 支援多輸入,多輸出配置,現在流式計算也支援相同的配置方式了。配置 首先需要配置源 我們配置了乙個kafka流,乙個普通的csv檔案。目前streamingpro只允許配置乙個kafka流,但是支援多個topic,按逗號分隔即可。你可...

Microsoft重申對F 的支援

microsoft的mads torgersen和philip carter 分別任c 和f 的專案經理 共同發布了乙個意在推進f 使用的部落格帖子。帖子是build 2017上f 演講的後續完善,其中討論了microsoft是如何去除在採納f 中的障礙,以及 visual studio 2017中...

Microsoft重申對F 的支援

microsoft的mads torgersen和philip carter 分別任c 和f 的專案經理 共同發布了乙個意在推進f 使用的部落格帖子。帖子是build 2017上f 演講的後續完善,其中討論了microsoft是如何去除在採納f 中的障礙,以及 visual studio 2017中...