Flink Flink環境搭建

2021-10-14 10:15:18 字數 1960 閱讀 1580

本篇文章以最簡單的方式快速搭建flink 1.12.0環境,供開發學習使用。

flink版本列表:

flink-1.12.0/flink-1.12.0-bin-scala_2.12.tgz

wget flink-1.12.0/flink-1.12.0-bin-scala_2.12.tgz
tar -xzf flink-1.12.0-bin-scala_2.12.tgz
啟動:

./bin/start-cluster.sh
檢查是否啟動成功:

[root@localhost flink-1.12.0]# jps -l | grep flink

3922 org.apache.flink.runtime.taskexecutor.taskmanagerrunner

3615 org.apache.flink.runtime.entrypoint.standalonesessionclusterentrypoint

檢查web ui是否啟動成功:

使用flink自帶的word count程式實現單詞計數,如果不輸入任何引數(輸入檔案路徑和輸出檔案路徑),則使用程式內建的資料:

executing wordcount example with default input data set.

use --input to specify file input.

job has been submitted with jobid d1e96fab40dec4fffefa8b96674bd0ea

program execution finished

job with jobid d1e96fab40dec4fffefa8b96674bd0ea has finished.

job runtime: 168 ms

檢視結果:

more ../output/wordcount-result
a 5

action 1

after 1

against 1

all 2

and 12

arms 1

arrows 1

......

安裝netcat:

yum install -y nc
監聽tcp埠,傳送資料:

nc -l  8881
啟動流處理示例程式:

[root@localhost flink-1.12.0]# ./bin/flink run ./examples/streaming/socketwindowwordcount.jar --port 8881

job has been submitted with jobid 41831fee1253dc7cd4a1e4dfee357916

傳送資料:

aa bb bb cc
控制台輸出結果::

cc : 1

aa : 1

cc : 1

bb : 2

內建的web-ui,預設埠為8081:

我們可以通過這也介面來提交和監控flink程式,以及檢視執行日誌等等。

Flink Flink調優指南

jobmanger.rpc.address jm的位址。jobmanager.rpc.port jm的埠號。jobmanager.heap.mb jm的堆記憶體大小。不建議配的太大,1 2g足夠。taskmanager.numberoftaskslots slot數量。在yarn模式使用的時候會受到...

Flink Flink的應用場景

目錄 事件驅動型應用 資料分析型應用 資料管道型應用 flink 功能強大,支援開發和執行多種不同種類的應用程式。它的主要特性包括 批流一體化 精密的狀態管理 事件時間支援以及精確一次的狀態一致性保障等。事件驅動型應用是一類具有狀態的應用,它從乙個或多個事件流提取資料,並根據到來的事件觸發計算 狀態...

LAMP環境搭建 php環境搭建

yum groupinstall development tools y yum groupinstall desktop platform development y yum install cmake pcre devel ncurses devel openssl devel libcurl ...