Flink官网:Operations | Apache Flink

Flink和Kafka对应关系

访问Maven仓库:https://mvnrepository.com/

 查询flink-connector-kafka

 本文flink使用版本为:flink-1.15.4-bin-scala_2.12.tgz

 所以对应Kafka版本为:

本文使用版本为:

Flink下载地址(全量版本均可下载:Downloads | Apache Flink

flink-1.15.4-bin-scala_2.12.tgz    国内地址:Index of /apache/flink/flink-1.15.4

flink-1.15.4-bin-scala_2.12.tgz    国外地址:Index of /flink/flink-1.15.4

 Maven链接:https://mvnrepository.com/artifact/org.apache.flink/flink-connector-kafka/1.15.4

一、部署环境安装说明

部署环境前提: CentOS7+JDK8

二、解压

本文虚拟机地址为:/usr/local/flink

tar -zxvf flink-1.15.4-bin-scala_2.12.tgz

三、修改配置文件

配置文件位于:/usr/local/flink/flink-1.15.4/conf

jobmanager.rpc.address: node01 JobManager地址
jobmanager.rpc.port: 6123 JobManagerRPC通信端口
jobmanager.heap.size: 1024m JobManager所能使用的堆内存大小
taskmanager.heap.size: 1024m TaskManager所能使用的堆内存大小
taskmanager.numberOfTaskSlots: 2 TaskManager管理的TaskSlot个数,依据当前物理机的
核心数来配置,一般预留出一部分核心(25%)给系统及其他进程使用,一个slot对应一个core。如果
core支持超线程,那么slot个数*2
rest.port: 8081 指定WebUI的访问端口   --单节点放开此选项即可

本文设置:rest.port: 8088

8081与其他服务端口有冲突

四、配置环境变量

vim /etc/profile
export FLINK_HOME=/usr/local/flink/flink-1.15.4
export PATH=$PATH:$FLINK_HOME/bin

 环境变量生效

source /etc/profile

五、启动

切换文件夹:

cd /usr/local/flink/flink-1.15.4/bin

启动:

./start-cluster.sh

停止:

./stop-cluster.sh

六、验证

 七、可视化界面

访问:http://192.168.2.128:8088/#/overview

如果访问失败:

修改配置文件:/usr/local/flink/flink-1.15.4/conf 下的flink-conf.yaml

修改为:rest.bind-address: 0.0.0.0

重新启动即可。

更多推荐