Yarn模式部署Flink集群
创始人
2024-02-19 23:14:56

一、环境准备

1、准备两台服务器server115 和server116安装好hadoop环境,其中server115配置hdfs的namenode,在server116上配置hdfs的SecondaryNameNode,server116配置yarn的 ResourceManager,启动hadoop集群

2、配置hadoop环境变量

   vim  /etc/profile


export HADOOP_CLASSPATH=`hadoop classpath`

二、配置FLink集群环境

关于flink的架构图

 部署配置:

服务器server115server116
Flink组件taskmangerjobmanager   taskmanager

(1) 进入server115节点,编辑flink的配置文件flink-conf.yml

# JobManager runs.
jobmanager.rpc.address: server116
jobmanager.bind-host: server116
taskmanager.bind-host: server115
taskmanager.host: server115
rest.port: 8081
rest.address: server116

(2) 进入server116节点,编辑flink的配置文件flink-conf.yml

# JobManager runs.
jobmanager.rpc.address: server116
jobmanager.bind-host: server116
taskmanager.bind-host: server116
taskmanager.host:server116
rest.port: 8081
rest.address: server116

(3)在server115、server116的节点workers配置

server115
server116

三、启动flink

 ./flink/bin/yarn-session.sh    -d

 JobManager Web Interface: http://server116:40617

四、任务测试

  1、 开启一个tcp服务

nc  -l  -p  9999

 2、编写java侦听代码

public class SocketFlinkExecute {public static void main(String[] args) {StreamExecutionEnvironment env = StreamExecutionEnvironment.createRemoteEnvironment("server116", 40617);DataStream> dataStream = env.socketTextStream("server116", 9999).flatMap(new MySplitter()).keyBy(value -> value.f0).window(TumblingProcessingTimeWindows.of(Time.seconds(5))).sum(1);dataStream.print();try {env.execute("Window WordCount Remote");} catch (Exception e) {e.printStackTrace();}}public static class MySplitter implements FlatMapFunction> {@Overridepublic void flatMap(String sentence, Collector> out) throws Exception {for (String word: sentence.split(" ")) {out.collect(new Tuple2(word, 1));}}}}

运行程序,tcp服务端发送文本数据

 

 

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
demo什么意思 demo版本... 618快到了,各位的小金库大概也在准备开闸放水了吧。没有小金库的,也该向老婆撒娇卖萌服个软了,一切只...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗?塑料袋放久了会长猫哦!要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...