瑞客论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 14580|回复: 110

2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师

  [复制链接]

20

主题

286

帖子

2847

积分

金牌会员

Rank: 6Rank: 6

威望
233
贡献
288
热心值
0
金币
2326
注册时间
2020-11-28
发表于 2021-2-5 09:45 | 显示全部楼层 |阅读模式
游客,如果您要查看本帖隐藏内容请回复

针对Flink 1.12.0版本的核心模块进行源码级讲解,从任务提交流程、通讯过程、Task调度、内存模型四大方面入手,庖丁解牛逐行分析源码,手术刀级别剖析Flink内核架构!
1
任务提交流程模块
从任务提交脚本入手,探本溯源,找到程序执行入口,继而解析输入参数、选择创建客户端类型、获取有效配置、调用用户代码的main方法、调用执行环境的excute方法,直至最后进入任务提交流程,详细分析了Flink各组件启动顺序、资源申请流程、资源注册以及分配流程。分析上千行源码,层层追踪,并给出源码关键注释。
2
通讯过程模块
从Akka与Actor模型入手,以点带面,一步步引出Flink的整体组件通信全景。对Flink中RPC框架涉及的主要类RpcGateway、RpcEndpoint、RpcService、RpcServer、AkkaRpcActor进行仔细拆解,之后通过代码的跳转详细分析了RPC的交互过程。
3
Task调度模块
详细讲解Flink四层执行图StreamGraph、JobGraph、ExecutionGraph、物理执行图,分别如何生成转换,均配详尽源码讲解,并深入讲解了Flink的Task调度,分别从源码层面讲解了几个调度的重要组件,调度器、调度策略和调度模式。
内存模型模块
详细讲解Flink自主的内存管理模型,如何有效避免了JVM内存管理的不足之处,分别讲解了JobManager内存模型、TaskManager内存模型、源码分析内存分配过程。并讲解了内存数据结构、内存管理器和网络传输中的内存管理等内容。
搭配左元老师的mini flink效果更好:https://www.github.com/confucianzuoyuan/mini-flink
回复

使用道具 举报

0

主题

5597

帖子

1万

积分

论坛元老

Rank: 8Rank: 8

威望
6614
贡献
5566
热心值
0
金币
963
注册时间
2019-4-11
发表于 2021-2-5 09:54 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

1

主题

1087

帖子

1万

积分

永久会员

Rank: 8Rank: 8

威望
5106
贡献
4997
热心值
0
金币
429
注册时间
2019-10-11

一年荣誉奖章

发表于 2021-2-5 10:11 | 显示全部楼层
Flink内核源码解析
回复

使用道具 举报

1

主题

184

帖子

947

积分

高级会员

Rank: 4

威望
0
贡献
0
热心值
0
金币
947
注册时间
2019-12-31
发表于 2021-2-5 10:14 | 显示全部楼层
啊啊啊啊啊啊啊啊啊啊啊啊
回复

使用道具 举报

1

主题

2418

帖子

9843

积分

论坛元老

Rank: 8Rank: 8

威望
5242
贡献
4538
热心值
0
金币
63
注册时间
2020-6-18
发表于 2021-2-5 10:16 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

0

主题

1328

帖子

8883

积分

论坛元老

Rank: 8Rank: 8

威望
3441
贡献
4481
热心值
0
金币
961
注册时间
2019-6-18
发表于 2021-2-5 10:18 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

0

主题

268

帖子

792

积分

高级会员

Rank: 4

威望
23
贡献
30
热心值
0
金币
739
注册时间
2020-6-26
发表于 2021-2-5 10:20 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

7

主题

4458

帖子

1万

积分

论坛元老

Rank: 8Rank: 8

威望
6194
贡献
4728
热心值
0
金币
5336
注册时间
2019-4-12
发表于 2021-2-5 10:34 | 显示全部楼层
00000000000
回复

使用道具 举报

0

主题

2231

帖子

1万

积分

论坛元老

Rank: 8Rank: 8

威望
5159
贡献
5788
热心值
0
金币
4598
注册时间
2019-6-29
发表于 2021-2-5 10:38 | 显示全部楼层
55555555555555555555
回复

使用道具 举报

1

主题

1628

帖子

6402

积分

永久会员

Rank: 8Rank: 8

威望
2541
贡献
3521
热心值
0
金币
340
注册时间
2019-8-17
发表于 2021-2-5 10:44 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|瑞客论坛 |网站地图

GMT+8, 2024-4-26 08:54

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表