瑞客论坛

 找回密码
 立即注册
查看: 17397|回复: 110

2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师

  [复制链接]

金币2339  第726名

18

主题

264

回帖

2860

积分

金牌会员

Rank: 6Rank: 6

威望
233
贡献
288
热心值
0
金币
2339
注册时间
2020-11-28
发表于 2021-2-5 09:45 | 显示全部楼层 |阅读模式
游客,如果您要查看本帖隐藏内容请回复

针对Flink 1.12.0版本的核心模块进行源码级讲解,从任务提交流程、通讯过程、Task调度、内存模型四大方面入手,庖丁解牛逐行分析源码,手术刀级别剖析Flink内核架构!
1
任务提交流程模块
从任务提交脚本入手,探本溯源,找到程序执行入口,继而解析输入参数、选择创建客户端类型、获取有效配置、调用用户代码的main方法、调用执行环境的excute方法,直至最后进入任务提交流程,详细分析了Flink各组件启动顺序、资源申请流程、资源注册以及分配流程。分析上千行源码,层层追踪,并给出源码关键注释。
2
通讯过程模块
从Akka与Actor模型入手,以点带面,一步步引出Flink的整体组件通信全景。对Flink中RPC框架涉及的主要类RpcGateway、RpcEndpoint、RpcService、RpcServer、AkkaRpcActor进行仔细拆解,之后通过代码的跳转详细分析了RPC的交互过程。
3
Task调度模块
详细讲解Flink四层执行图StreamGraph、JobGraph、ExecutionGraph、物理执行图,分别如何生成转换,均配详尽源码讲解,并深入讲解了Flink的Task调度,分别从源码层面讲解了几个调度的重要组件,调度器、调度策略和调度模式。
内存模型模块
详细讲解Flink自主的内存管理模型,如何有效避免了JVM内存管理的不足之处,分别讲解了JobManager内存模型、TaskManager内存模型、源码分析内存分配过程。并讲解了内存数据结构、内存管理器和网络传输中的内存管理等内容。
搭配左元老师的mini flink效果更好:https://www.github.com/confucianzuoyuan/mini-flink
回复

使用道具 举报

金币1908  第893名

0

主题

6123

回帖

1万

积分

论坛元老

Rank: 8Rank: 8

威望
7643
贡献
6073
热心值
0
金币
1908
注册时间
2019-4-11
发表于 2021-2-5 09:54 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

金币534  第2930名

1

主题

1090

回帖

1万

积分

永久会员

Rank: 8Rank: 8

威望
5243
贡献
5208
热心值
0
金币
534
注册时间
2019-10-11

一年荣誉奖章

发表于 2021-2-5 10:11 | 显示全部楼层
Flink内核源码解析
回复

使用道具 举报

金币947  第1750名

1

主题

180

回帖

947

积分

高级会员

Rank: 4

威望
0
贡献
0
热心值
0
金币
947
注册时间
2019-12-31
发表于 2021-2-5 10:14 | 显示全部楼层
啊啊啊啊啊啊啊啊啊啊啊啊
回复

使用道具 举报

金币185  第5874名

1

主题

2915

回帖

1万

积分

论坛元老

Rank: 8Rank: 8

威望
6140
贡献
4988
热心值
0
金币
185
注册时间
2020-6-18
发表于 2021-2-5 10:16 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

金币1083  第1534名

0

主题

1386

回帖

9722

积分

论坛元老

Rank: 8Rank: 8

威望
3779
贡献
4860
热心值
0
金币
1083
注册时间
2019-6-18
发表于 2021-2-5 10:18 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

金币739  第2212名

0

主题

265

回帖

792

积分

高级会员

Rank: 4

威望
23
贡献
30
热心值
0
金币
739
注册时间
2020-6-26
发表于 2021-2-5 10:20 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

金币4927  第266名

7

主题

4838

回帖

1万

积分

论坛元老

Rank: 8Rank: 8

威望
7052
贡献
5218
热心值
0
金币
4927
注册时间
2019-4-12

活跃会员在线达人三年荣誉奖章灌水之王一年荣誉奖章

发表于 2021-2-5 10:34 | 显示全部楼层
00000000000
回复

使用道具 举报

金币4545  第308名

0

主题

2338

回帖

1万

积分

论坛元老

Rank: 8Rank: 8

威望
5623
贡献
6272
热心值
0
金币
4545
注册时间
2019-6-29
发表于 2021-2-5 10:38 | 显示全部楼层
55555555555555555555
回复

使用道具 举报

金币494  第3112名

1

主题

1618

回帖

7299

积分

永久会员

Rank: 8Rank: 8

威望
2818
贡献
3987
热心值
0
金币
494
注册时间
2019-8-17
发表于 2021-2-5 10:44 | 显示全部楼层
2021年最新尚硅谷《Flink内核源码解析》—嘉鹏老师
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|瑞客论坛 |网站地图

GMT+8, 2024-11-23 07:59

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表