DAGScheduler源码分析stage划分算法,task最佳位置计算算法

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/Smart_cxr/article/details/81180153

在DAGScheduler类中的HandleJobSubmitted是job调度的核心入口

进入了newStage()方法它会创建一个stage对象

进入submitStage()方法

进入getMissingParentStages方法()

进入submitWaitingStages()方法

stage划分算法总结

1,从finalStage倒推

2,通过宽依赖,来进行新的stage的划分

3,使用递归优先提交父stage

接下来是stage会创建task

进入getPreFerredLocasInternal()方法(task最佳位置计算算法)

猜你喜欢

转载自blog.csdn.net/Smart_cxr/article/details/81180153