0、MapReduce优化 - 效率跟稳定性参数
初学耗时:0.5h
注:CSDN手机端暂不支持章节内链跳转,但外链可用,更好体验还请上电脑端。
一、MapReduce优化 - 效率跟稳定性参数
1.1 mapreduce.map.speculative
1.2 mapreduce.reduce.speculative
1.3 mapreduce.input.fileinputformat.split.minsize: FileInputFormat
1.4 mapreduce.input.fileinputformat.split.maxsize: FileInputFormat
记忆词:
推测执行机制
一、MapReduce优化 - 效率跟稳定性参数
1.1 ~ mapreduce.map.speculative
- 是否为 Map Task 打开推测执行机制,默认为 true, 如果为 true,则可以并行执行一些 Map 任务的多个实例。
1.2 ~ mapreduce.reduce.speculative
- 是否为 Reduce Task 打开推测执行机制,默认为 true。
1.3 ~ mapreduce.input.fileinputformat.split.minsize: FileInputFormat
- 做切片时最小切片大小,默认 1。
1.4 ~ mapreduce.input.fileinputformat.split.maxsize: FileInputFormat
- 做切片时最大切片大小。
推测执行机制(Speculative Execution)
…
它根据一定的法则推测出“拖后腿”的任务,并为这样的任务启动一个备份任务,让该任务与原始任务同时处理同一份数据,并最终选用最先成功运行完成任务的计算结果作为最终结果。
- - - - - - - - - - - - - - - - - - - - - - - - - - - -
^ 至此,MapReduce优化 - 效率跟稳定性参数完成。
- - - - - - - - - - - - - - - - - - - - - - - - - - - -
※ 世间诱惑何其多,坚定始终不动摇。
若事务T对数据A加上________锁,则允许T读取和修改A,其他任何事务都不允许对A加任何类型的锁,直到T释放A上的锁。
…
X
- - - - - - - - - - - - - - - - - - - - - - - - - - - -
注:CSDN手机端暂不支持章节内链跳转,但外链可用,更好体验还请上电脑端。
我知道我的不足,我也知道你的挑剔,但我就是我,不一样的烟火,谢谢你的指指点点,造就了我的点点滴滴:)!