B05 - 054、MapReduce优化 - 效率跟稳定性参数

0、MapReduce优化 - 效率跟稳定性参数

初学耗时:0.5h

注:CSDN手机端暂不支持章节内链跳转,但外链可用,更好体验还请上电脑端。

一、MapReduce优化 - 效率跟稳定性参数
  1.1  mapreduce.map.speculative
  1.2  mapreduce.reduce.speculative
  1.3  mapreduce.input.fileinputformat.split.minsize: FileInputFormat
  1.4  mapreduce.input.fileinputformat.split.maxsize: FileInputFormat



记忆词:

  推测执行机制


ギ 舒适区ゾ || ♂ 累觉无爱 ♀





一、MapReduce优化 - 效率跟稳定性参数

  1.1 ~ mapreduce.map.speculative

  • 是否为 Map Task 打开推测执行机制,默认为 true, 如果为 true,则可以并行执行一些 Map 任务的多个实例。

  1.2 ~ mapreduce.reduce.speculative

  • 是否为 Reduce Task 打开推测执行机制,默认为 true。

  1.3 ~ mapreduce.input.fileinputformat.split.minsize: FileInputFormat

  • 做切片时最小切片大小,默认 1。

  1.4 ~ mapreduce.input.fileinputformat.split.maxsize: FileInputFormat

  • 做切片时最大切片大小。
推测执行机制(Speculative Execution)


它根据一定的法则推测出“拖后腿”的任务,并为这样的任务启动一个备份任务,让该任务与原始任务同时处理同一份数据,并最终选用最先成功运行完成任务的计算结果作为最终结果。



露从今夜白,月是故乡明。

- - - - - - - - - - - - - - - - - - - - - - - - - - - -



^ 至此,MapReduce优化 - 效率跟稳定性参数完成。


- - - - - - - - - - - - - - - - - - - - - - - - - - - -


※ 世间诱惑何其多,坚定始终不动摇。

若事务T对数据A加上________锁,则允许T读取和修改A,其他任何事务都不允许对A加任何类型的锁,直到T释放A上的锁。


X
alt



露从今夜白,月是故乡明。

- - - - - - - - - - - - - - - - - - - - - - - - - - - -


注:CSDN手机端暂不支持章节内链跳转,但外链可用,更好体验还请上电脑端。

我知道我的不足,我也知道你的挑剔,但我就是我,不一样的烟火,谢谢你的指指点点,造就了我的点点滴滴:)!



露从今夜白,月是故乡明。


猜你喜欢

转载自blog.csdn.net/weixin_42464054/article/details/92776353