Yarn生产环境核心参数

1.ResourceManager相关

 yarn.resourcemanager.scheduler.class  # 配置调度器,默认容量

yarn.resourcemanaager.scheduler.client.thread-count   # ResourceManager处理调度器请求的线程数量,默认50

2.NodeManager相关

yarn.nodemanager.resource.detect-hardware-capabilities #是否让yarn自己检测硬件进行配置,默认false

yarn.nodemanager.resource.count-logical-processors-as-cores #是否将虚拟核数当作CPU核数,默认

false yarn.nodemanager.resource.pcores-vcores-multiplier # 虚拟核数和物理核数乘数,例如:4核8线程,该 参数就应设为2,默认1.0

yarn.nodemanager.resource.memory-mb NodeManager #使用内存,默认8G yarn.nodemanager.resource.system-reserved-memory-mb NodeManager #为系统保留多少内存以上二个参数配置一个即可

yarn.nodemanager.resource.cpu-vcores  # NodeManager使用CPU核数,默认8个yarn.nodemanager.pmem-check-enabled  #是否开启物理内存检查限制container,默认打开 yarn.nodemanager.vmem-check-enabled #是否开启虚拟内存检查限制container,默认打开 yarn.nodemanager.vmem-pmem-ratio #虚拟内存物理内存比例,默认2.1

3.Container相关

yarn.scheduler.minimum-allocation-mb #容器最最小内存,默认1G

yarn.scheduler.maximum-allocation-mb #容器最最大内存,默认8G

yarn.scheduler.minimum-allocation-vcores  #容器最小CPU核数,默认1个 yarn.scheduler.maximum-allocation-vcores # 容器最大CPU核数,默认4个

おすすめ

転載: blog.csdn.net/baidu_41833099/article/details/121878349