1 taskmanager.numberOfTaskSlots
fink-conf.yaml
这个参数指定了每个任务管理器,最大提供的并发数。一般根据cpu core来指定,可以设定等于CPU cores数或者为一半
此参数设定好了,启动集群,基本上总槽位数就确定了: 该参数* taskmanager数量。
./yarn-session.sh -n 4 -tm 800 -s 2
yarn集群模式可以通过 -s指定槽位数,即子任务数也称并行度,会平分taskmanger的内存,未设置的话以配置文件为准。
2 taskmanager.heap.size: 1024m
该参数指定了单个任务管理分配的内存数量。
yarn集群模式: ./yarn-session.sh -n 4 -tm 800 -s 2
上述命令参数 -tm 800m 也会指定每任务管理器分配的内存,当该参数大于配置文件taskmanager.heap.size参数时,取命令行的值。小于或者没有指定时,以配置文件的为准。