Yarn 调度器中的 Capacity Scheduler 和 Fair Scheduler 都支持扩容, 现对 Fari Scheduler 进行弹性扩容测试。
Yarn 动态资源池配置配置如下:
一、不限制最大资源数
1、yarn配置
不限制最大资源数2、测试
3、结果
从队列可以看出,在不限制队列最大资源的情况下,虚线框可以看出队列可以弹性扩容到最大100%与队列root相同。绿色部分表示队列实际使用的资源。
二、限制最大资源数为50%
1、yarn配置
2、测试
从队列可以看出,在限制队列最大资源为50%的情况下,虚线框可以看出队列可以弹性扩容到总容量的50%。绿色部分表示队列实际使用的资源。
三、Fair Share 与 最大资源数相同为10%
1、配置
2、测试
从队列可以看出,当 fair share 与 最大资源数分配相等时,虚线框消失,队列最大只能到fair share所分配的资源。绿色部分表示队列实际使用的资源。
四、结论
当 Fair Share 与最大资源数相等时,弹性扩容性质消失。
领取专属 10元无门槛券
私享最新 技术干货