电商数仓3.0 集群数据均衡
服务器间的数据均衡集群有多台服务器组成,每台服务器是集群中的一个节点,节点间所存储数据的均衡处理开启数据均衡命令# 10 代表集群中各个节点的磁盘空间利用路不超过10%start-balancer.sh -threshold 10停止数据均衡命令# HDFS需要启动单独的Rebalance Server来执行Rebalance操作# 尽量不要在NameNode上执行start-balancer.s
·
服务器间的数据均衡
集群有多台服务器组成,每台服务器是集群中的一个节点,节点间所存储数据的均衡处理
- 开启数据均衡命令
# 10 代表集群中各个节点的磁盘空间利用路不超过10%
start-balancer.sh -threshold 10
- 停止数据均衡命令
# HDFS需要启动单独的Rebalance Server来执行Rebalance操作
# 尽量不要在NameNode上执行start-balancer.sh,而是找一台比较空闲的机器。
stop-balancer.sh

磁盘间数据均衡
一个服务器里面挂载多块磁盘,磁盘之间的数据均衡处理
- 生成均衡计划(一块磁盘无法生成)
hdfs diskbalancer -plan warehouse103
- 执行均衡计划
hdfs diskbalancer -execute warehouse103.plan.json
- 查看当前均衡任务的执行情况
hdfs diskbalancer -query warehouse103
- 取消均衡任务
hdfs diskbalancer -cancel warehouse103.plan.json
更多推荐

所有评论(0)