首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Greenplum集群扩容总结

    Greenplum集群扩容总结 Greenplum集群扩容总结 1 1 概述 2 2 扩容前准备 2 3 扩容方案对比 2 3.1 使用gpexpand进行数据库扩容 2 3.2 新建Greenplum...schema 16 8 升级异常处理 16 1 概述 Greenplum集群扩容一般分为在原始集群上加集群或者重新搭建新的集群并把数据重新导入到新的集群中。...在原始集群扩容时一般扩容的segment是原始集群segment机器的倍数关系,例如源集群的规模是1台master1台stadby 3台segment节点,那么需要准备3台segment或者3的倍数的机器...而使用新的集群则需要关注新的机器的配置即可。 2 扩容前准备 在集群扩容前需要先检查集群没有任何的链接,如果在扩容时有应用链接集群,可能会出现元数据的丢失或损坏,导致集群无法启动或损坏集群。...所以新设置的时间服务器一定要先ntpdate从上源取得时间初值, 然后启动ntpd服务。

    2.7K42

    Kafka集群安装与扩容

    介绍略 集群安装: 一.准备工作: 1.版本介绍: 目前我们使用版本为kafka_2.9.2-0.8.1(scala-2.9.2为kafka官方推荐版本,此外还有2.8.2和2.10.2可以选择) 2....5.命令: 常用增删改查命令:kafka基本命令,高级命令 6.扩容: 1)先部署好新节点环境,并根据上文"配置修改"修改配置,然后启动集群,确保新节点为可用状态。...2)“高级命令“的Expanding your cluster小节介绍了扩容的基本方法: 生成扩容使用的json文件: cat topics-to-move.json {"topics": [{"topic...completed successfully Reassignment of partition [foo2,2] completed successfully数据迁移一旦开始无法停止,也不要强行停止集群...这样的话如果集群原节点空间不足,不要继续指定其为迁移broker,这样将造成原节点空间用尽,例如原节点是broker为0,1,2,3,4就不要这样指定 --broker-list "0,1,2,3,4"

    33110

    MyCAT集群在线扩容的场景小结

    最近线上有一套集群的存储存在瓶颈,导致经常会有报警,如果按照存储现状和稍后的假期的数据增长,很可能会带来一些意料之外的问题,所以整体评估后,决定对已有的集群先做在线扩容,待假期结束后再做缩容。...目前集群的整体结构设计如下,其中P1,P2为中间件节点,P2暂时未投入使用,M1->M4是物理分片节点,每个物理分片包含4个逻辑分片,所以一张表被拆分为了16份,目前集群中的数据表为一张周期表,按日写入...如果要实现在线扩容,达到的一个中间状态如下,即把已有的从库分片提上来作为物理分片,这样4个分片就可以快速扩展为8个分片。 ?...如果要实践,整个步骤如下: 1)配置数据分片的双主复制,停掉数据分片节点的MHA服务,避免服务扩容期间出现意料之外的情况 2)在中间件节点P2的datahost从4节点配置改为8节点,相应的datanode

    60720

    HDFS-集群扩容及缩容

    目录 HDFS-集群扩容及缩容 黑名单配置步骤 应用场景 服务器间数据均衡配置 开启数据均衡命 停止数据均衡命令 需求 环境准备 服役新节点具体步骤 问题1 服务器间数据均衡 问题2 105是怎么关联到集群的...配置白名单的步骤 二次配置白名单 添加白名单 增加新服务器 服务器间数据均衡 黑名单退役旧节点 HDFS-集群扩容及缩容 添加白名单 白名单:在白名单的主机IP地址可以访问集群,对集群进行数据的存储。...解决办法:服务间数据均衡 问题2 105是怎么关联到集群的 在核心配置文件core-site.xml 里 指定NameNode在哪个服务器上(hadoop102上),作为DataNode自动取报告了 DataNode...场景2:新服役的服务器数据量比较少,需要执行集群均衡命令 服务器间数据均衡配置 开启数据均衡命 [ranan@hadoop102 hadoop-3.1.3]$ cd /opt/module/hadoop...hadoop]$ hdfs --daemon stop datanode [ranan@hadoop105 hadoop]$ yarn --daemon stop nodemanager 退役时可能其他服务器数据猛增所以一般都需要集群数据在平衡

    1K10

    技术分享 | OceanBase 集群扩容缩容

    --- 一、环境说明: 集群扩容分为两种情况:一种是扩副本,一种是扩资源。 原集群部署模式:1-1-1。...下面介绍两种扩容方式: 扩容副本:扩容后的模式:1-1-1-1-1; 扩容资源:扩容后的模式:2-2-2。 说明:扩容操作有两种方式:白屏方式操作和黑屏方式操作。...二、白屏方式进行扩容扩容副本:进入OCP -> 找到要扩容集群 -> 总览 -> 新增zone; 扩容资源:进入OCP -> 找到要扩容集群 -> 总览 -> 新增OBServer; 如图: 图片...三、黑屏方式进行扩容: 说明:为了避免篇幅重复,此处扩容副本和扩容资源将分别使用自动化方式扩容和手工方式扩容。...3.2、扩容资源(OBServer): 1)扩容前,建议进行资源检查操作,此处省略。

    98930

    Redis大集群扩容性能优化实践

    # 一、背景 在现网环境,一些使用Redis集群的业务随着业务量的上涨,往往需要进行节点扩容操作。...之前有了解到运维同学对一些节点数比较大的Redis集群进行扩容操作后,业务侧反映集群性能下降,具体表现在访问时延增长明显。...为了找到这个问题的根因,我们对某一次的Redis集群迁移操作后的集群性能下降问题进行排查。 ## 1.1 问题描述 这一次具体的Redis集群问题的场景是:某一个Redis集群进行过扩容操作。...本次问题排查的业务使用客户端Hiredis-vip进行访问; - Redis集群的节点数比较大,规模是100+; - 集群之前存在扩容操作。...### 1.3.2 对比Cluster指令OPS和CPU负载 由于之前有运维侧同事有反馈集群进行过扩容操作,必然存在slot的迁移。

    1.3K10

    kafka集群扩容后的数据均衡

    生产环境的kafka集群扩容,是一个比较常见的需求和操作。...然而kafka在新增节点后并不会像elasticsearch那样感知到新节点加入后,自动将数据reblance到整个新集群中,因此这个过程需要我们手动分配。...分区重分配方案 扩容后的数据均衡,其本质就是对topic进行分区重分配,数据迁移的过程。...在执行分区重分配的过程中,对集群的影响主要有两点: 分区重分配主要是对topic数据进行Broker间的迁移,因此会占用集群的带宽资源; 分区重分配会改变分区Leader所在的Broker,因此会影响客户端...重分配步骤 其实官方文档关于集群扩容讲解很详细:Expanding your cluster ,整个过程分为三个步骤:获取 kafka 给出的建议分配方案、按照给出的分配方案执行分配、查看分配的进度以及状态

    5K20

    Redis Cluster集群扩容主从节点详细教程

    Cluster集群扩容概念 2. 在新节点部署redis cluster 3. 使用工具将redis-4加入集群 3.1....Cluster集群扩容概念 当redis数据量日渐增长,当内存不够用的时候,这时候就需要集群扩容了,cluster集群扩容可以增加内存也可以增加节点,因为redis数据都是存在内存中 redis cluster...增加节点进行扩容步骤: 1.在新的服务器上部署redis cluster 2.使用工具将新部署的节点加到集群中 3.使用工具将集群槽位重新分配...4.将主从复制关系调整成交叉模式 扩容原理:原来的节点算好要拿出多少的槽位给新加的节点,新加的节点准备导入的槽位,准备的前提条件就是加入集群,一切准备就绪后,主节点将划分出来的槽位分配给新节点...,然后将相关槽位的数据迁移到新的节点 4个节点的redis cluster,每个节点的槽位时16384/4,一个节点4096个槽位 扩容前后的架构图对比图 新增节点后,主从复制就变成了四主四从,只需要变动

    3.1K20

    snova运维篇(四):GP集群扩容

    本节主要从集群扩容的角度,进一步了解gp集群的日常运维工作。...目录: 集群扩容的一般性原则 扩容规划 准备增加新节点 初始化新的segment 重分布表 ---- 基本概念: 图片.png ---- 1.集群扩容的一般性原则 弹性伸缩容量和性能 扩容期间服务不中断...扩容前后事务的一致性 容错机制不受干扰 数据复制和灾备恢复不受影响 扩容机制透明,方便管理员排查问题和进度 流程可配置化 2.扩容规划 系统扩容检查列表 扩容前的准备工作,制定扩容方案,验证新旧环境,...扩容开始后,降低大规模操作的进程,重新分布表,移除扩展方案,运行健康检查,查看统计信息。 规划新的硬件平台 主要考虑软硬件的兼容性和版本一致性。...回滚一个失败的扩展 gpstart -m //进入master-only模式 重启数据库 gpexpand --rollback -D database_name //执行回滚操作 5.重分布表 重分布时集群必须处于生产模式中

    1.6K30

    记一次 Kafka 集群线上扩容

    前段时间收到某个 Kafka 集群的生产客户端反馈发送消息耗时很高,于是花了一段时间去排查这个问题,最后该集群进行扩容,由于某些主题的当前数据量实在太大,在对这些主题迁移过程中花费了很长一段时间,不过这个过程还算顺利...查看 Spark 集群用的 Kafka 版本还是 0.10.1.1 版本,而 Kafka 集群的版本为 2.2.1,一开始以为是版本兼容问题,接着数据智能部的小伙伴将 Spark 集群连接到某个版本为...由于这个频繁断开重连,并不是开发人员开发过程中导致的,考虑到双十一临近,不能贸然升级改动项目,那么现在最好的方案就是对集群进行水平扩展,增加集群的负载能力,并对专门的主题进行分区重分配。...分区重分配方案的分析 目前集群一共有 6 个节点,扩容以 50% 为基准,那么需要在准备 3 个节点,在运维准备好机器并且将其加入到集群中后,接下来就要准备对主题进行分区重分配的策略文件了。...现在去看看集群带宽负载情况: ? ? 从上图中可看出,在迁移过程中,新分配的副本不断地从 Leader 拉取数据,占用了集群带宽。 主题各分区重分配完成后的副本情况: ?

    1.5K10
    领券