Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >openGauss中的并行回放以及和PG的对比

openGauss中的并行回放以及和PG的对比

作者头像
数据库架构之美
发布于 2020-10-28 09:14:53
发布于 2020-10-28 09:14:53
1.3K00
代码可运行
举报
运行总次数:0
代码可运行

openGauss在非极致rto特性下通过recovery_max_workers和recovery_parallelism参数控制并行回放的线程数。下面测试一下效果,可以通过停止备库来模拟主库xlog堆积,此处统一模拟堆积到1000个xlog后启动备库,来进行应用和回放,最终统计回放完成时间。可以通过比对receiver_replay_location和receiver_flush_location之间的差距来判断是否回放完成。

由于recovery_max_workers和recovery_parallelism参数具有联动性,设置一个另外一个会自动设置为相同的值,此处只设置recovery_max_workers。

01.

recovery_max_workers=1

停止备库,启动压测程序,待xlog达到1000时关闭压测程序

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
[omm@db01 gaussdata]$ ll pg_xlog/ |wc -l
1000
[omm@db02 pg_xlog]$ gs_ctl start -M standby
[omm@db02 pg_xlog]$ date
Wed Sep 16 15:26:53 CST 2020

可以看到处于catchup过程:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
[omm@db02 pg_xlog]$ gs_ctl query
[2020-09-16 15:27:12.958][213287][][gs_ctl]: gs_ctl query ,datadir is (null)
 HA state:           
        local_role                     : Standby
        static_connections             : 2
        db_state                       : Catchup
        detail_information             : Normal


 Senders info:       
No information
 Receiver info:      
        receiver_pid                   : 211639
        local_role                     : Standby
        peer_role                      : Primary
        peer_state                     : Normal
        state                          : Catchup
        sender_sent_location           : 3C/28800000
        sender_write_location          : 3D/EE528328
        sender_flush_location          : 3D/EE528328
        sender_replay_location         : 3D/EE528328
        receiver_received_location     : 3C/28000000
        receiver_write_location        : 3C/27000000
        receiver_flush_location        : 3C/27000000
        receiver_replay_location       : 3A/8F4A9910
        sync_percent                   : 97%
        channel                        : 192.168.1.2:48458<--192.168.1.1:5533

过一段时间发现追平了,但是receiver_replay_location和receiver_flush_location之间有差距,持续观察:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
[omm@db02 pg_xlog]$ gs_ctl query[2020-09-16 15:32:08.432][237296][][gs_ctl]: gs_ctl query ,datadir is (null) HA state:                   local_role                     : Standby        static_connections             : 2        db_state                       : Normal        detail_information             : Normal Senders info:       No information Receiver info:              receiver_pid                   : 211639        local_role                     : Standby        peer_role                      : Primary        peer_state                     : Normal        state                          : Normal        sender_sent_location           : 3D/FC647630        sender_write_location          : 3D/FC647630        sender_flush_location          : 3D/FC647630        sender_replay_location         : 3D/FC647630        receiver_received_location     : 3D/FC647630        receiver_write_location        : 3D/FC647630        receiver_flush_location        : 3D/FC647630        receiver_replay_location       : 3D/FC647630        sync_percent                   : 100%        channel                        : 192.168.1.2:48458<--192.168.1.1:5533


[omm@db02 pg_xlog]$ date
Wed Sep 16 15:32:09 CST 2020

总共耗时:316s

02.

recovery_max_workers=8

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
[omm@db01 gaussdata]$ ll pg_xlog |wc -l
1002

启动一个备库,开始追数和回放

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
[omm@db02 gaussdata]$ date
Thu Sep 17 09:32:59 CST 2020
[omm@db02 gaussdata]$ gs_ctl query
[2020-09-17 09:33:02.663][53466][][gs_ctl]: gs_ctl query ,datadir is (null)
 HA state:           
        local_role                     : Standby
        static_connections             : 2
        db_state                       : Catchup
        detail_information             : Normal


 Senders info:       
No information
 Receiver info:      
        receiver_pid                   : 53065
        local_role                     : Standby
        peer_role                      : Primary
        peer_state                     : Normal
        state                          : Catchup
        sender_sent_location           : 44/65800000
        sender_write_location          : 47/A600A858
        sender_flush_location          : 47/A600A858
        sender_replay_location         : 47/A600A858
        receiver_received_location     : 44/65800000
        receiver_write_location        : 44/65000000
        receiver_flush_location        : 44/65000000
        receiver_replay_location       : 44/432AFCC8
        sync_percent                   : 95%
        channel                        : 192.168.1.2:38322<--192.168.1.1:5533

稳定后

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
[omm@db02 gaussdata]$ gs_ctl query
[2020-09-17 09:41:05.963][93661][][gs_ctl]: gs_ctl query ,datadir is (null)
 HA state:           
        local_role                     : Standby
        static_connections             : 2
        db_state                       : Normal
        detail_information             : Normal


 Senders info:       
No information
 Receiver info:      
        receiver_pid                   : 53065
        local_role                     : Standby
        peer_role                      : Primary
        peer_state                     : Normal
        state                          : Normal
        sender_sent_location           : 47/AF961308
        sender_write_location          : 47/AF961308
        sender_flush_location          : 47/AF961308
        sender_replay_location         : 47/AF961308
        receiver_received_location     : 47/AF961308
        receiver_write_location        : 47/AF961308
        receiver_flush_location        : 47/AF961308
        receiver_replay_location       : 47/AF961308
        sync_percent                   : 100%
        channel                        : 192.168.1.2:38322<--192.168.1.1:5533


[omm@db02 gaussdata]$ date
Thu Sep 17 09:41:07 CST 2020

总耗时:428s

可以看到并行回放并没有起到作用,甚至开启多线程回放后反而回放变慢了。

测试过程中大致看了下日志产生速度:70M/s,插入的数据每秒6万条,而pg中在插入每秒6万条的时候,日志产生速度只有35M/s左右,是openGauss的一半,这块也需要优化。在极限测试情况下,在150并发时,pg的日志产生速度大概70M/s,tps大概是每秒13万行的插入,此时replay_lag确实在逐渐增大,说明在这个大小的日志产生速度下,pg已经回放不过来这么大量的日志。openGauss在6万tps插入时已经达到这么大日志量。

所以从上面的表格以及测试结果可以看到首先开启并行回放参数不会加快回放速度,甚至回放速度回变慢,openGauss备库回放跟不上的原因并不在于openGauss的回放速度比pg慢,回放速度他俩是差不多的,而在于openGauss在插入同样的数据时产生的日志量是pg的两倍,这样造成它的回放跟不上。这个日志量的问题需要解决。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-10-12,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 数据库架构 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
深度揭秘 Sora 关键技术:时空补丁如何变成OpenAI 的新“魔法”
人工智能工具如何将一张静态图像转化为一段动态、逼真的视频?OpenAI 的 Sora 通过时空补丁的创新使用给出了答案。
深度学习与Python
2024/02/29
3980
深度揭秘 Sora 关键技术:时空补丁如何变成OpenAI 的新“魔法”
OpenAI 最新发布的从文本生成视频模型 Sora 炸裂登场,它能根据文字指令创造逼真且富有想象力的场景
OpenAI - Sora is an AI model that can create realistic and imaginative scenes from text instructions.
叶庭云
2024/05/25
3170
OpenAI 最新发布的从文本生成视频模型 Sora 炸裂登场,它能根据文字指令创造逼真且富有想象力的场景
关于 OpenAI Sora,你所应该了解的
Hello folks,我是 Luga,今天我们继续来聊一下人工智能(AI)生态领域相关的技术 - OpenAI Sora ,本文将继续聚焦在针对 OpenAI Sora 的技术进行剖析,使得大家能够了解 OpenAI Sora 实现机制以便更好地对利用其进行应用及市场开发。
Luga Lee
2024/11/01
1440
关于 OpenAI Sora,你所应该了解的
【Sora】发布,马斯克直言:人类要完
OpenAI全新的视频生成AI大模型Sora的发布,让各类“危言耸听”的言论甚嚣尘上。
用户10691975
2024/02/23
2450
【Sora】发布,马斯克直言:人类要完
Sora 面世,视频生成的 GPT-3 时刻来了
2月16日凌晨,正值中国春节法定节假日期间,OpenAI 毫无预兆地发布了 AI 视频生成大模型 Sora。看过视频效果后,网友纷纷感叹「现实,不存在了。」
AI科技评论
2024/02/27
2510
Sora 面世,视频生成的 GPT-3 时刻来了
万字长文 | Sora技术解析报告
在深度学习革命之前,传统的图像生成技术依赖于基于手工创建特征的纹理合成和纹理映射等方法。这些方法在生成复杂而生动的图像方面能力有限。
NewBeeNLP
2024/03/07
1.7K0
万字长文 | Sora技术解析报告
真·降维打击,Sora与Runway、Pika的对比来了,震撼效果背后是物理引擎模拟现实世界
昨天,OpenAI 发布的首个文本生成视频模型 Sora 引爆了社区,其生成的长达 1 分钟的高清、流畅视频令人们惊叹不已,直呼「好莱坞的时代结束了」。
机器之心
2024/02/26
2640
真·降维打击,Sora与Runway、Pika的对比来了,震撼效果背后是物理引擎模拟现实世界
一锤降维!解密OpenAI超级视频模型Sora技术报告,虚拟世界涌现了
谷歌的Gemini Pro 1.5还没出几个小时的风头,天一亮,全世界的聚光灯就集中在了OpenAI的Sora身上。
新智元
2024/02/26
1860
一锤降维!解密OpenAI超级视频模型Sora技术报告,虚拟世界涌现了
探索AI视频生成新纪元:文生视频Sora VS RunwayML、Pika及StableVideo——谁将引领未来
由于在AI生成视频的时长上成功突破到一分钟,再加上演示视频的高度逼真和高质量,Sora立刻引起了轰动。在Sora横空出世之前,Runway一直被视为AI生成视频的默认选择,尤其是自去年11月推出第二代模型以来,Runway还被称为“AI视频界的MidJourney”。第二代模型Gen-2不仅解决了第一代AI生成视频中每帧之间连贯性过低的问题,在从图像生成视频的过程中也能给出很好的结果。
汀丶人工智能
2024/02/19
2.4K0
探索AI视频生成新纪元:文生视频Sora VS RunwayML、Pika及StableVideo——谁将引领未来
[AI里程碑] Sora | 最强AI视频生成大模型
AI视频技术的发展历程可以追溯到2022年,当时初创公司Runway在这一领域取得了显著成就,其技术甚至被用于热门科幻电影《瞬息全宇宙》的视频编辑。此后,AI视频技术经历了快速的发展,Runway、Pika、Meta(Emu Video)等公司纷纷加入竞争。然而,早期的AI视频通常存在一些限制,如视频长度有限(通常只有几秒钟),场景逼真度不足,元素突然出现或消失,以及运动不连贯等问题,这些问题使得视频内容容易被识别为AI生成。
iResearch666
2024/03/13
7270
[AI里程碑] Sora | 最强AI视频生成大模型
【初学者指南】OpenAI-Sora:最新文生成视频教程 - 如何入门
OpenAI Sora 详细的技术报告发布:https://openai.com/research/video-generation-models-as-world-simulators
拥抱编程的世界
2024/02/19
2.2K0
【初学者指南】OpenAI-Sora:最新文生成视频教程 - 如何入门
深入理解Sora技术原理
OpenAI 发布的视频生成模型 Sora(https://openai.com/sora),能根据文本生成长达一分钟的高质量视频,理论上支持任意分辨率,如 1920x1080 、1080x1920 ,生成能力远超此前只能生成 25 帧 576x1024 图像的顶尖视频生成模型 Stable Video Diffusion。
得物技术
2024/03/20
5140
深入理解Sora技术原理
模拟一切实现AGI?OpenAI Sora核心成员最新演讲+专访来了
OpenAI Sora团队核心成员Tim Brooks和Bill Peebles对通用人工智能的实现分享了一些他们的看法,作为Sora研究负责人,他们表示:「视频生成技术将通过模拟一切来实现AGI」。
新智元
2024/04/14
1780
模拟一切实现AGI?OpenAI Sora核心成员最新演讲+专访来了
视频生成大模型Sora:开启视频创作新纪元,下一个风口吗?
近日,人工智能领域的领军企业OpenAI宣布推出了一款名为Sora的全新视频生成大模型,这一创新性的技术成果有望彻底改变视频创作领域的格局。Sora模型以其强大的视频生成能力,为用户提供了一个快速、便捷且极具创意的视频制作平台,预示着视频创作将迎来一场颠覆性的变革。
小冷coding
2024/02/29
2550
视频生成大模型Sora:开启视频创作新纪元,下一个风口吗?
分享几个免费 AI 生成工具 (第一期)
Artflow.ai 是一款人工智能工具,旨在帮助用户创建自定义头像并让他们的故事栩栩如生。主要特点和优势包括:
网站小运营
2023/06/13
4.2K0
视频生成模型Sora:引领视觉内容创作的新篇章
近日,人工智能领域的领军企业OpenAI发布了一款具有划时代意义的视频生成模型——Sora。这款模型凭借其强大的生成能力和逼真的视觉效果,迅速引起了广泛关注。本文将详细介绍Sora的技术特点、应用场景以及它对未来视觉内容创作的影响。
Front_Yue
2024/03/16
5340
视频生成模型Sora:引领视觉内容创作的新篇章
Sora能引爆生成视频新纪元吗?
2月15日,创造了ChatGPT的OpenAI推出一款名为Sora的生成式人工智能模型,又一次引爆科技圈。Sora可以将文字提示词转化为视频,OpenAI发布的视频效果令人大受震撼,带来了AIGC的又一个高光时刻。
小腾资讯君
2024/03/19
2630
Sora能引爆生成视频新纪元吗?
聊聊火出圈的世界AI大模型——Sora
在2024年2月16日,OpenAI宣布推出全新的生成式人工智能模型“Sora”。据了解,通过文本指令,Sora可以直接输出长达60秒的视频,并且包含高度细致的背景、复杂的多角度镜头,以及富有情感的多个角色。这意味着,继文本、图像之后,OpenAI将其先进的AI技术拓展到了视频领域。OpenAI表示,Sora是能够理解和模拟现实世界的模型的基础,这一能力将是实现AGI(通用人工智能)的重要里程碑。对于OpenAI视频生成模型的出现,业内其实早有预期,但仍有人评价称“比想象中来得更快”,亦有人振奋地表示“我们真的看到新工业革命来临”。像ChatGPT一样,Sora一经推出,在整个科技圈内掀起了一股新的浪潮,网上出现了比较多的Sora拆解分析博文,感兴趣的小伙伴可以自行搜索,本文主要用于对Sora进行科普并向大家介绍一些Sora相关的学习资源。
山行AI
2024/02/26
8640
聊聊火出圈的世界AI大模型——Sora
探索无限:Sora与AI视频模型的技术革命 - 开创未来视觉艺术的新篇章
随着人工智能技术的飞速发展,AI视频模型已成为科技领域的新热点。而在这个浪潮中,OpenAI推出的首个AI视频模型Sora,以其卓越的性能和前瞻性的技术,引领着AI视频领域的创新发展。让我们将一起探讨Sora的技术特点、应用场景以及对未来创作方式的深远影响。
Srlua
2024/03/01
3970
探索无限:Sora与AI视频模型的技术革命 - 开创未来视觉艺术的新篇章
Sora文生视频模型深度剖析:全网独家指南,洞悉98%关键信息,纯干货
sora 是一个以 latent、transformer、diffusion 为三个关键点的模型。
汀丶人工智能
2024/02/22
7340
Sora文生视频模型深度剖析:全网独家指南,洞悉98%关键信息,纯干货
推荐阅读
相关推荐
深度揭秘 Sora 关键技术:时空补丁如何变成OpenAI 的新“魔法”
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验