最近有客户的 shareplex 因为一些稀奇古怪的原因又挂了,由于邮件告警问题,没有及时通知到,并且归档已经被删除,备份也追溯不回丢失的归档日志。
经过与客户确认repo库没有历史数据需保留,直接重建修复!
确认以下条件均已具备:
本次重建目标端使用 rman 进行全库恢复。
select sum(bytes/1024/1024/1024) from dba_segments;
select sum(bytes/1024/1024/1024) from dba_data_files;
确认目标端磁盘空间足够!
--查询备份
set line222
set pagesize100
col status for a10
col input_type for a20
col INPUT_BYTES_DISPLAY for a10
col OUTPUT_BYTES_DISPLAY for a10
col TIME_TAKEN_DISPLAY for a10
select input_type,
status,
to_char(start_time,
'yyyy-mm-dd hh24:mi:ss'),
to_char(end_time,
'yyyy-mm-dd hh24:mi:ss'),
input_bytes_display,
output_bytes_display,
time_taken_display,
COMPRESSION_RATIO
from v$rman_backup_job_details
where start_time > date '2021-08-10'
order by 3 desc;
list backup of controlfile;
ctrl_mesdbtj_65271_1_1081487814
确认最新的有效备份,记录控制文件。
lgtoclnt-9.2.1.4-1.x86_64.rpm
lgtonmda-9.2.1.4-1.x86_64.rpm
建议使用 yum install
进行安装,防止依赖包缺失,前提是 yum 源已配置。
按顺序安装:
yum install -y lgtoclnt-9.2.1.4-1.x86_64.rpm
systemctl start networker
systemctl start networker
yum install -y lgtonmda-9.2.1.4-1.x86_64.rpm
lgtoclnt
安装完成后,确保服务正常运行,再安装 lgtonmda
。
必须将目标端和源端,networker 服务端的ip和主机名解析全部写入 /etc/hosts 文件。
cd $ORACLE_HOME/lib
ln –s /usr/lib/libnwora.so libobk.so
至此,networker 目标端已安装完成。
sp_ctrl
shutdown
/quest/bin/ora_cleansp splex2300/splex2300
/data/quest/bin/ora_cleansp splex2300/splex2300
sp_cop -u2300&
本文 shareplex 使用端口为 2300,读者需根据实际情况更换,如 2400、2500 等。
stop post
最后全部恢复完毕之后再开启。
确保目标端数据库已开启到 nomount 状态。
连接 rman 客户端后执行恢复控制文件:
run {
allocate channel c1 type 'SBT_TAPE';
send 'NSR_ENV=(NSR_SERVER=这里填写 networker 服务端主机名,NSR_CLIENT=这里填写源端备份主机名)';
restore controlfile from '这里填写最新备份控制文件名称';
release channel c1;
}
``
恢复完之后开启目标端数据库到 mount 状态。
### 恢复数据
由于数据库大概有 1-2 T 的大小,恢复时间很长,因此建议将恢复脚本放在后台进行执行,脚本如下:
```bash
#!/bin/bash
source ~/.bash_profile
backtime=`date +"20%y%m%d%H%M%S"`
rman target / log=/home/oracle/rman_repo_$backtime.log<<EOF
run {
allocate channel c1 type 'SBT_TAPE';
allocate channel c2 type 'SBT_TAPE';
allocate channel c3 type 'SBT_TAPE';
allocate channel c4 type 'SBT_TAPE';
send 'NSR_ENV=(NSR_SERVER=这里填写 networker 服务端主机名,NSR_CLIENT=这里填写源端备份主机名)';
set newname for database to '/data/mesdb/%b';
restore database;
switch datafile all;
recover database;
release channel c1;
release channel c2;
release channel c3;
release channel c4;
}
exit;
EOF
执行 sh rman_sp.sh &
进行后台恢复。
???? 注意: 通道根据实际情况进行修改,由于源端是 rac 环境,目标端是单机环境,因此数据文件路径需要 set newname
进行转换,最后执行初次 recover database
。
备份恢复完之后,由于缺少归档,所以需要追归档。
由于备份时间与当前时间存在较大时差,在获取当前源端的 scn 进行 recover 时,必然需要追大量的归档日志文件,为了减少 shareplex 积压,因此提前追归档日志到当前时间。
源端备份归档日志到当前最新:
backup archivelog from sequence 71457 until sequence 71986 thread 1;
backup archivelog from sequence 65247 until sequence 65780 thread 2;
备份成功后拷贝至目标端,注册目录后执行 recover
:
catalog start with '/data/archivelog/';
recover database;
追完归档之后,激活源端 shareplex 的 config 文件。
list config
activate config ORA_config_20210825 nolock
show config
激活成功后,检查源端数据库中是否存在 长事务。
select start_time from gv$transaction;
如果有长事务,可以确实是否可以杀掉,杀掉后才能继续操作。
根据以下 SQL 可以获取到事务的详细情况:
set linesize 260 pagesize 10000
column sess format a21 heading "SESSION"
column program format a18
column clnt_pid format a8
column machine format a25
column username format a12
column osuser format a13
column event format a32
column waitsec format 999999
column start_time format a18
column sql_id format a15
column clnt_user format a10
column svr_ospid format a10
ALTER SESSION SET NLS_DATE_FORMAT = 'yyyy/mm/dd hh24:mi:ss';
set feedback off
set echo off
set head off
select chr(9) from dual;
select 'Waiting Transactions'||chr(10)||'====================' from dual;
set head on
select /*+ rule */
lpad(nvl(s.username,' '),8)||'('||s.sid||','||s.serial#||')' as sess,
p.spid as svr_ospid,
nvl(osuser,' ') as clnt_user,
s.process as clnt_pid,
substr((case instr(s.PROGRAM, '@')
when 0 then
s.program
else
case instr(s.PROGRAM, '(TNS V1-V3)')
when 0 then
substr(s.program, 1, instr(s.PROGRAM, '@') - 1) || substr(s.program, instr(s.PROGRAM, '(') - 1)
else
substr(s.program, 1, instr(s.PROGRAM, '@') - 1)
end
end),
1, 18) as program,
(case
when length(s.MACHINE) > 8 then substr(s.machine,1,8)||'~'
else s.machine
end
) || '('||nvl(s.client_info, 'Unknown IP')||')' as machine, s.sql_id,
substr(s.event, 1, 32) as event,
s.seconds_in_wait as waitsec
from v$transaction t,v$session s,v$process p
where t.ses_addr=s.saddr and s.paddr=p.addr
order by s.seconds_in_wait, s.program, s.machine;
可以通过 SESSION
字段来杀掉事务:
alter system kill session '1841,44697';
如果杀不掉,则使用 svr_ospid
系统层进行 kill:
kill -9 27353
确认没有长事务后,继续下一步操作。
col current_scn format 9999999999999999
select current_scn from v$database;
记录获取到的 SCN 号:72863106548
。
recover database until scn 72863106548;
因为源端一直在运行,激活期间到SCN号必然会有新的归档产生,提示缺少归档日志,因此需要去源端拷贝缺少的归档日志,再次进行 recover。
alter database open resetlogs;
确认 recover 完成恢复之后,基本恢复结束,可以开启目标端到 resetlogs 状态。
reconcile queue q1 for o.mesdb2-o.mesdb scn 72863106548
reconcile queue q2 for o.mesdb2-o.mesdb scn 72863106548
reconcile queue q3 for o.mesdb2-o.mesdb scn 72863106548
reconcile queue q4 for o.mesdb2-o.mesdb scn 72863106548
reconcile queue q5 for o.mesdb2-o.mesdb scn 72863106548
非必须操作,如果出现 hang
住的情况,需要在源端 shareplex 执行 flush 操作疏通通道:
flush o.mesdb2 to mes-repo queue q1
flush o.mesdb2 to mes-repo queue q2
flush o.mesdb2 to mes-repo queue q3
flush o.mesdb2 to mes-repo queue q4
flush o.mesdb2 to mes-repo queue q5
???? 注意: 源端执行过 flush 的通道,目标端 start post
之后需要再次执行 start post queue 指定队列名
,否则无法开启 post。
cd /data/quest/bin/
sqlplus splex用户账号/splex账户密码
@cleanup.sql
该步骤用于清理源端 splex 用户相关数据。
SELECT 'alter trigger ' || owner || '.' || trigger_name || ' disable;'
from dba_triggers
where owner in (需要同步的用户);
将输出结果复制执行即可!
SELECT 'alter table '||owner||'.'||table_name||' disable constraint '||constraint_name||';' from dba_constraints
where constraint_type='R' and owner in (需要同步的用户);
将输出结果复制执行即可!
alter system set job_queue_processes=0;
确保 job 任务不会运行!
sp_ctrl
start post
确保所有队列均已处于正常 running 状态。
由于目标端执行 reconcile 时 2,4 队列 hang
住,因此需要单独 start post queue 指定队列名
来开启:
start post queue q2
start post queue q4
状态已全部正常 running。
qstatus
show post queue q2
show log reverse
通过命令查看同步是否正常,以及同步速度是否正常。再次确认邮件告警是否恢复正常。
shareplex 重建恢复的流程还算复杂,因此需要做好必备的告警措施,防止遇到停止导致问题发生,无法及时补救的情况。
分享两个告警脚本:
1、监控 shareplex 进程是否正常运行:
#!/bin/bash
if [ -f ~/.bash_profile ];
then
. ~/.bash_profile
fi
count=`ps -ef|grep sp_cop|wc -l`
if [ "${count}" -ne 2 ];
then
ps -ef|grep sp_cop > /tmp/sp_cop.log
mail -s "Shareplex sp_cop process shutdown" 邮箱地址 < /tmp/sp_cop.log
fi
2、监控 shareplex 队列是否存在异常:
#!/bin/bash
if [ -f ~/.bash_profile ];
then
. ~/.bash_profile
fi
rm -rf /data/quest/error.log
echo "show "|sp_ctrl|grep "Idle" >> /data/quest/error.log
echo "show "|sp_ctrl|grep "Stopped" >> /data/quest/error.log
# -s 文件大小非0时为真
if [ ! -s /data/quest/error.log ]
then
rm -rf /data/quest/error.log #文件大小为0 删除
fi
if [ -s /data/quest/error.log ]
then
mail -s "Shareplex error" 邮箱地址 < /data/quest/error.log
fi
???? 如有问题,请及时指正,谢谢!
本次分享到此结束啦~
如果觉得文章对你有帮助,点赞、收藏、关注、评论,一键四连支持,你的支持就是我创作最大的动力。