oracle 加快expdp clob大字段导出速度的两种方式

html 复制代码
作者介绍:老苏,10余年DBA工作运维经验,擅长Oracle、MySQL、PG、Mongodb数据库运维(如安装迁移,性能优化、故障应急处理等)
公众号:老苏畅谈运维
欢迎关注本人公众号,更多精彩与您分享。

在做数据迁移、还原测试库以及其他需要导出、导入数据的需求下,我们常用到数据泵来进行数据的导出操作,但如果数据库中clob字段非常多,导出就会比较慢。数据库进行迁移时,如果停机窗口时间较短,那如何加快这个导出速度呢?

可能你会说,多开几个并行不就行了吗?事实上当你数据库中大对象数据量占用较大时候,你会发现开并行没有任何用,那么怎么解决这个问题呢?

那么解决方案是先排除大对象的表,然后这些大对象的表再通过rowid切片,使用多个进程进行导出导入,下面来详细介绍两种方式。

方法1:利用记录rowid的中间表

--创建一个表用于记录要导出表的rowid并分批,这里分成3批

--假设要导出的大字段表为SZR.T_CLOB

html 复制代码
create table szr.exp_rowid as select mod(rownum,3) sou_seq,rowid sou_rowid from SZR.T_CLOB;

--根据分批次数生成对应的parfile文件

html 复制代码
cat > expdp_t_clob_seq0.par << EOF
userid="/ as sysdba"
directory=dump_dir
dumpfile=expdp_t_clob0.dmp
logfile=expdp_t_clob0.log
cluster=no
tables=szr.t_clob
query=szr.t_clob:"where rowid in (select sou_rowid from szr.exp_rowid where sou_seq=0)"
EOF

cat > expdp_t_clob_seq1.par << EOF
userid="/ as sysdba"
directory=dump_dir
dumpfile=expdp_t_clob1.dmp
logfile=expdp_t_clob1.log
cluster=no
tables=szr.t_clob
query=szr.t_clob:"where rowid in (select sou_rowid from szr.exp_rowid where sou_seq=1)"
EOF

cat > expdp_t_clob_seq2.par << EOF
userid="/ as sysdba"
directory=dump_dir
dumpfile=expdp_t_clob2.dmp
logfile=expdp_t_clob2.log
cluster=no
tables=szr.t_clob
query=szr.t_clob:"where rowid in (select sou_rowid from szr.exp_rowid where sou_seq=2)"
EOF

执行导出

--执行导出

html 复制代码
nohup expdp parfile=expdp_t_clob_seq0.par > expdp_t_clob_seq0.par.out &
nohup expdp parfile=expdp_t_clob_seq1.par > expdp_t_clob_seq1.par.out &
nohup expdp parfile=expdp_t_clob_seq2.par > expdp_t_clob_seq2.par.out &

方法2: 利用dbms_rowid进行分割,生成导出脚本

原理:ROWID_BLOCK_NUMBER函数(该函数返回输入ROWID的数据块编号)

语法:

DBMS_ROWID.ROWID_BLOCK_NUMBER(

row_id IN ROWID,

ts_type_in IN VARCHAR2 DEFAULT 'SMAILLFILE')

返回值是number类型。

执行导出脚本:

chunk=3

for ((i=0;i<=2;i++));

do

nohup expdp '/ as sysdba' tables=SZR.T_CLOB query=SZR.T_CLOB:"where mod(dbms_rowid.rowid_block_number(rowid),{chunk}) = KaTeX parse error: Expected group as argument to '\\"' at position 6: {i}\\" ̲directory=dump_...{i}.dmp logfile=T_CLOB_{i}.log &

echo $i

done


如果要导入,则执行:

html 复制代码
impdp \'/ as sysdba\'  directory=dump_dir dumpfile=T_CLOB_0.dmp logfile=implog_T_CLOB0.log DATA_OPTIONS=DISABLE_APPEND_HINT CONTENT=DATA_ONLY
impdp \'/ as sysdba\'  directory=dump_dir dumpfile=T_CLOB_1.dmp logfile=implog_T_CLOB1.log DATA_OPTIONS=DISABLE_APPEND_HINT CONTENT=DATA_ONLY
impdp \'/ as sysdba\'  directory=dump_dir dumpfile=T_CLOB_2.dmp logfile=implog_T_CLOB2.log DATA_OPTIONS=DISABLE_APPEND_HINT CONTENT=DATA_ONLY

关注我,学习更多的数据库知识。

相关推荐
卡布奇诺-海晨13 分钟前
MySQL的MVCC机制
数据库·mysql
tianyuanwo16 分钟前
Ansible自动化运维全解析:从设计哲学到实战演进
运维·自动化·ansible
LucienShui31 分钟前
Webhook 配置备忘
linux·运维·webhook
LanLance33 分钟前
ES101系列09 | 运维、监控与性能优化
java·运维·后端·elasticsearch·云原生·性能优化·golang
hao_wujing40 分钟前
攻击模型的恶意行为检测
网络·数据库·php
Clownseven1 小时前
“轻量应用服务器” vs. “云服务器CVM”:小白入门腾讯云,哪款“云机”更适合你?(场景、配置、价格对比解析)
运维·服务器·腾讯云
Leo.yuan1 小时前
API是什么意思?如何实现开放API?
大数据·运维·数据仓库·人工智能·信息可视化
PH_modest1 小时前
【Linux跬步积累】—— 网络编程套接字(二)
linux·运维·网络
秃头摸鱼侠2 小时前
MySQL查询语句(续)
数据库·mysql
itachi-uchiha2 小时前
使用vsftpd搭建FTP服务器(TLS/SSL显式加密)
运维·服务器·ssl