oracle 加快expdp clob大字段导出速度的两种方式

html 复制代码
作者介绍:老苏,10余年DBA工作运维经验,擅长Oracle、MySQL、PG、Mongodb数据库运维(如安装迁移,性能优化、故障应急处理等)
公众号:老苏畅谈运维
欢迎关注本人公众号,更多精彩与您分享。

在做数据迁移、还原测试库以及其他需要导出、导入数据的需求下,我们常用到数据泵来进行数据的导出操作,但如果数据库中clob字段非常多,导出就会比较慢。数据库进行迁移时,如果停机窗口时间较短,那如何加快这个导出速度呢?

可能你会说,多开几个并行不就行了吗?事实上当你数据库中大对象数据量占用较大时候,你会发现开并行没有任何用,那么怎么解决这个问题呢?

那么解决方案是先排除大对象的表,然后这些大对象的表再通过rowid切片,使用多个进程进行导出导入,下面来详细介绍两种方式。

方法1:利用记录rowid的中间表

--创建一个表用于记录要导出表的rowid并分批,这里分成3批

--假设要导出的大字段表为SZR.T_CLOB

html 复制代码
create table szr.exp_rowid as select mod(rownum,3) sou_seq,rowid sou_rowid from SZR.T_CLOB;

--根据分批次数生成对应的parfile文件

html 复制代码
cat > expdp_t_clob_seq0.par << EOF
userid="/ as sysdba"
directory=dump_dir
dumpfile=expdp_t_clob0.dmp
logfile=expdp_t_clob0.log
cluster=no
tables=szr.t_clob
query=szr.t_clob:"where rowid in (select sou_rowid from szr.exp_rowid where sou_seq=0)"
EOF

cat > expdp_t_clob_seq1.par << EOF
userid="/ as sysdba"
directory=dump_dir
dumpfile=expdp_t_clob1.dmp
logfile=expdp_t_clob1.log
cluster=no
tables=szr.t_clob
query=szr.t_clob:"where rowid in (select sou_rowid from szr.exp_rowid where sou_seq=1)"
EOF

cat > expdp_t_clob_seq2.par << EOF
userid="/ as sysdba"
directory=dump_dir
dumpfile=expdp_t_clob2.dmp
logfile=expdp_t_clob2.log
cluster=no
tables=szr.t_clob
query=szr.t_clob:"where rowid in (select sou_rowid from szr.exp_rowid where sou_seq=2)"
EOF

执行导出

--执行导出

html 复制代码
nohup expdp parfile=expdp_t_clob_seq0.par > expdp_t_clob_seq0.par.out &
nohup expdp parfile=expdp_t_clob_seq1.par > expdp_t_clob_seq1.par.out &
nohup expdp parfile=expdp_t_clob_seq2.par > expdp_t_clob_seq2.par.out &

方法2: 利用dbms_rowid进行分割,生成导出脚本

原理:ROWID_BLOCK_NUMBER函数(该函数返回输入ROWID的数据块编号)

语法:

DBMS_ROWID.ROWID_BLOCK_NUMBER(

row_id IN ROWID,

ts_type_in IN VARCHAR2 DEFAULT 'SMAILLFILE')

返回值是number类型。

执行导出脚本:

chunk=3

for ((i=0;i<=2;i++));

do

nohup expdp '/ as sysdba' tables=SZR.T_CLOB query=SZR.T_CLOB:"where mod(dbms_rowid.rowid_block_number(rowid),{chunk}) = KaTeX parse error: Expected group as argument to '\\"' at position 6: {i}\\" ̲directory=dump_...{i}.dmp logfile=T_CLOB_{i}.log &

echo $i

done


如果要导入,则执行:

html 复制代码
impdp \'/ as sysdba\'  directory=dump_dir dumpfile=T_CLOB_0.dmp logfile=implog_T_CLOB0.log DATA_OPTIONS=DISABLE_APPEND_HINT CONTENT=DATA_ONLY
impdp \'/ as sysdba\'  directory=dump_dir dumpfile=T_CLOB_1.dmp logfile=implog_T_CLOB1.log DATA_OPTIONS=DISABLE_APPEND_HINT CONTENT=DATA_ONLY
impdp \'/ as sysdba\'  directory=dump_dir dumpfile=T_CLOB_2.dmp logfile=implog_T_CLOB2.log DATA_OPTIONS=DISABLE_APPEND_HINT CONTENT=DATA_ONLY

关注我,学习更多的数据库知识。

相关推荐
敲上瘾2 小时前
Redis持久化存储机制:从RDB到AOF再到混合持久化的配置与实践
linux·数据库·redis·缓存
小张同学a.2 小时前
OpenStack 私有云实战 2—— Glance 镜像与 Nova 计算服务搭建
linux·运维·服务器·openstack
陈让然3 小时前
VS Code C/C++ 插件 cpptools 内存占用异常
linux·运维
2401_894915535 小时前
GEO 优化源码全解析:从搜索引擎到 AI 引擎的底层改写逻辑
java·服务器·前端·数据库·人工智能·分布式·搜索引擎
qq_316411039 小时前
商用冷柜售后报修运维管理系统开发案例
运维
智码看视界10 小时前
Day59-阿里云ACK实战:生产级K8s集群部署与运维
运维·阿里云·kubernetes·k8s·日志监控·容器运维·阿里云ack
正儿八经的少年10 小时前
布隆过滤器(解决redis缓存穿透步骤之一)
数据库·redis·缓存
xrandzj10 小时前
MySQL8.0 从零通关核心操作手册(Ubuntu实战版)
数据库·mysql
我不会插花弄玉11 小时前
4.数据类型【由浅入深-MySQL】
数据库·mysql
denggun1234511 小时前
yield
前端·数据库·python