DataX实现Gauss300->ADB PG(前一天数据)增量迁移

1、提前准备源Gauss300、目标 ADB PG数据库连接信息。

bash 复制代码
psql -hx.x.x.x -p25308 -Utest1 -ddb_name
xxxxxx

psql -hx.x.x.x -p3432 -Utest1 -ddb_name
xxxxxx

2、编写迁移脚本,并执行迁移。

bash 复制代码
#!/bin/bash
file_name=1.json
today_data=`date "+%Y-%m-%d 00:00:00"`
yesterday_data=`date -d "1 days ago" "+%Y-%m-%d 00:00:00"`
cat > $file_name << EOF
{
    "job": {
        "setting": {
            "speed": {
                 "channel": 2
            },
                "errorLimit": {
                "record": 0,
                "percentage": 0.02
            }
        },
        "content": [
            {
                "reader": {
                    "name": "gaussdbreader",
                    "parameter": {
                        "username": "xxxxxx",
                        "password": "xxxxxx",
                        "column": [
                            '*'
                        ],
                        "connection": [
                            {
                                "querySql": [
                                    "select * from table_name where load_time >= '$yesterday_data' and load_time < '$today_data';"
                                ],
                                "jdbcUrl": [
                                        "jdbc:opengauss://x.x.x.x/db_name"
                                ]
                            }
                        ]
                    }
                },
                "writer": {
                    "name": "postgresqlwriter",
                    "parameter": {
                        "username": "xxxxxx",
                        "password": "xxxxxx",
                        "column": [
                                "*"
                        ],
                        "connection": [{
                                "jdbcUrl": "jdbc:postgresql://x.x.x.x:3432/db_name",
                                 "table": [
                                 "table_name"
                                ]
                        }]
                    }
                }
        }
        ]
    }
}
EOF
nohup python /data/datax/datax/bin/datax.py /data/shell/qianyi/$file_name > /data/shell/qianyi/$file_name.log 2>&1 &
相关推荐
AIOT魔法师10 小时前
修复Android studio的adb无法连接手机问题
adb·智能手机·android studio
gamers1 天前
rock linux 9 安装mysql 5.7.44
linux·mysql·adb
独行soc1 天前
2025年渗透测试面试题总结-67(题目+回答)
网络·python·安全·web安全·网络安全·adb·渗透测试
sibylyue1 天前
MySQLTransactionRollbackException
adb
快乐觉主吖1 天前
adb的常用命令
adb
好名字更能让你们记住我1 天前
MYSQL数据库初阶 之 MYSQL用户管理
linux·数据库·sql·mysql·adb·数据库开发·数据库架构
哥哥还在IT中1 天前
mysql分库分表数据量核查问题
数据库·mysql·adb
paid槮1 天前
MySql基础:数据类型
android·mysql·adb
九河云2 天前
华为云 GaussDB:金融级高可用数据库,为核心业务保驾护航
网络·数据库·科技·金融·华为云·gaussdb
独行soc2 天前
2025年渗透测试面试题总结-66(题目+回答)
java·网络·python·安全·web安全·adb·渗透测试