使用datax通过HbaseShell封装_同步hbase数据到瀚高数据库highgo_踩坑_细节总结---大数据之DataX工作笔记009

复制代码
{
    "job": {
        "setting": {
            "speed": {
                "channel": 3, 
                "byte": 1048576
            }, 
            "errorLimit": {
                "record": 0, 
                "percentage": 0.02
            }
        }, 
        "content": [
            {
                "reader": {
                    "name": "hbase11xreader", 
                    "parameter": {
                        "hbaseConfig": {
                            "hbase.zookeeper.quorum": "172.19.126.120,172.19.126.121,172.19.126.122:2181"
                        }, 
                        "table": "userinfoshell", 
                        "mode": "normal", 
                        "column": [
 	         	{
                               "name": "rowkey", 
                                "type": "string"
                            }, 
                            {
                                "name": "info:addr", 
                                "type": "string"
                            }, 
                            {
                                "name": "info:son_json", 
                                "type": "string"
                            }, 
                            {
                                "name": "info:mobile", 
                                "type": "string"
                            }, 
                            {
                                "name": "info:name", 
                                "type": "string"
                            }, 
                            {
                                "name": "info:email", 
                                "type": "string"
                            }
                        ]
                    }
                }, 
                "writer": {
                    "name": "mysqlwriter", 
                    "parameter": {
                        "username": "0uADFAaASDASDFASDmOA==", 
                        "password": "niVbuSDSESEFSDSdA==", 
                        "column": [
                            "id", 
		    "addr",
                            "son_json", 
                            "mobile", 
                            "name", 
                            "email"
                        ], 
                        "connection": [
                            {
                                "table": [
                                    "dzrb_bigdata_huiju.user_info"
                                ], 
                                "jdbcUrl": "jdbc:highgo://172.19.126.125:5866/datS_bigdata_cloud"
                            }
                        ]
                    }
                }
            }
        ]
    }, 
    "core": {
        "transport": {
            "channel": {
                "speed": {
                    "byte": 1231412
                }
            }
        }
    }
}

给出一个可以运行的json 用来把hbase同步到瀚高的,有了这个json就好多了.

可以看到,对应的,字段对应关系是可以直接对应起来的,不用字段名字一样,就是说,

hbase中写了比如info:name,info:age ,其实对应的瀚高中可以写成columnid,addr

这样就相当于把name传入到id中,把ageaddr

然后就可以去使用datax-web去跑一下试试了.

相关推荐
小羊没烦恼!4 天前
微服务化的基石——持续集成
java·大数据·word·powerpoint·.net
一隅论数智4 天前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
尧炎科技4 天前
防潮抗变形,就选纯品梅花全桉多层板
大数据
程序员大阳4 天前
副队长大数据教程(5)--集群情况下虚拟机网络配置
大数据·集群·nat·网路
自由能燃气设备4 天前
商用全预混低氮冷凝锅炉免费方案vs付费方案对比+选型避坑指南
大数据·数据库·人工智能
科创致远4 天前
科创致远 ESOP 系统核心效能与实战价值展示
大数据·数据库·人工智能·精益工程
嘉立创FPC苗工4 天前
FPC与机器人的双向赋能,解锁智能装备进化新势能
大数据·人工智能·制造·fpc·电路板
AI职业加油站4 天前
AI智能体应用工程师证书:政策红利下的职业新风口
大数据·运维·人工智能·学习·职场发展
龙亘川4 天前
一网统管AI平台民生业务实践:基于城市数字底座赋能公积金业务服务升级
大数据·安全·智慧城市·开源软件·数据可视化·政务
码流子4 天前
高速公路安全监测实践:碰撞监测预警+物联网底座,从感知到处置的闭环
大数据·人工智能·物联网·算法·架构