测试环境搭建整套大数据系统(十七:mysql同步,字段类型映射错误问题)

问题描述

mysql表

hive表

其中 type是字符串类型,但是yarn上一直报错

number这个类是往int类型转才会使用到的

解决方法

在命令中增加参数

dart 复制代码
sqoop export \
  --connect "jdbc:mysql://?useUnicode=true&characterEncoding=UTF-8" \
  --username root \
  --password  \
  --table event_resource_statistics \
  --columns "create_time,type,quantity,used_space,size,sort" \
  --input-fields-terminated-by '\t' \
  --input-null-string '\\N' \
  --export-dir /hive/warehouse/parsed_local_probe_origin \
  --map-column-java create_time=String,type=String,quantity=Long,used_space=Long,size=String,sort=Integer \
  --verbose

增加--columns "create_time,type,quantity,used_space,size,sort"

--map-column-java create_time=String,type=String,quantity=Long,used_space=Long,size=String,sort=Integer \

相关推荐
光泽雨30 分钟前
mysql 约束
数据库·mysql
scan7242 小时前
龙虾读取session历史消息
java·前端·数据库
TDengine (老段)2 小时前
TDengine IDMP 可视化 —— 饼图
大数据·数据库·人工智能·物联网·时序数据库·tdengine·涛思数据
认真的薛薛2 小时前
GPU运维:vllm启动大模型参数解析
运维·数据库·vllm
刘~浪地球2 小时前
Redis 从入门到精通(九):事务详解
数据库·redis·缓存
熊文豪2 小时前
当系统在后台偷偷“记账“:KES 性能观测体系深度解析
linux·运维·服务器·数据库
殷紫川3 小时前
击穿 InnoDB 事务隔离级别:RC 与 RR 的底层实现、锁机制、MVCC 与幻读终极拆解
mysql
jarvisuni3 小时前
GLM-5V-Turbo多模态测试,克隆Claude官网!
数据库
殷紫川3 小时前
击穿 MySQL InnoDB MVCC 底层:从 undo log、Read View 到隔离级别的全链路深度拆解
mysql
Full Stack Developme3 小时前
MySQL 触发器 存储过程 介绍
数据库·mysql