AWS Glue从GCP的bigquery导入数据到AWS Redshift数据仓库

准备工作

  • 创建账号与服务账号:拥有Google Cloud账号,创建有BigQuery权限的服务账号;拥有AWS账号,创建有相关权限的IAM用户。
  • 创建资源:创建Amazon Redshift集群或Redshift Serverless工作区,创建用于存储数据和配置文件的S3 bucket。
  • 准备配置文件:准备JSON格式的配置文件,包含要迁移的BigQuery项目、数据集和表信息。
  • 设置BigQuery连接器:在AWS Marketplace订阅Google BigQuery Connector for AWS Glue,按说明在AWS Glue Studio激活。

配置连接信息

  • 创建BigQuery连接凭证:在AWS Secrets Manager创建新密钥,将Google服务账号JSON文件内容进行Base64编码后存储。
  • 配置BigQuery连接选项:在AWS Glue中设置Google Cloud项目ID、BigQuery数据集、表等信息。
  • 配置Redshift连接:在AWS Glue中配置Redshift连接,提供集群端点、数据库名称、用户名和密码等。

数据迁移

  • 创建AWS Glue ETL作业:在AWS Glue Studio中创建ETL作业,选择Python Shell或Spark作业类型,编写ETL逻辑。
  • 设置作业参数:配置作业参数,如源和目标连接信息、要迁移的表名等。
  • 运行ETL作业:保存并运行ETL作业,可选择立即运行或按计划运行,AWS Glue从BigQuery读取数据,按ETL逻辑转换处理后写入S3。
  • 将数据从S3加载到Redshift:使用Redshift的COPY命令或AWS Glue的内置功能,将S3中的数据加载到Redshift表中。

验证与监控

  • 数据验证:使用查询或数据验证工具,对比BigQuery和Redshift中的数据,确保数据准确性和完整性。
  • 监控作业状态:在AWS Glue控制台或CloudWatch中监控ETL作业状态和性能指标,及时处理错误和告警。
相关推荐
wanhengidc1 小时前
云手机和网盘之间的关系
网络·游戏·智能手机·架构·云计算
亚林瓜子3 小时前
AWS中国云中的ETL之从aurora搬数据到s3(Glue版)
hadoop·spark·云计算·etl·aws
Lin_Aries_04214 小时前
通过配置 GitLab 自动触发项目自动化构建与部署
运维·docker·容器·自动化·云计算·gitlab
iconball6 小时前
个人用云计算学习笔记 --15. (Linux 系统启动原理、Linux 防火墙管理))
linux·运维·笔记·学习·云计算
NY66 小时前
腾讯云上TKE集群中通过clb-ingress公网访问到后端服务
云计算·腾讯云
XINVRY-FPGA7 小时前
XA7A75T-1FGG484Q 赛灵思 Xilinx AMD Artix-7 XA 系列 FPGA
嵌入式硬件·fpga开发·车载系统·云计算·硬件架构·硬件工程·fpga
Lin_Aries_04219 小时前
使用 Jenkins 的流水线项目实施 CI/CD
运维·ci/cd·docker·容器·云计算·jenkins
遥感之家11 小时前
AWS下载sentinel-2原始影像
云计算·sentinel·aws
亚林瓜子11 小时前
AWS中的离线计算(大数据大屏项目)
大数据·hadoop·sql·spark·云计算·aws
AWS官方合作商11 小时前
AWS实战:轻松创建弹性IP,实现固定公网IP地址
tcp/ip·云计算·aws