Flink流批一体计算(23):Flink SQL之多流kafka写入多个mysql sink

目录

[1. 准备工作](#1. 准备工作)

生成数据

创建数据表

[2. 创建数据表](#2. 创建数据表)

创建数据源表

创建数据目标表

[3. 计算](#3. 计算)

WITH子句


1. 准备工作

生成数据

source kafka json 数据格式 :

topic case_kafka_mysql:

{"ts": "20201011","id": 8,"price_amt":211}

topic flink_test_2:

{"id": 8,"coupon_price_amt":100}

注意:针对双流中的每条记录都发触发

topic: case_kafka_mysql

复制代码
docker exec -it 192d1369463a bash

bash-5.1# cd /opt/kafka_2.12-2.5.0/bin

bash-5.1# ./kafka-console-producer.sh --broker-list localhost:9092 --topic case_kafka_mysql

>{"ts": "20201011","id": 8,"price_amt":211}

topic: flink_test_2

bash 复制代码
docker exec -it 192d1369463a bash

bash-5.1# cd /opt/kafka_2.12-2.5.0/bin

bash-5.1# ./kafka-console-producer.sh --broker-list localhost:9092 --topic flink_test_2

>{"id": 8,"coupon_price_amt":100}
创建数据表

mysql 建表语句

sql 复制代码
CREATE TABLE `sync_test_2` (

  `id` bigint(11) NOT NULL AUTO_INCREMENT,

  `ts` varchar(64) DEFAULT NULL,

  `total_gmv` bigint(11) DEFAULT NULL,

  PRIMARY KEY (`id`),

  UNIQUE KEY `uidx` (`ts`) USING BTREE

) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8mb4;



CREATE TABLE `sync_test_22` (

  `id` bigint(11) NOT NULL AUTO_INCREMENT,

  `ts` varchar(64) DEFAULT NULL,

  `coupon_ratio` double DEFAULT NULL,

  PRIMARY KEY (`id`),

  UNIQUE KEY `uidx` (`ts`) USING BTREE

) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8mb4;

2. 创建数据表

创建数据源表
sql 复制代码
create table flink_test_2_1 (
  id BIGINT,
  ts VARCHAR,
  price_amt BIGINT,
  proctime AS PROCTIME ()
)
 with (
   'connector' = 'kafka',
   'topic' = 'case_kafka_mysql',
   'properties.bootstrap.servers' = '127.0.0.1:9092',
   'properties.group.id' = 'flink_gp_test2-1',
   'scan.startup.mode' = 'earliest-offset',
   'format' = 'json',
   'json.fail-on-missing-field' = 'false',
   'json.ignore-parse-errors' = 'true',
   'properties.zookeeper.connect' = '127.0.0.1:2181/kafka'
 );

create table flink_test_2_2 (
  id BIGINT,
  coupon_price_amt BIGINT,
  proctime AS PROCTIME ()
)
 with (
   'connector' = 'kafka',
   'topic' = 'flink_test_2',
   'properties.bootstrap.servers' = '127.0.0.1:9092',
   'properties.group.id' = 'flink_gp_test2-2',
   'scan.startup.mode' = 'earliest-offset',
   'format' = 'json',
   'json.fail-on-missing-field' = 'false',
   'json.ignore-parse-errors' = 'true',
   'properties.zookeeper.connect' = '127.0.0.1:2181/kafka'
 );

关键配置的说明:

json.fail-on-missing-field:在json缺失字段时是否报错

json.ignore-parse-errors:在解析json失败时是否报错

一般无法保证json格式,所以以上两个配置是比较重要的。

创建数据目标表
sql 复制代码
CREATE TABLE sync_test_2 (
                   ts string,
                   total_gmv bigint,
                   PRIMARY KEY (ts) NOT ENFORCED

 ) WITH (
   'connector' = 'jdbc',
   'url' = 'jdbc:mysql://127.0.0.1:3306/db01?characterEncoding=UTF-8',
   'table-name' = 'sync_test_2',
   'username' = 'root',
   'password' = 'Admin'
 );

CREATE TABLE sync_test_22 (
                   ts string,
                   coupon_ration bigint,
                   PRIMARY KEY (ts) NOT ENFORCED
 ) WITH (
   'connector' = 'jdbc',
   'url' = 'jdbc:mysql://127.0.0.1:3306/db01?characterEncoding=UTF-8',
   'table-name' = 'sync_test_2',
   'username' = 'root',
   'password' = 'Admin'
 );

3. 计算

一个作业中写入一个Sink或多个Sink。

说明 写入多个Sink语句时,需要以BEGIN STATEMENT SET; 开头,以END; 结尾。

sql 复制代码
BEGIN STATEMENT SET;      --写入多个Sink时,必填。
INSERT INTO sync_test_2
SELECT
  ts,
  SUM(price_amt - coupon_price_amt) AS total_gmv
FROM
  (
    SELECT
      a.ts as ts,
      a.price_amt as price_amt,
      b.coupon_price_amt as coupon_price_amt
    FROM
      flink_test_2_1 as a
      LEFT JOIN flink_test_2_2 b on b.id = a.id
  )
GROUP BY ts;

INSERT INTO sync_test_22
SELECT
  ts,
  sum(coupon_price_amt)/sum(amount) AS coupon_ration
FROM
  (
    SELECT
      a.ts as ts,
      a.price_amt as price_amt,
      b.coupon_price_amt as coupon_price_amt
    FROM
      flink_test_2_1 as a
      LEFT JOIN flink_test_2_2 b on b.id = a.id
  )
GROUP BY ts;;
END;      --写入多个Sink时,必填。
WITH子句

WITH提供了一种编写辅助语句以用于更大的查询的方法。这些语句通常被称为公共表表达式(CTE),可以被视为定义仅针对一个查询存在的临时视图。

改写上述查询:

sql 复制代码
BEGIN STATEMENT SET;      --写入多个Sink时,必填。
with orders_with_coupon AS (
    SELECT
      a.ts as ts,
      a.price_amt as price_amt,
      b.coupon_price_amt as coupon_price_amt
    FROM
      flink_test_2_1 as a
      LEFT JOIN flink_test_2_2 b on b.id = a.id
)

INSERT INTO sync_test_2
SELECT
  ts,
  SUM(price_amt - coupon_price_amt) AS total_gmv
FROM orders_with_coupon
GROUP BY ts;

INSERT INTO sync_test_22
SELECT
  ts,
  coupon_price_amt/price_amt AS coupon_ration
FROM orders_with_coupon
GROUP BY ts;;
END;      --写入多个Sink时,必填。
相关推荐
DataGear3 小时前
如何在DataGear 5.4.1 中快速制作SQL服务端分页的数据表格看板
javascript·数据库·sql·信息可视化·数据分析·echarts·数据可视化
数据狐(DataFox)4 小时前
SQL参数化查询:防注入与计划缓存的双重优势
数据库·sql·缓存
lifallen13 小时前
Paimon vs. HBase:全链路开销对比
java·大数据·数据结构·数据库·算法·flink·hbase
茫茫人海一粒沙13 小时前
理解 Confluent Schema Registry:Kafka 生态中的结构化数据守护者
分布式·kafka
先做个垃圾出来………14 小时前
SQL的底层逻辑解析
数据库·sql
Lx35215 小时前
MySQL物化视图:预计算查询结果的定期刷新
sql·mysql·性能优化
Lx35215 小时前
Mysql死锁日志分析:事务逻辑冲突的排查技巧
sql·mysql·性能优化
dessler16 小时前
Kafka-消费者(Consumer)和消费者组(Consumer Group)
linux·运维·kafka
RainbowSea16 小时前
14. MySQL 锁的详细说明
java·sql·mysql
虚!!!看代码16 小时前
【Kafka使用方式以及原理】
分布式·kafka