Flink:使用 Faker 和 DataGen 生成测试数据

|--------------------------------------------------------------------------------------------------------------------------|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| | 博主历时三年精心创作的《大数据平台架构与原型实现:数据中台建设实战》一书现已由知名IT图书品牌电子工业出版社博文视点出版发行,点击《重磅推荐:建大数据平台太难了!给我发个工程原型吧!》了解图书详情,京东购书链接:https://item.jd.com/12677623.html,扫描左侧二维码进入京东手机购书页面。 |

DataGen 是开源 Flink 就内置的随机数据生成器;DataGen 生成的数据仅支持随机和序列值两种,且也并不是所有的数据类型都能支持随机或序列值,例如最常见的一个需求:针对时间类型就不能生成指定区间内的单调递增的数值,相较而言,Faker 的功能要明显强于 DataGen,我们只需掌握 Faker 这一种数据生成器就足够了。

1. 安装

bash 复制代码
sudo -u flink wget https://github.com/knaufk/flink-faker/releases/download/v0.5.3/flink-faker-0.5.3.jar -P /usr/lib/flink/lib/

2. 示例

sql 复制代码
-- example 1: currency_rates

drop table if exists currency_rates;

create table if not exists currency_rates (
    currency_code string,
    eur_rate decimal(6,4),
    rate_time timestamp(3)
)
with (
    'connector' = 'faker',
    'fields.currency_code.expression' = '#{Currency.code}',
    'fields.eur_rate.expression' = '#{Number.randomdouble ''4'',''0'',''10''}',
    'fields.rate_time.expression' = '#{date.past ''15'',''SECONDS''}',
    'rows-per-second' = '100'
);

select * from currency_rates;

-- example 2: transactions

drop table if exists transactions;

create table if not exists transactions (
    `id` string,
    `currency_code` string,
    `total` decimal(10,2),
    `transaction_time` timestamp(3),
    watermark for `transaction_time` as transaction_time - interval '30' second
) with (
    'connector' = 'faker',
    'fields.id.expression' = '#{Internet.UUID}',
    'fields.currency_code.expression' = '#{Currency.code}',
    'fields.total.expression' = '#{Number.randomDouble ''2'',''10'',''1000''}',
    'fields.transaction_time.expression' = '#{date.past ''30'',''SECONDS''}',
    'rows-per-second' = '100'
);

select * from transactions;

3. 资源

Flink Faker 项目地址:https://github.com/knaufk/flink-faker/?tab=readme-ov-file

表达式文档:https://github.com/datafaker-net/datafaker

相关推荐
花下的晚风1 天前
如何搭建Linux环境下的flink本地集群
linux·flink
lifallen1 天前
Flink堆状态后端核心:CopyOnWriteStateMap解析
java·大数据·数据结构·数据库·算法·flink·哈希算法
expect7g2 天前
Flink-反压-4.源码分析-浮动缓冲区和专属缓冲区
后端·flink
expect7g3 天前
Flink-反压-3.源码分析-流程-2
后端·flink
expect7g3 天前
Flink-反压-2.源码分析-流程-1
后端·flink
Flink_China4 天前
抖音集团基于Flink的亿级RPS实时计算优化实践
大数据·flink
csgo打的菜又爱玩5 天前
17.TaskExecutor与ResourceManager交互
java·大数据·flink
lifallen5 天前
Paimon INSERT OVERWRITE
java·大数据·数据库·flink
智海观潮6 天前
如何解决Flink CDC同步时间类型字段8小时时间差的问题,以MySQL为例
大数据·flink·flink cdc·实时数据同步
小白上线*^_^*7 天前
Flink实时流量统计:基于窗口函数与Redis Sink的每小时PV监控系统(学习记录)
大数据·flink