Flink算子简单测试样例

Flink算子简单测试样例

1. 创建执行环境
c 复制代码
        // 创建执行环境
        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
        env.setParallelism(1);

2. 创建数据流
c 复制代码
        // 创建数据流
        DataStream<String> source = env.addSource(new DataGeneratorSource<>(new DataGenerator<String>() {
            final int CNT = 10000; // 模拟一万条数
            int i = 0;

            @Override
            public void open(String s, FunctionInitializationContext functionInitializationContext, RuntimeContext runtimeContext) throws Exception {}

            @Override
            public boolean hasNext() {
                return i < CNT;
            }

            @Override
            public String next() {
                i++;
                try {
                    Thread.sleep(new Random().nextInt(2000)); // 随机发生时间
                } catch (InterruptedException e) {
                }
                return "" + i;
            }
        })).returns(String.class).uid("source").name("source");

3. 数据补充
c 复制代码
        // 数据补充-添加时间戳,增加金额
        SingleOutputStreamOperator<Map<String, String>> mapOperator = source.map((MapFunction<String, Map<String, String>>) s -> {
            HashMap<String, String> hashMap = new HashMap<>();
            hashMap.put("userid", s);
            hashMap.put("amt", new Random().nextInt(100) + "");
            hashMap.put("time", System.currentTimeMillis() + "");
            return hashMap;
        }).returns(TypeInformation.of(new TypeHint<Map<String, String>>() {
        })).uid("mapOperator").name("mapOperator");

4. 数据过滤
c 复制代码
        // 数据过滤-只取时间戳为偶数的数据
        SingleOutputStreamOperator<Map<String, String>> filterOperator = mapOperator.filter((FilterFunction<Map<String, String>>) data -> {
//                System.out.println("从mapOperator接到数据:" + data);
            long time = Long.parseLong(data.get("time"));
            return time % 2 == 0;
        }).returns(TypeInformation.of(new TypeHint<Map<String, String>>() {
        })).uid("filterOperator").name("filterOperator");

5. 数据放大
c 复制代码
        // 数据放大-时间戳是4的倍数,双倍奖励,8的倍数,三倍奖励
        SingleOutputStreamOperator<Map<String, String>> flatMapOperator = filterOperator.flatMap((FlatMapFunction<Map<String, String>, Map<String, String>>) (data, collector) -> {
            collector.collect(data);
            if (Long.parseLong(data.get("time")) % 4 == 0) {
                collector.collect(data);
            }
            if (Long.parseLong(data.get("time")) % 8 == 0) {
                collector.collect(data);
            }
        }).returns(TypeInformation.of(new TypeHint<Map<String, String>>() {
        })).uid("flatMapOperator").name("flatMapOperator");

6. 数据输出
c 复制代码
        // 数据输出
        flatMapOperator.print();

        // 执行程序
        env.execute("FlinkTest");

7. 执行结果
c 复制代码
{amt=45, time=1705048891056, userid=4}
{amt=45, time=1705048891056, userid=4}
{amt=45, time=1705048891056, userid=4}
{amt=56, time=1705048894374, userid=6}
{amt=96, time=1705048899462, userid=10}
{amt=65, time=1705048901638, userid=12}
{amt=33, time=1705048902544, userid=13}
{amt=33, time=1705048902544, userid=13}
{amt=33, time=1705048902544, userid=13}
{amt=10, time=1705048903748, userid=14}
{amt=10, time=1705048903748, userid=14}
...

Process finished with exit code 0
相关推荐
大大大大晴天9 小时前
浅聊维度建模中的星型模型与雪花模型
大数据
数字新视界14 小时前
能耗管理系统提升企业能源效率的实践与展望
大数据·人工智能·数据中心·机房管理·模块化机房
大大大大晴天14 小时前
别让金额越算越多:事实表与维度表设计避坑指南
大数据
如夏倾城16 小时前
入侵检测系统(IDS)原理、部署模式与 IPS/防火墙对比
大数据·网络·人工智能·网络安全·云原生·架构·kubernetes
wuyk55516 小时前
Spider-第20讲-综合实战可上线爬虫
大数据·爬虫·python·elasticsearch
培培说证16 小时前
大数据与会计专业性价比高的证书有哪些?
大数据
伞伞悦读18 小时前
【第90期】KNN分类回归流水线与K值对照的实验与排查
大数据·人工智能·python·深度学习·机器学习
老余说AI18 小时前
跨境电商、课程出海:六款多语言视频翻译工具选型指南
大数据·运维·人工智能
starzy199019 小时前
Structured Streaming 模块与编程模型:引擎内部到底由什么组成
大数据·hadoop·hdfs
Lansonli19 小时前
大数据Spark(九十二):Spark WebUI介绍
大数据·分布式·spark