【Flink学习】(三)Flink 数据源详解,主流 Source 数据读取

内置数据源、文件数据源、网络数据源、Kafka 主流数据源、自定义数据源

二、内置数据源

1、集合数据源:本地测试推荐此类

java 复制代码
List<String> dataList = Arrays.asList("java","flink","spark");
DataStreamSource<String> listStream = env.fromCollection(dataList);

2、元素直接创建数据源

java 复制代码
DataStreamSource<String> elementStream = env.fromElements("张三","李四","王五");

3、Socket 网络数据源:实时流式测试常用

java 复制代码
DataStreamSource<String> socketStream = env.socketTextStream("localhost", 8888);

三、文件数据源

1、读取本地单行文本文件

2、读取 HDFS 分布式文件

3、区分有界流(文件)、无界流(实时数据流)

四、Kafka 数据源(重点-企业核心)

Flink 对接 Kafka 消费实时数据,配置消费者组、主题、序列化方式,实现实时读取消息队列数据

五、数据源使用场景选择

本地测试:集合、元素、Socket 数据源

离线分析:本地文件、HDFS 文件

线上实时业务:统一使用 Kafka 数据源

相关推荐
衡石科技15 分钟前
HENGSHI BOX|全域智控,私域安全的ChatBI一体机
大数据·人工智能·安全
张工在路上30 分钟前
WPF 布局基础概述
大数据·hadoop·wpf
链上日记42 分钟前
从公开信息看WEEX的运营轨迹
大数据·区块链
江畔柳前堤1 小时前
具身智能全景深度指南(2026年9月版):从“会聊天的AI“到“能干活的机器“
大数据·javascript·图像处理·人工智能·分布式·智慧城市·原型模式
GlobalInfo1 小时前
创新不是追逐热点,是在变化中建立长期竞争力
大数据·算法
Safeploy安策数据2 小时前
国密合规怎么落地?从密钥管理到内网安全完整流程
大数据·安全
2601_960017622 小时前
饲料添加剂研发PLM选型:解读一半科技流程行业适配能力
大数据
baopixiaoz2 小时前
BeeQuant × BeeAgent:AI量化新范式
大数据·人工智能·python·区块链
Raas1003 小时前
AI网关在架构中的位置?MAI Gateway(魔芋企业级AI网关)给出企业级答案
大数据·网络·人工智能·架构·gateway·ai网关·mai gateway
2601_960017623 小时前
油田化学品PLM系统选型:一半科技聚焦配方、工艺、数据管理
大数据·科技