实时开发平台(Streampark)--Flink SQL功能演示

🔥🔥 AllData大数据产品是可定义数据中台,以数据平台为底座,以数据中台为桥梁,以机器学习平台为中层框架,以大模型应用为上游产品,提供全链路数字化解决方案。

✨杭州奥零数据科技官网:http://www.aolingdata.com

✨Github项目:https://github.com/alldatacenter/alldata

✨Gitee项目:https://gitee.com/alldatacenter/alldata

✨AllData官方手册:https://www.yuque.com/aolingdata/product

✨AllData正式环境:http://43.138.156.44:5173/ui_moat

摘要:

• 使用Flink StandaIone模式运行FIink SQL Demo

• Flink 安装包需要与 StreamPark 服务同在一台服务器


实时开发平台基于开源项目StreamPark建设

实时开发平台 StreamPark 提供了一系列快捷 API 和 Connector,开箱即用,作业状态自动追踪,快速完成作业的开发和管理。同时支持 Flink & Spark,无缝支持流式处理和批处理,连接互通,创造无限可能。

StreamPark 是一个流处理应用程序开发管理框架,旨在轻松构建和管理流处理应用程序,提供使用Flink 和 Spark 编写流处理应用的开发框架和一站式实时计算平台,核心能力包括不限于应用开发、部署、管理、运维、实时数仓等。

StreamPark 为流处理作业提供全生命周期支持,从开发到部署,集众多功能于一身,是一站式流处理平台。

1、FIink安装

1.1 下载


1.2 解压

  • 上传服务器并解压
  • 配置系统环境变量
  • 添加以下内容
  • 使配置生效

1.3 配置

  • 进入conf目录
  • 修改flink-conf.yaml 配置文件
  • 修改以下内容
  • 保存并提出

1.4 启动

  • 进入bin目录
  • 执行以下命令启动

2、Streampark

2.1 配置Flink版本

  • 安装路径为服务器Flink的绝对路径
  • 添加完成

2.2 配置集群

  • 进入集群管理页面,点击 "添加"
  • 配置集群信息,点击 "提交"
  • 配置完成

2.3 配置作业

  • 进入作业管理,点击 "添加"
  • 配置作业信息


  • FIink SQL
  • 下滑到最下方,点击提交

2.4 发布作业

  • 点击下图所示按钮
  • 发布中
  • 发布成功

2.5 启动作业

  • 点击下图所示按钮,启动作业
  • 点击应用
  • 启动中
  • 启动完成
  • 等待执行完成,可以访问 flink ui 查看执行情况 http://8g007:8081
  • 8g007 为 flink安装所在服务器域名或ip,8081 为flink默认访问端口


2.6 完成作业

相关推荐
超级架构师8 分钟前
先在“可能世界”中测试自治系统:PEIRAVELA 的实验控制平面
人工智能·架构·ai编程
码农胖大海9 分钟前
我的第一个产品,只有一段提示词
前端·ai编程·产品
一支标11 分钟前
【手机+电脑】通达信《K策王》策略战法K策王技术副图指标使用说明
大数据·智能手机·电脑
坐吃山猪29 分钟前
【多线程】Lock与Condition
大数据·数据库
邋遢道37 分钟前
# 企业级 Agent 从 0 到 1(二):技术选型与最小骨架
前端·chrome
计算机魔术师41 分钟前
我看了 OpenAI 首席科学家的最新长文,把原来的认知推翻了一遍
前端
乱码三千1 小时前
使用ComfyUI+MinMax-H3音视频模型生成视频
前端·后端·github
Coder_Ke1 小时前
代码我都定位了,Codex 还在考古:于是我写了个 VS Code 插件
前端
M--Y1 小时前
Docker数据持久化与网络架构
网络·docker·架构
这个DBA有点耶2 小时前
同样48核配置TPS差1倍?高性价比数据库一体机的“软硬协同”才是分水岭
服务器·数据库·架构