
最近悄悄搞了个大动作!AllData数据中台集成开源项目StreamPark全新构建实时开发平台!这不仅是一次功能的迭代,更是实时计算能力的全面跃迁。

以往开发实时数据任务,大多只能逐行手写代码,不仅上手门槛极高,还极易因细微拼写错误耗费大量时间排查调试。
StreamPark可视化拖拽开发模式,只需在页面简单拖拽组合,即可快速搭建实时作业,大幅降低实时开发入门门槛,零基础新手也能快速上手实操。
💎项目地址:https://github.com/apache/streampark
💎文档地址:https://streampark.apache.org/docs/get-started/quick-start


实时开发平台(StreamPark)的这次升级迭代,不仅是视觉层面的优化,更是以用户为中心、深耕企业实时计算需求的深度体现。
以往搭建复杂的 Flink 实时任务,需手动打包上传、编写繁琐的提交参数,耗时费力还易出错。如今依托 StreamPark,在线构建搭配可视化配置,即可快速完成从代码开发到任务上线的全流程。
实时开发平台有效解决了传统模式下部署冗杂、依赖混乱及故障恢复困难等核心痛点,为企业构建稳定、高效的实时数据体系提供了坚实底座。


实时开发平台【StreamPark】功能展示
1、Apache Flink
提供Flink版本与集群配置,支持作业全生命周期管理,包括创建、编辑、运行与监控。

2、Apache Spark
可视化监控作业状态、资源使用及运行指标。具备多版本兼容、集群管理、故障自愈能力,实现实时数据的高效处理与运维。

3、资源中心
支持创建和维护Flink、Spark等项目,集中托管作业所需的Jar包、UDF函数等依赖文件。

4、设置中心
支持设置Maven 配置、 Settings 路径、仓库地址及访问账号密码,可管理构建依赖,保障 Flink/Spark 任务开发与编译环境稳定。

5、系统管理
支持增删改查用户,可配置账号类型、登录方式与状态,管控权限与操作。


一、使用流程图示

二、Apache Flink
Apache Flink:实时开发平台的 "实时心脏"。专门处理实时数据流,数据一产生就立刻计算,延迟极低,还能记住历史状态。
1、作业管理:Flink作业管理实现作业提交、调度、监控与动态资源分配,保障实时计算高效稳定。
新建作业路径:点击【+添加】→ 填写作业信息(在FlinkSQL部分编辑完成后需要先点击【验证】确认正确后再点击【格式化】规范SQL语言)→ 提交保存 → 返回作业管理列表手动点击【运行】启动作业。

图1-Apache Flink作业管理页面

图2-新建/编辑Apache Flink作业管理

图3- 查看Apache Flink作业详情

图4-查看Apache FlinkSQL语句
2、Flink版本
提供一站式Flink作业管理,支持多版本兼容,具备作业提交、调度、监控及故障自愈能力,保障实时计算高效稳定运行。

图5-Flink版本页面
支持多环境参数动态绑定,可一键下发Flink作业参数、依赖库及资源规格至集群,实现开发/测试/生产环境配置级联更新,避免人工疏漏导致作业异常。

图6-Flink版本操作配置同步
3、集群管理
提供多集群统一纳管与资源动态调度,支持Flink作业跨集群分发、资源配额隔离、健康度监控及故障自愈,保障实时计算集群高可用与弹性伸缩。

图7-Apache Flink集群管理页面

图8-添加集群
三、Apache Spack
实时开发平台的 "全能多面手",批处理为主、兼顾准实时,擅长大规模离线数据计算,也能做 "秒级" 实时,功能全面。
1、作业管理
支持Spark任务全周期管控,涵盖提交、调度、监控及故障自愈,保障任务稳定运行。

图9-Apache Spark作业管理页面

图10-新建/创建Apache Spark作业
2、Spark版本
支持多版本Spark管理,提供版本配置、依赖隔离与集群适配,保障Spark作业稳定运行与跨环境兼容性。

图10-新建/创建Apache Spark作业

图11-添加Spark版本
四、资源中心
1、项目管理 :支持资源分库分类、权限隔离与版本追溯,实现多项目资源独立管控,避免跨团队协作冲突与资源误用。

图12-项目管理页面

图13-创建项目

图14-查看构建日志
2、资源上传
支持多格式资源一键上传。

图15-资源上传页面

图16-添加资源弹窗
3、变量管理
支持全局/项目级变量配置、多环境动态替换与版本追踪,实现资源参数与代码解耦,保障跨环境部署一致性。

图17-变量管理页面

图18-新建变量管理
五、设置中心
1、环境设置
支持多环境参数隔离、集群动态绑定与资源变量联动。

图19-环境设置页面
2、告警设置
多维度阈值配置、多渠道通知(邮件/短信)与告警策略自定义。

图20-告警设置页面

图21-告警设置弹窗
3、扩展链接
给 Flink/Spark 任务页面添加自定义快捷入口,在平台内就能一键跳转到任务相关的外部系统,不用来回切换多个工具。

图22-扩展链接新增弹窗
4、Yarn队列
自支持按业务分域配置资源池,动态分配核数/内存配额,绑定优先级与用户组,保障实时作业资源强隔离。

图23-Yarn队列添加弹窗
六、系统管理
1、用户管理
支持跨部门资源隔离、权限组批量分配与协作审计,实现实时开发团队与业务场景的动态映射,保障多项目资源安全协同。

图24-用户管理页面
2、角色管理
权限模板库,定义岗位权限,批量给用户授权。

图25-角色管理编辑/新增弹窗
3、秘钥管理
安全凭证库,统一管理所有密码、密码、Token,避免泄露。

图26-秘钥管理页面

图27-秘钥管理新建令牌
4、团队管理
支持跨部门资源隔离、权限组批量分配与协作审计,实现实时开发团队与业务场景的动态映射,保障多项目资源安全协同。

图28-团队管理页面
5、成员管理
支持跨团队账号聚合、权限动态调整与操作行为溯源,实现企业级用户资源精细化管控,保障实时开发协作安全合规。

图29-成员管理页面
AllData 数据中台集成StreamPark开源项目的这次升级,不只是简单的功能叠加,更是实时流任务调度运维从 "繁琐低效" 到 "极简智能" 的跨越式升级。
AIIData数据中台复杂的底层适配、引擎兼容、调度逻辑、故障容错,把简单便捷的操作体验留给用户。如果你还在为实时流任务开发繁琐、调度混乱、运维压力大、故障恢复慢而烦恼,不妨去体验一下这次的全新升级。相信我,这种焕然一新的数据治理体验,绝对会让你直呼"真香"!

