亲测丝滑,体验跃迁|AllData通过集成开源项目StreamPark,实时流任务调度更省心!

最近悄悄搞了个大动作!AllData数据中台集成开源项目StreamPark全新构建实时开发平台!这不仅是一次功能的迭代,更是实时计算能力的全面跃迁。

以往开发实时数据任务,大多只能逐行手写代码,不仅上手门槛极高,还极易因细微拼写错误耗费大量时间排查调试。

StreamPark可视化拖拽开发模式,只需在页面简单拖拽组合,即可快速搭建实时作业,大幅降低实时开发入门门槛,零基础新手也能快速上手实操。

💎项目地址:https://github.com/apache/streampark

💎文档地址:https://streampark.apache.org/docs/get-started/quick-start

实时开发平台(StreamPark)的这次升级迭代,不仅是视觉层面的优化,更是以用户为中心、深耕企业实时计算需求的深度体现。

以往搭建复杂的 Flink 实时任务,需手动打包上传、编写繁琐的提交参数,耗时费力还易出错。如今依托 StreamPark,在线构建搭配可视化配置,即可快速完成从代码开发到任务上线的全流程。

实时开发平台有效解决了传统模式下部署冗杂、依赖混乱及故障恢复困难等核心痛点,为企业构建稳定、高效的实时数据体系提供了坚实底座。

实时开发平台【StreamPark】功能展示

1、Apache Flink

提供Flink版本与集群配置,支持作业全生命周期管理,包括创建、编辑、运行与监控。

2、Apache Spark

可视化监控作业状态、资源使用及运行指标。具备多版本兼容、集群管理、故障自愈能力,实现实时数据的高效处理与运维。

3、资源中心

支持创建和维护Flink、Spark等项目,集中托管作业所需的Jar包、UDF函数等依赖文件。

4、设置中心

支持设置Maven 配置、 Settings 路径、仓库地址及访问账号密码,可管理构建依赖,保障 Flink/Spark 任务开发与编译环境稳定。

5、系统管理

支持增删改查用户,可配置账号类型、登录方式与状态,管控权限与操作。

一、使用流程图示

二、Apache Flink

Apache Flink:实时开发平台的 "实时心脏"。专门处理实时数据流,数据一产生就立刻计算,延迟极低,还能记住历史状态。

1、作业管理:Flink作业管理实现作业提交、调度、监控与动态资源分配,保障实时计算高效稳定。

新建作业路径:点击【+添加】→ 填写作业信息(在FlinkSQL部分编辑完成后需要先点击【验证】确认正确后再点击【格式化】规范SQL语言)→ 提交保存 → 返回作业管理列表手动点击【运行】启动作业。

图1-Apache Flink作业管理页面

图2-新建/编辑Apache Flink作业管理

图3- 查看Apache Flink作业详情

图4-查看Apache FlinkSQL语句

2、Flink版本

提供一站式Flink作业管理,支持多版本兼容,具备作业提交、调度、监控及故障自愈能力,保障实时计算高效稳定运行。

图5-Flink版本页面

支持多环境参数动态绑定,可一键下发Flink作业参数、依赖库及资源规格至集群,实现开发/测试/生产环境配置级联更新,避免人工疏漏导致作业异常。

图6-Flink版本操作配置同步

3、集群管理

提供多集群统一纳管与资源动态调度,支持Flink作业跨集群分发、资源配额隔离、健康度监控及故障自愈,保障实时计算集群高可用与弹性伸缩。

图7-Apache Flink集群管理页面

图8-添加集群

三、Apache Spack

实时开发平台的 "全能多面手",批处理为主、兼顾准实时,擅长大规模离线数据计算,也能做 "秒级" 实时,功能全面。

1、作业管理

支持Spark任务全周期管控,涵盖提交、调度、监控及故障自愈,保障任务稳定运行。

图9-Apache Spark作业管理页面

图10-新建/创建Apache Spark作业

2、Spark版本

支持多版本Spark管理,提供版本配置、依赖隔离与集群适配,保障Spark作业稳定运行与跨环境兼容性。

图10-新建/创建Apache Spark作业

图11-添加Spark版本

四、资源中心
1、项目管理 :支持资源分库分类、权限隔离与版本追溯,实现多项目资源独立管控,避免跨团队协作冲突与资源误用。

图12-项目管理页面

图13-创建项目

图14-查看构建日志

2、资源上传

支持多格式资源一键上传。

图15-资源上传页面

图16-添加资源弹窗

3、变量管理

支持全局/项目级变量配置、多环境动态替换与版本追踪,实现资源参数与代码解耦,保障跨环境部署一致性。

图17-变量管理页面

图18-新建变量管理

五、设置中心

1、环境设置

支持多环境参数隔离、集群动态绑定与资源变量联动。

图19-环境设置页面

2、告警设置

多维度阈值配置、多渠道通知(邮件/短信)与告警策略自定义。

图20-告警设置页面

图21-告警设置弹窗

3、扩展链接

给 Flink/Spark 任务页面添加自定义快捷入口,在平台内就能一键跳转到任务相关的外部系统,不用来回切换多个工具。

图22-扩展链接新增弹窗

4、Yarn队列

自支持按业务分域配置资源池,动态分配核数/内存配额,绑定优先级与用户组,保障实时作业资源强隔离。

图23-Yarn队列添加弹窗

六、系统管理

1、用户管理

支持跨部门资源隔离、权限组批量分配与协作审计,实现实时开发团队与业务场景的动态映射,保障多项目资源安全协同。

图24-用户管理页面

2、角色管理

权限模板库,定义岗位权限,批量给用户授权。

图25-角色管理编辑/新增弹窗

3、秘钥管理

安全凭证库,统一管理所有密码、密码、Token,避免泄露。

图26-秘钥管理页面

图27-秘钥管理新建令牌

4、团队管理

支持跨部门资源隔离、权限组批量分配与协作审计,实现实时开发团队与业务场景的动态映射,保障多项目资源安全协同。

图28-团队管理页面

5、成员管理

支持跨团队账号聚合、权限动态调整与操作行为溯源,实现企业级用户资源精细化管控,保障实时开发协作安全合规。

图29-成员管理页面

AllData 数据中台集成StreamPark开源项目的这次升级,不只是简单的功能叠加,更是实时流任务调度运维从 "繁琐低效" 到 "极简智能" 的跨越式升级。

AIIData数据中台复杂的底层适配、引擎兼容、调度逻辑、故障容错,把简单便捷的操作体验留给用户。如果你还在为实时流任务开发繁琐、调度混乱、运维压力大、故障恢复慢而烦恼,不妨去体验一下这次的全新升级。相信我,这种焕然一新的数据治理体验,绝对会让你直呼"真香"!


相关推荐
AskHarries5 小时前
Reddit 找需求完整教程:3小时找到20个真实痛点
人工智能
想ai抽5 小时前
StarRocks 数据模型深度调研笔记
大数据·olap·starrock
小柒儿3366 小时前
充电桩行业的秩序重构,CCC证书正在划定新的起跑线
人工智能
思诺学长6 小时前
智能物流机器人的技术演进:AGV / AMR 与具身智能融合路径
人工智能
SunnyDays10116 小时前
用Java打造交互式Excel仪表板:切片器的实战应用
java·excel
ZHW_AI课题组6 小时前
基于LSTM的天气预测
人工智能·rnn·lstm
可涵不会debug6 小时前
工业大数据时序数据库选型方法论:核心指标与技术适配分析
大数据·数据库·时序数据库
DolphinDB智臾科技6 小时前
时序数据库国产替代的下一站:从能用到好用,再到敢用作核心
数据库·人工智能·时序数据库
计算机安禾6 小时前
【c++面向对象编程】第46篇:CRTP(奇异递归模板模式):静态多态的妙用
开发语言·c++·算法