大数据调度

海豚调度12 天前
大数据·任务调度·开源社区·大数据调度·apachedolphinscheduler
结项报告完整版 | 为 Apache DolphinScheduler 添加 gRPC 插件过去两周,我们对开源之夏活动中表现优异的开发者们进行了简单的采访,初步粗略地了解了一下他们的开发过程和心得体会。今天,我们将通过同学们的完整结项报告,深入了解项目的开发技术细节,希望能够帮助大家更好地了解 Apache DolphinScheduler 项目的最新进展。
海豚调度1 个月前
大数据·开源·任务调度·开源社区·大数据调度·apachedolphinscheduler
小白指南:Apache DolphinScheduler 补数据功能实操演示最近使用 Apache DolphinScheduler 调度任务,不可避免地使用到【补数据】功能,经过不断尝试,终于成功运行了【补数据】功能,以此帖记录。
海豚调度1 个月前
大数据·开源·安全认证·oidc·大数据调度·apachedolphinscheduler
GSoC 成果公布!印度开发者为 DolphinScheduler 引入通用 OIDC 认证,实现无缝安全访问导语:今年的 GSoC 已近尾声,在这场代码开发盛宴中,Apache DolphinScheduler 的开发者们积极参与,取得了一项对用户意义重大的成果——引入通用 OIDC 认证,实现无缝安全访问。令人欣喜的是,该成果出自一位印度开发者之手。在项目导师 Gallardot 与向梓豪(SbloodyS)的精心指导下,这一成果成功在 Apache DolphinScheduler 中落地。今天,就让我们一同深入了解通用 OIDC 认证的开发历程,以及它将给用户带来哪些积极影响。
海豚调度2 个月前
大数据·开源·任务调度·大数据调度·apache dolphinscheduler
3.1.9 生产“稳”担当:Master 服务启动源码全方位解析作者 | 李杰 移动云,Apache DolphinScheduler贡献者在现代数据驱动的企业中,工作流调度系统是数据管道(Data Pipeline)的“中枢神经”。从 ETL 任务到机器学习训练,从报表生成到实时监控,几乎所有关键业务都依赖于一个稳定、高效、易扩展的调度引擎。
海豚调度4 个月前
开源·大数据调度·天翼云·用户案例·apachedolphinscheduler
从数据血缘到AI Agent:天翼云 × DolphinScheduler 的云上调度新篇章直播回放:https://www.bilibili.com/video/BV1X2tdziE9Z/?vd_source=e59b2227d15c7740a5c5f40e4a675095
海豚调度8 个月前
大数据调度·apachedolphinscheduler
Apache DolphinScheduler 3.3.0 Alpha发布,功能增强与性能优化大升级!近期,Apache DolphinScheduler进行了版本更新,发布了3.3.0 alpha版本。Apache DolphinScheduler 3.3.0 alpha版本在任务管理、容错能力、扩展性等方面实现跨越式升级,为大规模工作流调度提供更稳定、灵活的解决方案。但需要提醒的是,此版本为alpha版本,请谨慎更新使用。
海豚调度8 个月前
大数据调度·apachedolphinscheduler
90%企业踩坑的数据管道管理问题,4大技术方案实现效率翻倍!在数据驱动系统(如分析平台)中,一个常见的挑战是管理数据管道之间的依赖关系。这些平台通常包含位于不同数据层或数据区(例如:数据摄取、数据增强、数据聚合)的数据管道,每个数据层都依赖于上游数据层的数据管道成功完成后才能运行。
海豚调度1 年前
人工智能·任务调度·dataops·大数据调度
AI 大模型时代呼唤新一代基础设施,DataOps 2.0和调度编排愈发重要另一方面,在 AI 时代,调度编排技术正变得愈发重要,成为高效资源管理和任务自动化的核心。通过智能算法和机器学习,调度编排能够实时分析系统负载、优化资源分配,并根据需求动态调整任务执行顺序。这不仅提高了系统的运行效率,还降低了人力干预的需求,提升了响应速度和灵活性。
我是有底线的