Apache Airflow如何使用

Apache Airflow 是一个用于编排和调度任务的开源平台。它适用于创建、调度和监控数据工作流。以下是使用 Airflow 的基本步骤:

1. 安装 Apache Airflow

你可以通过以下命令来安装 Airflow:

bash 复制代码
pip install apache-airflow

建议使用虚拟环境来管理 Airflow 的依赖项。

2. 初始化数据库

Airflow 需要一个数据库来存储任务执行状态和其他元数据信息。初始化数据库的命令:

bash 复制代码
airflow db init

3. 创建用户

你需要创建一个管理员账户以访问 Airflow 的 web 界面:

bash 复制代码
airflow users create \
    --username admin \
    --password admin \
    --firstname Firstname \
    --lastname Lastname \
    --role Admin \
    --email admin@example.com

4. 启动 Airflow Scheduler 和 Web Server

Airflow 包含一个调度器(Scheduler)和一个 Web 服务器(Web Server)。你需要分别启动这两个服务:

  • 启动调度器:

    bash 复制代码
    airflow scheduler
  • 启动 Web Server:

    bash 复制代码
    airflow webserver

Web Server 默认在 localhost:8080 上运行,你可以通过浏览器访问它。

5. 创建 DAG(有向无环图)

在 Airflow 中,工作流是通过 DAG(Directed Acyclic Graph)来定义的。一个简单的 DAG 例子如下:

python 复制代码
from airflow import DAG
from airflow.operators.python import PythonOperator
from datetime import datetime

def my_task():
    print("This is a task")

default_args = {
    'start_date': datetime(2023, 9, 1),
    'retries': 1
}

with DAG(
    'my_dag',
    default_args=default_args,
    schedule_interval='@daily'
) as dag:

    task = PythonOperator(
        task_id='my_task',
        python_callable=my_task
    )
  • DAG 是用 Python 定义的,default_args 包含任务的默认参数。
  • PythonOperator 用于执行 Python 函数。

6. 设置任务依赖

你可以通过设置任务的依赖来定义任务的执行顺序。例如:

python 复制代码
task1 >> task2  # task1 先执行,task2 后执行

7. 将 DAG 放入 DAGs 文件夹

将你定义的 DAG 文件保存到 Airflow 的 DAGs 文件夹中。这个文件夹的位置通常是 $AIRFLOW_HOME/dags/,或者你可以在 airflow.cfg 文件中配置。

8. 监控 DAG

访问 Airflow 的 Web 界面,你可以看到所有定义的 DAG,查看它们的执行状态,手动触发执行,并监控各个任务的日志。

9. 常见 Airflow 操作

  • 触发 DAG:

    bash 复制代码
    airflow dags trigger my_dag
  • 列出 DAG:

    bash 复制代码
    airflow dags list
  • 查看任务状态:

    bash 复制代码
    airflow tasks list my_dag

Airflow 是一个强大的调度和工作流管理工具,适合处理复杂的数据管道和任务依赖。

相关推荐
一路向北North3 小时前
apache poi 导出复杂的excel表格
apache·excel
白鹭7 小时前
apache详细讲解(apache介绍+apache配置实验+apache实现https网站)
linux·运维·apache·apache配置·apache实现https网站
lifallen11 小时前
KafkaStreams 计算图节点设计:ProcessorNode、SourceNode、SinkNode
java·数据结构·算法·kafka·apache
Apache Flink12 小时前
Flink Agents:基于Apache Flink的事件驱动AI智能体框架
人工智能·flink·apache
索迪迈科技1 天前
Protobuf 新版“调试表示为什么有链接?为什么会打码?我该怎么改代码?
java·log4j·apache
yenggd3 天前
centos系统apache支持php配置
centos·php·apache
deepwater_zone3 天前
主流的开源协议(MIT,Apache,GPL v2/v3)
apache·开源协议
lingggggaaaa3 天前
小迪安全v2023学习笔记(七十九讲)—— 中间件安全&IIS&Apache&Tomcat&Nginx&CVE
笔记·学习·安全·web安全·网络安全·中间件·apache
lifallen3 天前
Kafka 内存池MemoryPool 设计
数据结构·kafka·apache
闯闯桑4 天前
toDF(columns: _*) 语法
开发语言·前端·spark·scala·apache