일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
Tags
- python
- java
- hadoop
- NoSQL
- MapReduce
- re
- SlackWebhookOperator
- 정규표현식
- Kafka
- HIVE
- 람다 아키텍처
- yarn
- Example DAG
- jupyter
- execution_date
- slack app
- airflow
- Service
- Windows
- docker
- HBase
- Scala
- HDFS
- HDP
- 빅데이터
- LDAP
- ambari
- Namenode
- Lambda architecture
- slack
Archives
- Today
- Total
목록Ariflow (1)
IT 삽질기

Airflow란? Airlfow는 Airbnb에서 개발한 워크플로우 스케쥴링, 모니터링 도구로 현재는 Apache 프로젝트가 되었다. Airflow는 DAG(Directed Acyclic Graph)라는 개념으로 동작하는데 python으로 DAG를 작성하고 순서를 정의할 수 있다 현재도 활발한 개발이 이루어지고 있으며 1.10.0 버전이 2018.8.9 배포된 이후 현재 2020.12.1일 현재를 기준으로 1.10.13버전까지 배포되었으며 2.0대의 버전도 꾸준히 개발되고 있다 Airflow 공식 github링크는 아래와 같다 github.com/apache/airflow 빅데이터를 활용하는 많은 곳에서 활용하는 도구로 비슷한 도구에는 oozie가 있으며, oozie와의 비교는 추후에 포스팅할 예정 Ai..
BigData/Airflow
2020. 12. 1. 23:24