일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- execution_date
- python
- HBase
- SlackWebhookOperator
- 빅데이터
- hadoop
- HDFS
- Service
- 정규표현식
- MapReduce
- Example DAG
- slack
- slack app
- Lambda architecture
- re
- NoSQL
- Kafka
- jupyter
- 람다 아키텍처
- airflow
- Scala
- ambari
- HIVE
- docker
- HDP
- Windows
- LDAP
- Namenode
- yarn
- java
Archives
- Today
- Total
목록Ariflow (1)
IT 삽질기
Airflow란?
Airflow란? Airlfow는 Airbnb에서 개발한 워크플로우 스케쥴링, 모니터링 도구로 현재는 Apache 프로젝트가 되었다. Airflow는 DAG(Directed Acyclic Graph)라는 개념으로 동작하는데 python으로 DAG를 작성하고 순서를 정의할 수 있다 현재도 활발한 개발이 이루어지고 있으며 1.10.0 버전이 2018.8.9 배포된 이후 현재 2020.12.1일 현재를 기준으로 1.10.13버전까지 배포되었으며 2.0대의 버전도 꾸준히 개발되고 있다 Airflow 공식 github링크는 아래와 같다 github.com/apache/airflow 빅데이터를 활용하는 많은 곳에서 활용하는 도구로 비슷한 도구에는 oozie가 있으며, oozie와의 비교는 추후에 포스팅할 예정 Ai..
BigData/Airflow
2020. 12. 1. 23:24