일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
- python
- Scala
- jupyter
- NoSQL
- Namenode
- Example DAG
- java
- 빅데이터
- slack
- 정규표현식
- yarn
- HDFS
- slack app
- ambari
- docker
- MapReduce
- Service
- HDP
- airflow
- LDAP
- Windows
- hadoop
- Lambda architecture
- execution_date
- Kafka
- HIVE
- HBase
- SlackWebhookOperator
- re
- 람다 아키텍처
- Today
- Total
IT 삽질기
Airflow 서비스 등록하기 본문
이번 글에서는 CentOS에서 Airflow webserver, scheduler을 서비스로 등록하여 사용하는 방법을 알아보도록 하자.
Serviced 관련 내용은 지난 글을 참고하기 바란다.
이번 글에서도 지난 글과 마찬가지로 CentOS에서 동작하는 서비스에 대해서 설명한다.
2021.05.17 - [개발] - CentOS 7 serviced 등록 및 실행
Airflow Serviced 등록하기
Serviced에 등록하기 위한 파일은 Airflow의 공식 github에서 확인이 가능하다.
https://github.com/apache/airflow/tree/main/scripts/systemd
이 글에서는 webserver를 service로 등록하는 방법에 대해서만 이야기하며 scheduler이나 worker에 대한 내용은 이번글을 참고하여 적용하기 바란다.
https://github.com/apache/airflow/blob/main/scripts/systemd/airflow-webserver.service
몇 가지 수정이 필요한 항목에 대해서 알아보도록 하자.
[Uint]
- After
- Wants
부분에 여러 가지 서비스가 기재되어 있는데, 필요한 서비스만 남기고 모두 제거하면 된다. 예시에서는 Airflow와 함께 사용되는 다양한 DB, MQ들이 설정되어 있으며, 필요에 따라 변경한다.
[Service]
- User, Group : Airflow Service를 실행하기 위한 User, Group를 설정
- ExecStart : 명령어의 경로와 함께 서비스가 실행될 때 실행될 명령어를 기재
경로가 위의 예제와 다른 경우 적절히 변경하여 사용한다.
Service 파일의 각 항목에 대한 보다 자세한 내용은 아래의 링크를 참고하기 바란다.
https://potatogim.net/wiki/Systemctl
Service에 대한 설정이 완료된 이후에는 해당 파일을 /usr/lib/systemd/system/airflow-webserver.service 파일로 저장한다. airflow-webserver는 서비스의 이름으로 원하는 대로 변경이 가능하다.
service 활성화 및 실행
# 서비스 활성화
systemctl enable airflow-webserver
# 서비스 시작
systemctl start airflow-webserver
'BigData > Airflow' 카테고리의 다른 글
Airflow Example DAG 제거하기 (0) | 2021.09.19 |
---|---|
Airflow SlackOperator 사용하기 (0) | 2021.09.16 |
Airflow Local Executor와 Celery Executor (0) | 2021.08.20 |
Airflow Sensor 사용법 (0) | 2021.06.21 |
Airflow KakaoWork bot 사용하기 (0) | 2021.06.19 |