2016-09-08 4 views
8

Airflow와 Nifi는 워크 플로우에서 동일한 작업을 수행합니까? 각각의 프로/죄수는 무엇입니까? 일부 json 파일을 읽고 더 많은 사용자 지정 메타 데이터를 추가하고 처리 할 Kafka 대기열에 넣어야합니다. 나는 Nifi에서 그것을 할 수 있었다. 나는 아직도 기류를 연구 중이다. 내 프로젝트에 가장 적합한 워크 플로우 엔진을 선택하려고합니다. 감사합니다! 공기 흐름 및 아파치 NiFi 체크 아웃이 레딧 게시물의 훌륭한 개요를Airbnb Airflow와 Apache Nifi

답변

7

: https://www.reddit.com/r/bigdata/comments/51mgk6/comparing_airbnb_airflow_and_apache_nifi/

, JSON 파일을 섭취을 풍부하게하고 카프카에게 라우팅의 특정 사용 예를 들어 나는 NiFi이 적합한 도구라고 생각 일. 각 잠재적으로 사용할 수있는 프로세서뿐만 아니라 문서의 커플 다음과 같습니다 :

GETFILE : https://nifi.apache.org/docs/nifi-docs/components/org.apache.nifi.processors.standard.GetFile/index.html

JoltTransformJSON : https://nifi.apache.org/docs/nifi-docs/components/org.apache.nifi.processors.standard.JoltTransformJSON/index.html

PublishKafka (또는 PublishKafka_0_10 버전에 따라) : https://nifi.apache.org/docs/nifi-docs/components/org.apache.nifi.processors.kafka.pubsub.PublishKafka/index.html