2017-11-03 1 views
0

입력/출력이 로컬 파일 시스템의 경우 MapReduce 처리는 어떻게 작동합니까?MapReduce 처리가 로컬 파일 시스템과 어떻게 작동합니까?

MapReduce 작업 실행이 Hadoop 클러스터에서 비동기 적으로 발생합니까? 그렇다면 어떻게됩니까?

우리는 실제로이 접근법을 사용해야합니까? (가 로컬 시스템이 아닌 클러스터의 효율성이 떨어지는 것 같은 효율성 만의 문제)

+0

어떤 접근 방식을 사용합니까? 로컬 파일 시스템에서 읽는 것은 작은 파일 세트를 테스트하는 경우에만 의미가 있습니다. 어떤 경우에는 Hadoop이 실제로 필요하지 않습니다 –

+0

@ cricket_007 어떤 경우에이 방법을 "클러스터에서 로컬 파일 시스템을 사용하는 Hadoop MapReduce 작업"으로 사용해야합니까? –

+0

클러스터가 있다면 로컬 파일 시스템을 사용하지 않을 것입니다. 데이터를 HDFS에 넣은 다음 처리하십시오 –

답변

3
  1. 는 맵리 듀스는 로컬 시스템 (mapper-> 감속기)

    심지어 동일하게 작동합니다.

  2. 예, 맵리 듀스 작업 실행이 하둡 클러스터에서 비동기 적으로 발생이 사용되는 경우의 대부분에서

    클릭 for more about scheduler

  3. 을 (그것은 스케줄러의 어떤 종류의 당신이 당신의 맵리 듀스 프로그램에 사용에 따라 다름) 테스트 용 (로컬 시스템에서 mapreduce 프로그램 실행).

+0

감사합니다 Andani. 나는 그들 모두를 볼 것이다. –

관련 문제