저는 감속기가 60 개인 88 코어가있는 hadoop 클러스터에서 mapreduce 작업을 실행하고 있습니다. 어떤 이유로 든 79 코어의 클러스터 만 사용합니다. 시작시 79 개의 매퍼로 실행되지만 절반으로 분할하면 53 개의 매퍼와 26 개의 리듀서가 사용되며 실행중인 매퍼의 수가 계속 줄어들어 작업 완료 시간이 늘어납니다. Log는 계산 된 데이터를 복사하는 26 명의 감속기를 말합니다. hadoop이 모든 매퍼를 처음 실행하고 그 후 감속기를 실행할 수 있습니까? spark 또는 tez 작업에서와 마찬가지로 그들은 매핑을 위해 모든 코어를 사용하고 그 후에 모든 코어를 줄이기 위해 사용합니다.감속기가 매퍼 코어를 사용합니다
2
A
답변
5
mapreduce.job.reduce.slowstart.completedmaps
을 1.0으로 설정하십시오. mapred-default.xml에서 인용구 :
이전 작업에 예정되어 감소 완료해야하는 작업의지도의 수
0.05
분수를 mapreduce.job.reduce.slowstart.completedmaps.
관련 문제
- 1. 감속기가 매퍼 출력 파일을 선택하지 않습니다
- 2. Amazon EMR 스트리밍 매퍼/감속기가 없습니다.
- 3. 감속기가 호출되지 않습니다
- 4. 감속기가 hadoop에서 실행되지 않음
- 5. 하둡 감속기가 호출되지 않음
- 6. Hadoop : 감속기가 호출되지 않음
- 7. Hadoop Mapreduce : 감속기가 호출되지 않음
- 8. 하둡에서 호출하는 매퍼 감속 기
- 9. ID 매퍼/감속기는 언제 사용됩니까?
- 10. 감속기가 70 %에서 멈춤
- 11. 감속기가 16 %에서 멈춤
- 12. Redux - 감속기가 호출되지 않음
- 13. 감속기가 작동을 멈춤
- 14. 파이썬은`이미 감속기가
- 15. 감속기가 하나만있는 경우
- 16. 안드로이드 OS를 확인하는 방법은 실제로 여러 개의 코어를 사용합니다
- 17. Hadoop cdh4 : 매퍼 완료 전 감속기 완료
- 18. Hadoop Basics : 맵퍼 작업 수를 줄이면 작업 감속기가 줄어 듭니다
- 19. 감속기가 죽은 호스트로 인해 걸렸습니다
- 20. 감속기가 예상보다 적은 레코드를 얻음
- 21. MRjob : 감속기가 2 가지 작업을 수행 할 수 있습니까?
- 22. Hadoop은 어떻게 번호를 결정합니까? 주어진 감속기에 대해 감속기가 작동합니까?
- 23. 코어를 통해 HornetQServerControl 가져 오기
- 24. 감속기가 sys.stdin을 통해 여러 개의 키를 얻고 있습니까?
- 25. 실패한 매퍼 임계 값을 정의 할 수있는 속성이 있습니까
- 26. 코어를 스레드에 할당하기위한 API
- 27. 코어를 왜 버려야합니까?
- 28. SpringSecurity 코어를 통한 인증
- 29. 개체 매퍼/코어 데이터, 개체 매퍼 nil 값 필드
- 30. Java 힙 공간에서 감속기가 줄어들 것입니다.