필자는 자신의 Partitioner를 사용하여 출력이 여러 다른 감속기 인스턴스에 매핑되는 매퍼를 사용합니다. 필자는 주어진 reducer 인스턴스에 항상 주어진 것을 확실히 보낸다. 내가 궁금해하는 점은 어떤 이유로 입력 데이터가 비뚤어지고 특정 키에 대해 백만 개의 레코드 (더 정확하게 #records가 메모리에 맞지 않음)가 나오면 감속기를 사용할 수있는 방법이 있는지의 여부입니다. 아직도 잘 작동합니까? 내 말은, 감속기에 게으른 로더가 전달되는 것입니다.hadoop 감속기의 reduce() 호출이 취할 수있는 최대 레코드 수는 얼마입니까?
0
A
답변
2
Reducer와 관련된 값의 유일한 실제적인 제한은 로컬 디스크의 여유 공간으로 Map 및 Reduce 측면 모두입니다. 이는 더 많은 노드를 추가하여 관리 할 수 있으므로 스큐에 따라 작업 맵/축소가 더 많습니다.
예, Iterator는 메모리와 디스크의 조합에서 값을로드합니다.
+0
확인과 명확한 설명을 해주셔서 감사합니다. – Bhargava
관련 문제
- 1. VB.NET에서 DataGrid의 최대 레코드 수는 얼마입니까?
- 2. 서버에서 열 수있는 소켓의 최대 수는 얼마입니까?
- 3. Subversion으로 수정할 수있는 최대 개정 수는 얼마입니까?
- 4. 초당받을 수있는 최대 터치 이벤트 수는 얼마입니까?
- 5. 최대 웹 메소드 수는 얼마입니까?
- 6. 페이지에 넣을 요소 ID의 최대 수는 얼마입니까?
- 7. Stack에 Java로 저장할 수있는 요소의 수는 얼마입니까?
- 8. Hadoop : HDFS에서 map/reduce
- 9. Crystal 보고서의 최대 열 수는 얼마입니까?
- 10. 파이썬 클래스의 메소드의 최대 수는 얼마입니까?
- 11. if 문에서 사용할 수있는 연산자의 최대 수는 얼마입니까?
- 12. 아파치가 생성 할 수있는 최대 페이지 수는 얼마입니까?
- 13. 아음속 2.1+ 'IN'구문에서 사용할 수있는 최대 매개 변수 수는 얼마입니까?
- 14. 하나의 SQL Server 테이블에 저장할 수있는 최대 행 수는 얼마입니까?
- 15. Excel 2003 메시지 상자에 들어갈 수있는 최대 문자 수는 얼마입니까?
- 16. TextArea 컨트롤이 보관할 수있는 최대 줄 수는 얼마입니까?
- 17. OpenMQ에서 대기열로 보낸 최대 메시지 수는 얼마입니까?
- 18. Sitecore Droplink 필드의 최대 결과 수는 얼마입니까?
- 19. 브라우저에서 최대 동시 파일 다운로드 수는 얼마입니까?
- 20. Couchdb 문서의 최대 필드 수는 얼마입니까?
- 21. VB.NET에서 줄 연속의 최대 수는 얼마입니까?
- 22. iPhone의 최대 Bluetooth 연결 수는 얼마입니까?
- 23. XML 속성에 허용되는 최대 문자 수는 얼마입니까?
- 24. 한 응용 프로그램의 최대 스레드 수는 얼마입니까?
- 25. android에서 사용할 수있는 파서의 수는 얼마입니까
- 26. Guids로 안전하게 만들 수있는 id 수는 얼마입니까?
- 27. iPhone SDK에서 허용되는 UITabBar 항목의 최대 수는 얼마입니까?
- 28. 최대 수는
- 29. 데이터베이스 공급자 유형별로 허용되는 최대 매개 변수 수는 얼마입니까?
- 30. Windows TreeView 컨트롤의 최대 항목 수는 얼마입니까? 야구장?
불량. [hadoop # 감속기 문서] (http://hadoop.apache.org/mapreduce/docs/current/mapred_tutorial.html#Reducer)는 분명히 reduce는 키당 한 번 호출됩니다. 이것은 나의 질문을 분명히한다. – Bhargava