맵 축소 모델을 적용 할 수없는 기계 학습 알고리즘

Question

"멀티 코어에서 기계 학습을위한 맵 축소"는 맵 축소 모델의 이점을 얻을 수있는 10 가지 기계 학습 알고리즘을 보여줍니다. 요점은 "통계적 쿼리 모델에 맞는 알고리즘은 특정"합계 형태 "로 작성 될 수 있으며, 알고리즘은지도 양식 프로그래밍 모드를 적용 할 수있는 합계 형태로 표현 될 수 있습니다.

합계 형태로 표현하면지도 감축 모델을 적용 할 수 없다는 것을 의미하지는 않습니다. 맵 감속 모델로 속도를 높일 수없는 특정 기계 학습 알고리즘을 지적 할 수 있습니까?

Answer 1

계산 기능이있는 경우 MapReduce가 작동하지 않습니다. 이 제한으로 인해 구조화 된 모델에서 작동하는 알고리즘을 표현하기가 어렵습니다.

결과적으로 대규모 문제에 직면했을 때 MapReduce 추상화 2을 사용하는 지나치게 단순한 방법을 사용하여 풍부한 구조화 모델을 포기하는 경우가 있습니다.

기계 학습 사회에서 수많은 알고리즘은 반복적으로 모두 학습과 추론, 예를 들면, 믿음의 전파, 기대 극대화, 그라데이션 하강과 깁스 샘플링 동안 매개 변수를 변환. 이러한 알고리즘은 일부 종료 조건이 2과 일치 할 때까지 매개 변수 세트를 반복하여 정제합니다.

각 반복에서 MapReduce를 호출하면 네가 여전히 계산 속도를 높일 수 있다고 생각합니다. 여기에서 요점은 더 나은 추상화 프레임 워크가 필요하여 데이터의 그래픽 구조를 채택하고 정교한 스케줄링을 표현하거나 종료를 자동으로 평가할 수 있다는 것입니다.

BTW, Graphlab은 위의 이유로 인해 동기 부여 된 대안 중 하나입니다. 2.