Matlab parfor 작업 배포판

Question

저는 parfor loop가 100 회 반복되는 것을 보았습니다. 모든 반복마다 작업 부하는 다르지만 첫 번째 작업이 가장 오래 걸리고 마지막 작업이 가장 빠르다는 방식으로 선형 적으로 변경됩니다. 그러나 4 개의 인스턴스/실험실과 함께 parfor 루프를 실행할 때 마지막 몇 시간 동안 단 하나의 실험실 만이 처음 몇 번의 반복을 거치면서 활성화됩니다.

그래서 어떤 반복이 느린 것들인지 압니다. 어떻게하면 코어 간 작업 부하를 더 균등하게 만들 수 있습니까? 예를 들어 어떻게 든 모든 실험실이 처음 4 개의 느린 작업을 시작한 다음 순서대로 진행하도록합니다. 아니면 단지 하나의 활성 코어가 느린 것을 실행하는 하나의 활성 코어를 막기 위해 비슷합니다.

Answer 1

Matlab parfor는 인덱스를 분할하여 작업자에게 배포합니다. 이는 인덱스에서 연속 된 청크를 만들어서 수행합니다. 나는 정확한 알고리즘을 모른다. 그러나 이것은 유사한 색인을 가진 데이터가 같은 청크에서 그리고 동일한 작업자에 의해 계산된다는 것을 의미한다.

가장 간단한 해결 방법은 확률적인 방법입니다. 작업 집약적 인 단계가 잘 분산되도록 색인을 섞으십시오. 이것이 성능에 대한 어떠한 보증도 제공하지는 않지만 간단하며 대부분의 경우 작동합니다.

일부 예제 코드 :

% dummy data 
N=10; 
data=1:N; 

% generate the permutated indices 
permIndex=randperm(N); 

% permute the data 
dataPermuted=data(permIndex); 

% run the loop 
parfor i=1:N 
    % do something e.g. pause for the time as specified by data 
    pause(dataPermuted(i)); 
end 

%invert the index permutation 
dataInversePermuted(permIndex)=dataPermuted; 

나는 다른 계산 시간을 시뮬레이션하기 위해 일시 ​​정지를 사용했다.

Answer 2

나는 어디에도 문서화되어 있다고 생각하지 않지만 PARFOR가 역 루프 순서로 반복 실행한다는 것을 신속하게 추측 할 수 있습니다 (작동시 보려면 pause 및 disp 사용). 따라서 루프를 간단히 되돌려 야합니다. PARFOR는 명시 적으로 실행 순서를 제어 할 수있는 방법이 없지만 for-drange을 사용하는 SPMD (PARFOR는 사용하기가 훨씬 쉽습니다).

@ denahiro의 제안 또한 좋은 것입니다.