계산 평균

Question

내가 vectorisation에 대해 배우려고 노력하고, 여기에 내 원래의 C++/STL 코드

#include <vector> 
#include <vectorclass.h> 
template<typename T> 
double mean_v1(T begin,T end) { 
     float mean = 0; 
     std::for_each(begin,end,[&mean](const double& d) { mean+=d; }); 

    return mean/std::distance(begin,end); 
} 

double mean_v2(T begin,T end) { 
    float mean = 0; 
    const int distance = std::distance(begin,end); // This is expensive 
    const int loop = (distance >> 2)+1; // divide by 4 
    const int partial = distance & 2; // remainder 4 
    Vec4d vec; 
    for(int i = 0; i < loop;++i) { 
     if(i == (loop-1)) { 
      vec.load_partial(partial,&*begin); 
      mean = horizontal_add(vec); 
     } 
     else { 
      vec.load(&*begin); 
      mean = horizontal_add(vec); 
      begin+=4; // This is expensive 
     } 
    } 
    return mean/distance; 
} 

int main(int argc,char**argv) { 
    using namespace boost::assign; 
    std::vector<float> numbers; 
    // Note 13 numbers, which won't fit into a sse register perfectly 
    numbers+=39.57,39.57,39.604,39.58,39.61,31.669,31.669,31.669,31.65,32.09,33.54,32.46,33.45; 

    const float mean1 = mean_v1(numbers.begin(),numbers.end()); 
    const float mean2 = mean_v2(numbers.begin(),numbers.end()); 


    return 0; 
} 

두 V1의 내가 Agner Fog's vector library

을 사용하고 바퀴를 reinvet보다는 해요 및 v2는 올바르게 작동하며 둘 다 거의 같은 시간이 걸립니다. 그러나 그것을 프로파일 링하면 std :: distance()가 표시되고 반복기를 따라 이동하는 것은 전체 시간의 거의 45 %를 차지합니다. 벡터 추가는 0.8 %로 v1보다 훨씬 빠릅니다.

웹을 검색하면 모든 예제가 SSE 레지스터에 정확하게 들어 맞는 완벽한 수의 값을 처리하는 것처럼 보입니다. 예를 들어 루프를 설정하는 것이 계산보다 훨씬 오래 걸리는 경우와 같이 사람들이 홀수의 값을 처리하는 방법은 무엇입니까?

이 시나리오를 처리하는 방법에 대한 모범 사례 또는 아이디어가 있어야한다고 생각합니다.

나는 [] 부동 취할 평균()의 인터페이스를 변경할 수는 없지만 반복자 당신이 누적 더블하자하지 않습니다 특히 당신은 이중 불필요 플로트 &을 혼합하고

Answer 1

를 사용해야합니다 가정 당신의 정밀도는 완전히 파괴되고 더 큰 계열에 대해서는 만족스럽지 않을 것입니다.

산술 연산이 매우 가볍기 때문에 실적을 파괴하는 것은 메모리 액세스 가능성이 가장 높으며 메모리 캐시 라인 및 그 작동 방식을 읽는 것입니다. 기본적으로 여기서해야 할 일은 미리 조사하는 것입니다. 일부 프로세서는 캐시에 물건을 가져 오기위한 명시적인 지침이 있습니다. 그렇지 않으면 미리 메모리 위치에서로드를 수행 할 수 있습니다. 루프에서 일정한 간격으로 다른 레벨의 중첩을 만들면 몇 번의 반복 작업으로 얻을 수있는 데이터로 캐시를 준비 할 수 있습니다.

사람들이 성능을 최대화하기 위해 수행하는 작업은 실제로 데이터 레이아웃을 디자인하는 데 많은 시간을 소비한다는 것입니다. 데이터에 중간 변환을 할 필요가 없습니다. 사람들이하는 일은 정렬 된 메모리를 할당하는 것입니다 (대부분의 SIMD 명령어 세트는 정렬되지 않은 메모리에 대한 읽기/쓰기에 중대한 처벌을 요구하거나 부과합니다). 그런 다음 명령어 세트에 맞는 방식으로 데이터를 집계하려고합니다. 사실 명령어 세트가 지원하는 레지스터 크기에 상관없이 데이터를 채우는 것이 종종 좋은 방법입니다. 따라서 3 차원 벡터를 처리하려고하면 사용되지 않는 추가 요소로 채우기가 거의 항상 큰 승리가됩니다.