정렬되지 않은로드 대 정렬되지 않은 저장소

Question

짧은 질문은 두 벡터를 사용하는 함수가있는 경우입니다. 하나는 입력이고 다른 하나는 출력됩니다 (별명 없음). 그 중 하나만 정렬 할 수 있습니다. 어느 것을 선택해야합니까?

더 긴 버전은

void func(size_t n, void *in, void *out) 
{ 
    __m256i *in256 = reinterpret_cast<__m256i *>(in); 
    __m256i *out256 = reinterpret_cast<__m256i *>(out); 
    while (n >= 32) { 
     __m256i data = _mm256_loadu_si256(in256++); 
     // process data 
     _mm256_storeu_si256(out256++, data); 
     n -= 32; 
    } 
    // process the remaining n % 32 bytes; 
} 

, 기능을 고려한다는 것입니다 in 및 out 정렬 32 바이트 인 경우에, vmovdqu를 사용하는 대신 vmovdqa의 수수료가 없습니다. 최악의 시나리오는 둘 다 정렬되지 않고 4 개의로드/저장 중 하나가 캐시 라인 경계를 통과한다는 것입니다.

이 경우 루프에 들어가기 전에 몇 가지 요소를 먼저 처리하여 캐시 선 경계에 정렬 할 수 있습니다. 그러나 문제는 내가 선택해야하는 것인가? 정렬되지 않은로드와 저장소 사이에서 어느 것이 더 나쁩니 까?

Answer 1

명백한 이유는 다음과 같습니다. "실제 코드와 실제 데이터를 모두 벤치 마크해야합니다"를 제외하고는 "정답"이 없습니다. 어떤 변형이 더 빠른지 빠르게 사용하는 CPU, 각 패키지에서 수행하는 계산량 및 기타 많은 것들에 크게 의존합니다.

주석에서 언급했듯이 비 일시적인 상점도 사용해보십시오. 당신이하고있는 계산을 피할 데이터 대기 시간이있는 경우

__m256i next = _mm256_loadu_si256(in256++); 
for(...){ 
    __m256i data = next; // usually 0 cost 
    next = _mm256_loadu_si256(in256++); 
    // do computations and store data 
} 

, 당신은 또한 인터리브 두 패키지를 계산 고려해야한다 : 무슨 일이 때로는 수 도움 즉, 전류 루프 내부에 다음과 같은 데이터 패킷의 입력을로드하는 것입니다 (이것은 두 배의 레지스터를 사용합니다).