두 개의 MPI 메시지를 묶을 수 있습니까?

Question

나는 순서가 맞지 않는 통신을하려고합니다. 기본적으로 정수 ID로 식별되는 같은 크기의 부동 소수점 배열이 여러 개 있습니다. 그것은 많은 어레이가 정확하게 방법을 알고, 따라서 RECVS의 정확한 수를 설정하는 수신 측에

<int id><float array data> 

: 같은

각 메시지가 보일 것입니다. 메시지를 받으면 ID를 분석하여 데이터를 올바른 위치에 넣습니다. 문제는 메시지가 다른 프로세스에서 수신 프로세스로 전송 될 수 있다는 것입니다. (예 : 생산자는 작업 대기열 구조를 가지고 있고 큐에서 사용할 수있는 ID를 처리합니다.)

MPI는 주문 전달에서 P2P 만 보장하므로 정수 ID와 FP 데이터를 간단히 두 개의 메시지에 넣을 수 없습니다. 수신기가 ID와 데이터를 일치시킬 수 없습니다. MPI는 한 번의 전송에서도 두 가지 유형의 데이터를 허용하지 않습니다.

나는 두 가지 접근법 만 생각할 수 있습니다.

1) 수신자는 크기 m (source [m])의 배열을 갖고, m은 송신 노드 수입니다. 보낸 사람이 먼저 ID를 보낸 다음 데이터를 보냅니다. 수신자는 송신자 i로부터 정수 메시지를 수신 한 후 id를 source [i]에 저장합니다. 송신자 i에서 FP 배열을 수신하면 소스 [i]를 확인하고 ID를 얻은 다음 올바른 위치로 데이터를 이동합니다. 그것은 MPI가 주문형 P2P 통신을 보장하기 때문에 작동합니다. 수신자는 각 발신자에 대한 상태 정보를 보관해야합니다. 문제를 악화 시키려면 단일 송신 프로세스가 데이터 (예 : 멀티 스레드) 이전에 송신 된 두 개의 ID를 가질 수있는 경우이 메커니즘이 작동하지 않습니다.

2) id와 FP를 바이트로 처리하고 송신 버퍼에 복사합니다. 그것들을 MPI_CHAR로 보내면 수신기는 그것들을 정수와 FP 배열로 다시 캐스트합니다. 그런 다음 송신 측에서 바이트 버퍼에 항목을 복사하는 추가 비용을 지불해야합니다. MPI 프로세스 내에서 스레드 수를 늘리면 전체 임시 버퍼도 커집니다.

둘 중 누구도 완벽한 솔루션이 아닙니다. 나는 프로세스 내부에 아무것도 잠그고 싶지 않습니다. 여러분 중에 더 좋은 제안이 있는지 궁금합니다.

편집 : 코드는 infiniband가있는 공유 클러스터에서 실행됩니다. 기계가 무작위로 지정됩니다. 그래서 나는 TCP 소켓이 나를 여기서 도울 수있을 것이라고 생각하지 않는다. 또한 IPoIB는 값 비싼 것처럼 보입니다. 통신을 위해서는 전체 40Gbps의 속도가 필요하며 CPU가 계산을 수행하게하십시오.

Answer 1

, 당신이 어떤 소스로부터받을 MPI_ANY_SOURCE를 사용할 수 있습니다 여기에 간단한 예입니다. 하나의 송신 데이터의 두 개의 다른 종류를 보내려면 당신이 사용할 수있는 derived datatype :

#include <stdio.h> 
#include <stdlib.h> 
#include "mpi.h" 

#define asize 10 

typedef struct data_ { 
    int id; 
    float array[asize]; 
} data; 

int main() { 

    MPI_Init(NULL,NULL); 

    int rank = -1; 
    int size = -1; 
    MPI_Comm_rank(MPI_COMM_WORLD,&rank); 
    MPI_Comm_size(MPI_COMM_WORLD,&size); 

    data buffer;  
// Define and commit a new datatype 
    int   blocklength [2]; 
    MPI_Aint  displacement[2]; 
    MPI_Datatype datatypes [2]; 
    MPI_Datatype mpi_tdata; 

    MPI_Aint  startid,startarray; 
    MPI_Get_address(&(buffer.id),&startid); 
    MPI_Get_address(&(buffer.array[0]),&startarray); 

    blocklength [0] = 1; 
    blocklength [1] = asize; 
    displacement[0] = 0; 
    displacement[1] = startarray - startid; 
    datatypes [0] = MPI_INT; 
    datatypes [1] = MPI_FLOAT; 

    MPI_Type_create_struct(2,blocklength,displacement,datatypes,&mpi_tdata); 
    MPI_Type_commit(&mpi_tdata); 

    if (rank == 0) { 
    int  count = 0; 
    MPI_Status status; 

    while (count < size-1) { 
     // Non-blocking receive 
     printf("Receiving message %d\n",count); 
     MPI_Recv(&buffer,1,mpi_tdata,MPI_ANY_SOURCE,0,MPI_COMM_WORLD,&status); 
     printf("Message tag %d, first entry %g\n",buffer.id,buffer.array[0]); 
     // Counting the received messages 
     count++; 
    } 

    } else { 
    // Initialize buffer to be sent 
    buffer.id = rank; 
    for (int ii = 0; ii < size; ii++) { 
     buffer.array[ii] = 10*rank + ii; 
    } 
    // Send buffer 
    MPI_Send(&buffer,1,mpi_tdata,0,0,MPI_COMM_WORLD); 
    } 

    MPI_Type_free(&mpi_tdata); 

    MPI_Finalize(); 
    return 0; 
} 

Answer 2

수신 기능에서 소스 등급으로 MPI_ANY_SOURCE을 지정한 다음 태그를 사용하여 메시지를 정렬 할 수 있습니다. 이는 맞춤 메시지를 만드는 것보다 쉽습니다. 누군가가 이미 썼던 것처럼

이

#include <stdio.h> 
#include "mpi.h" 

int main() { 
    MPI_Init(NULL,NULL); 
    int rank=0; 
    int size=1; 
    MPI_Comm_rank(MPI_COMM_WORLD,&rank); 
    MPI_Comm_size(MPI_COMM_WORLD,&size); 

    // Receiver is the last node for simplicity in the arrays 
    if (rank == size-1) { 
     // Receiver has size-1 slots 
     float data[size-1]; 
     MPI_Request request[size-1]; 

     // Use tags to sort receives 
     for (int tag=0;tag<size-1;++tag){ 
      printf("Receiver for id %d\n",tag); 
      // Non-blocking receive 
      MPI_Irecv(data+tag,1,MPI_FLOAT, 
         MPI_ANY_SOURCE,tag,MPI_COMM_WORLD,&request[tag]); 
     } 

     // Wait for all requests to complete 
     printf("Waiting...\n"); 
     MPI_Waitall(size-1,request,MPI_STATUSES_IGNORE); 
     for (size_t i=0;i<size-1;++i){ 
      printf("%f\n",data[i]); 
     } 
    } else { 
     // Producer 
     int id = rank; 
     float data = rank; 
     printf("Sending {%d}{%f}\n",id,data); 
     MPI_Send(&data,1,MPI_FLOAT,size-1,id,MPI_COMM_WORLD); 
    } 

    return MPI_Finalize(); 
}