리소스 사용량이 많은 프로그램이 중단되었습니다/리눅스가 충돌합니다

Question

약 1000 개의 이미지를 읽고 그 내용에 대한 통계 요약을 만드는 프로그램이 있습니다. 각 이미지는 OpenMP를 사용하여 자체 스레드에서 처리되며, 스레드 수를 프로세서 수와 일치하도록 설정했습니다.

약 2 주 전까지 만해도 프로그램은 정상적으로 실행되었습니다. 그러나 이제는 프로그램을 두 번 이상 실행하면 시스템이 느려지고 결국 멈 춥니 다.

문제를 해결하기 위해 아래 나열된 간단한 코드를 작성하여 프로그램에서 수행하는 작업을 에뮬레이션합니다. 이 코드는 35 번째 줄에 몇 개의 파일 만 읽으려고 한 후 원래 프로그램처럼 내 시스템을 멈추게 할 것입니다.

프로그램을 실행하여 각 실패 후에 연속적으로 이전 커널로 되 돌리면 실패합니다 모든 3.6 커널은 버전 3.6.8까지입니다.

그러나 커널 3.5.6으로 돌아 가면 작동합니다.

test.cc :

1 #include <cstdio> 
    2 #include <iostream> 
    3 #include <vector> 
    4 #include <unistd.h> 
    5 
    6 using namespace std; 
    7 
    8 int main() 
    9 { 
10  // number of files 
11  const size_t N = 1000; 
12  // total system memory 
13  const size_t MEM = sysconf (_SC_PHYS_PAGES) * sysconf (_SC_PAGE_SIZE); 
14  // file size 
15  const size_t SZ = MEM/N; 
16 
17  // create temp filenames 
18  vector<string> fn (N); 
19  for (size_t i = 0; i < fn.size(); ++i) 
20   fn[i] = string (tmpnam (NULL)); 
21 
22  // write a bunch of files to disk 
23  for (size_t i = 0; i < fn.size(); ++i) 
24  { 
25   vector<char> a (SZ); 
26   FILE *fp = fopen (fn[i].c_str(), "wb"); 
27   fwrite (&a[0], a.size(), 1, fp); 
28   clog << fn[i] << " written" << endl; 
29  } 
30 
31  // read a bunch of files from disk 
32 #pragma omp parallel for 
33  for (size_t i = 0; i < fn.size(); ++i) 
34  { 
35   vector<char> a (SZ); 
36   FILE *fp = fopen (fn[i].c_str(), "rb"); 
37   fread (&a[0], a.size(), 1, fp); 
38   clog << fn[i] << " read" << endl; 
39  } 
40 
41  return 0; 
42 }  

메이크 :

1 a:$ 
    2  g++ -fopenmp -Wall -o test -g test.cc$ 
    3  ./test$ 

내 질문은 : 실패하는이 프로그램을 야기 커널 3.6에 대해 다른이지만에 실패하지 않는 무엇 버전 3.5?

Answer 1

코드를 거치지 않고 프로세스에 몇 가지 제한을 설정하려면 리소스 사용을 제한하기 위해 cgroups을 살펴보십시오.

얼어 붙음 - 한 번에 GB의 데이터를 디스크에 읽고 쓰려고합니다. 오늘 하드 드라이브의 ~ 100MB/s의 속도를 감안할 때, 커널이 디스크로 캐시를 플러시하기로 결정할 때 정지가 예상됩니다. 이는 합리적으로 크기가 큰 데이터 청크를 읽는 즉시 발생합니다 (메모리를 많이 할당 했으므로 캐시 공간이 제한적입니다.)

mmap() 파일을 시도하거나 커널 I/O 스케줄러를 변경할 수 있습니다.

Answer 2

(적어도 나는 것은 그들이있어) 나는 깊은 당신의 코드를 들여다하지 않은,하지만 난 나쁜 관행을 실현 :

• 첫째, OpenMP의 루프 내부의 critical 섹션을 참조하십시오. 그것은 동기 부여의 요점이며 모든 반복에서 그것을 넣는 것은 나에게 문제가되는 것처럼 들린다. 각 스레드는 다른 스레드가 입력되지 않았 음을 확인해야하므로 스레드의 수와 함께 동기화가 도입하는 오버 헤드가 증가 할 수 있습니다.

• 두 번째 : 나는 C++에 익숙하지 않지만 언제든지 vector<char> a (SZ)이 실행될 때마다 메모리가 할당되고 (블록 끝에서 해제 됨) 추측합니다. 내가 틀렸다면 실례합니다. SZ의 값을 미리 알고 있기 때문에 병렬 영역 앞에 스레드와 같은 수의 요소로 vector<vector<char> >을 할당하는 것이 좋습니다. 그런 다음 병렬 영역에서 각 스레드가 해당 vector<char>에 액세스하게 만듭니다.