2016-12-13 3 views
-3

하드웨어가 전체 교육 데이터를 지원할 수없는 대규모 교육 데이터에서 기계 학습 모델을 교육하기위한 방법이 있는지 궁금합니다.하드웨어 제약 조건이있는 기계 학습 모델 교육

+1

이 질문은 스택 오버플로에 너무 광범위합니다. –

+1

이것은 당신이보고있는 데이터의 종류에 달려있는 매우 광범위한 질문입니다. 내가 처음으로 보게 될 것은 데이터를 반복적으로 처리 할 수있는 모델인데, 이는 메모리에 전체 교육 세트가 필요하지 않을 것입니다. 가장 좋은 방법은 그와 같은 것을 시도하고 문제가 생겼을 때 질문을하는 것입니다. – danielunderwood

답변

1

증분 학습의 실존뿐만 아니라 기술과 같은 확률 그라데이션 하강 (및 미니 배치 일반화)에 대한 중요한 이유 중 하나입니다; 일반적으로 하드웨어 (GPU 등)에 맞춰야하는 유일한 것은 모델 자체이며 교육 데이터의 작은 배치를 구문 분석 할 수있는 충분한 용량을 갖추고 있습니다. 특히 모든 현대 신경망은 이러한 방식으로 교육됩니다 (데이터가 일괄 적으로 모델을 통해 전송되는 경우 전체 데이터 세트를 메모리에 저장하지 않아도됩니다).