-3
하드웨어가 전체 교육 데이터를 지원할 수없는 대규모 교육 데이터에서 기계 학습 모델을 교육하기위한 방법이 있는지 궁금합니다.하드웨어 제약 조건이있는 기계 학습 모델 교육
하드웨어가 전체 교육 데이터를 지원할 수없는 대규모 교육 데이터에서 기계 학습 모델을 교육하기위한 방법이 있는지 궁금합니다.하드웨어 제약 조건이있는 기계 학습 모델 교육
이 증분 학습의 실존뿐만 아니라 기술과 같은 확률 그라데이션 하강 (및 미니 배치 일반화)에 대한 중요한 이유 중 하나입니다; 일반적으로 하드웨어 (GPU 등)에 맞춰야하는 유일한 것은 모델 자체이며 교육 데이터의 작은 배치를 구문 분석 할 수있는 충분한 용량을 갖추고 있습니다. 특히 모든 현대 신경망은 이러한 방식으로 교육됩니다 (데이터가 일괄 적으로 모델을 통해 전송되는 경우 전체 데이터 세트를 메모리에 저장하지 않아도됩니다).
이 질문은 스택 오버플로에 너무 광범위합니다. –
이것은 당신이보고있는 데이터의 종류에 달려있는 매우 광범위한 질문입니다. 내가 처음으로 보게 될 것은 데이터를 반복적으로 처리 할 수있는 모델인데, 이는 메모리에 전체 교육 세트가 필요하지 않을 것입니다. 가장 좋은 방법은 그와 같은 것을 시도하고 문제가 생겼을 때 질문을하는 것입니다. – danielunderwood