2013-12-21 4 views
0

숨겨진 계층 (백 프레젠테이션 네트워크)에 대한 뉴런 수를 어떻게 선택합니까? 숨겨진 뉴런 수를 선택하는 데 어려움이 있습니까? 일부 논문에서는 (no_input_neurons * no_output_neurons)의 제곱근과 거의 같아야한다는 것을 알게되었습니다. 그러나 그것은 나를 위해 작동하지 않았다. 뉴런을 선택하고 시험하는 방법인가요?신경망에서 숨겨진 뉴런 결정

저는 TIC-TAC-TOE에 대한 신경망을 기본 (이미 XOR 한 것)부터 시작하려고합니다. 어떻게해야합니까? 다른 포럼에서 숨겨진 뉴런의 수를 발견했습니다. 아이디어가 뭐니?

답변

1

backpropagation 네트워크의 숨겨진 레이어를 선택하는 것은 약간의 흑 마법이지만 어느 정도까지는 추론 할 수 있습니다. 아시다시피, 네트워크를 학습하면 입력을 정확하게 분류 할 수있는 고차원 공간에서 비행기의 매개 변수가 결정됩니다. 따라서 서로 다른 입력을 구별 할 수 있도록 충분히 많은 수의 뉴런이 필요합니다. 저는 5 년 전에 신경 네트워크를 연구했을 당시 활발한 연구 주제였습니다. 아마도이 논문을보실 수 있습니다 : An algebraic projection analysis for optimal hidden units size and learning rates in back-propagation learning

반복적 인 네트워크와 같은 다른 종류의 네트워크에서는 올바른 아키텍처를 찾는 데 도움이되는 몇 가지 기술이 있습니다. 예를 들어 학습 된 가중치를 때로는 입력.

0

숨겨진 레이어/뉴런의 수를 결정하는 것은 시행 착오 방법을 기반으로하며 사용하는 교육 데이터의 유형에 크게 의존합니다. 나는 항상 입력 뉴런의 수와 숨겨진 뉴런의 수를 먼저 비교 한 다음 나중에 증가/감소시킵니다. 교육 기간과 학습 속도도 변경하십시오.

관련 문제