제한적 볼츠만 머신의 성공 측정

Question

내 자신의 RBM을 구현하려고하지만 확실하지는 않습니다. 성공을 100 % 올바르게 측정하는 방법은 확실하지 않습니다. 그래서 나는 인터넷 검색을 시작했고 많은 해석을 발견했으며 무엇이 옳은지 잘 모르겠습니다.

나는이 문제에 직면하고있다 :

내가 데이터 세트 Z가를, 그래서 내가 X에 RBM 훈련 트레이닝 집합 X 및 테스트 세트 Y.로 나눌 수 있으며, 그때는 데이터 세트에 RBM의 성공을 측정하고 싶습니다 Y. 좀 더 정확하게 말하자면, 두 개의 RBM이 있는데 어떻게 든 비교하려고합니다. 입력 벡터 재구성이 좋은 측정인지 잘 모르겠습니다. 또는 그들의 에너지에 대한 RBM을 비교해야한다면. (그리고 전체 집합 Y에 대한 에너지를 정확하게 계산하는 방법).

가능한 경우 가우시안 가시 및 모든 가우시안 단위에도 관심이 있습니다.

Answer 1

RBM은 감독되지 않은 학습 패러다임이므로 다른 사람보다 나은지 여부에 액세스하기가 어렵습니다.

그럼에도 불구하고 일반적으로 DBN과 같은 최근 흥미로운 네트워크의 사전 교육으로 사용됩니다. 그래서 제 제안은 당신이 (감독되지 않은 학습)을 비교하기를 원하는만큼의 RBM을 훈련시킨 다음 학습을위한 피드 포워드 (feedforward) 계층 (감독 된 학습)에 그것들을 제공하는 것입니다. 여기에서 네트워크가 데이터 클래스를 예측하는 정도를 측정하여 RBM이 얼마나 좋은지 액세스 할 수 있습니다. 만약 포워드 층 (역 전파와 기차) 및 80 %의 테스트 데이터 정확도를 가지고 촬영 가능한 줄

• ; 예로서

  2 RBMS (A 및 B)을 가질 수 있도록

• 피드 포워드 층 (역 전파가있는 열차)에 B를주고 은 90 %의 테스트 데이터로 정확도를 얻었습니다.

이와 같이 B는 더 나은 기능을 제공하기 때문에 A보다 우수한 RBM이며 더 나은 훈련과 더 높은 샘플 밖 결과를 이끌어냅니다. 참고 : 네트워크의 정확성이 달라 지므로 감독 훈련을 여러 번 수행하고 마지막에 평균을 취해 비교가 견고 해 졌는지 확인하십시오.

EDIT :

비 관리 대상의 평가에 관한 작업이 간단하지 않다. "가능성 그라데이션에 근사를 사용하여 교육 제한된 볼츠만 기계"에 Tijmen Tieleman에 의해 제시된 다음 평가

하나는 테스트 데이터, 즉 가능성을 로그인 얼마나 잘 학습 된 RBM 모델이다. 이 레귤러 사이즈 RBMS위한 난치성이다 은 계산의 시간 복잡도는 충분히 작은 RBMS있는 경우이 가능한 방식이며,

아직 작은 층 크기 지수 (표시 또는 숨겨진) 때문에 . 그렇지 않으면, 당신은 단지 기다릴 수 있습니다 ...