XOR 반복 신경망에 대한 순차적 학습 데이터

Question

재발 성 신경 네트워크를 구현하고 XOR 함수를 익숙한 예제로 배우려고합니다.

반복적 인 네트워크이므로 이전 상태를 얼마나 잘 기억 하는지를보기 위해 하나의 입력 장치 만 있으면 좋을 것이라고 생각했습니다. 즉, 순차적 인 입력에 기초하여 XOR 함수를 구현한다 :

INPUT(t-1) = 0 
INPUT(t) = 1 
OUTPUT(t) = 1 

또는

INPUT(t-1) = 1 
INPUT(t) = 1 
OUTPUT(t) = 0 

그래서 내 입력 트레이닝 데이터는 하나의 비트의 순서로 한 번에 제시 :

inputs = { 0, 0, 1, 1, 0 } 

및 해당 대상 출력

targets = { 0, 0, 1, 0, 1 }. 

하지만 배우지 않고 많은 이유가있을 수 있음에도 불구하고 내 데이터 집합을 제대로 정의하지 않아 네트워크에 올바른 문제를 제시하지 않을지 궁금합니다. 여기에 와서 "순차적"XOR 기능의 감독 학습을위한 올바른 훈련이 무엇인지에 대한 아이디어를 찾았습니다.

내가 수행중인 구현은 Elman RNN과 유사합니다. 자세한 내용이 필요하면 질문하십시오.

Answer 1

다음 링크 : https://code.google.com/p/encog-java/source/browse/trunk/encog-examples/src/org/encog/examples/neural/recurrent/elman/ElmanXOR.java?r=2423

는 XOR 문제와 함께 작동 재발 엘만 네트워크 구현이 포함되어 있습니다. 그것은 Encog (상대적으로 사용하기 쉬운)를 사용하여 네트워크 자체의 구현을 처리합니다. 바라건대 구현의 차이를 확인하고 수정할 수 있기를 바랍니다.