이 비록 내 마음을 교차 http://natureofcode.com/book/chapter-10-neural-networks/ 첫 번째로, 오류에 관계없이 0을 입력하면 무게가 동일하게 유지됩니다. 이것은 바이어스를 사용하여 해결 되었습니까? 둘째, 신경망은 종종 XOR과 같이 두 개 이상의 입력을가집니다. 이 경우 두 입력을 추가해야합니까? 아니면 별도의
최근에 신경망에 대해 배우기 시작했고 직접 만든 2 계층 ANN을 코딩하고 MNIST 데이터 세트를 사용하여 벤치마킹하기로 결정했습니다. 배치 크기가 사용자에 의해 제공되는 배치 SGD를 사용하여이를 프로그래밍하려고했습니다. 다음과 같이 내 코드는 다음과 같습니다 class NeuralNetwork:
def __init__(self, inodes,
뉴럴 네트워크를 가르치 려하여 입력 된 값인 의 레벨을 기준으로을 결정하십시오. 뉴럴 네트워크는 항상 세 개의 입력을받습니다. [x, y, life]. life => 0.2 인 경우 [x, y]에서 (1, 1)까지 각도를 출력해야합니다. life < 0.2 인 경우 [x, y]에서 (0, 0)까지 각도를 출력해야합니다. 뉴런의 입력과 출력이 0과 1 사이
나는 벡터 v를 생성하는 정상적인 피드 포워드 네트워크를 가지고있다. 그런 다음 v의 원소는 희소 행렬 M의 0이 아닌 엔트리로 사용된다 (좌표가 미리 정의되어 있다고 가정). 그런 다음 스파 스 매트릭스에 고밀도 벡터가 곱해지고 결과 스칼라에 손실이 정의됩니다. 나는 그 손실을 역 전파시키고 싶다. 네트워크의 가중치는 스파 스 매트릭스를 통과해야합니다.
TLDR 내가 MNIST에 대한 간단한 신경 네트워크에 맞게 시도하고있다, 그것은 작은 디버깅 설정을 위해 작동하지만, 내가 MNIST의 부분 집합에 데려 때, 그것은 슈퍼 빠른 기차 그라디언트는 매우 빠르게 0에 가까워 지지만 주어진 입력에 대해 동일한 값을 출력하고 최종 비용은 상당히 높습니다. 나는 의도적으로 그것이 실제로 작동하는지 확인하기 위해 지
.... 내 질문 같은 신경 네트워크는 우리가 이전에 같은 현재와 같이 출력이 무엇 적용 할 경우 데이터를 다시 생성한다 입력? MNIST 데이터 세트에서 작업 중이며 Backpropagation 알고리즘을 사용하여 출력측 (최종 출력을 그 측면에서 입력으로 사용)에서 네트워크를 학습하면 어떻게되는지 궁금합니다. 는 사소한 하나가 될 수 있지만 여전히 나는
커스와 함께 커스를 사용하여 파이썬에서 신경망을 만들려고 노력 중입니다. 마지막 계층에서 활성화 함수로 시그 모이 드 함수를 사용하고 커스텀 손실이 시작될 때 Sigmoid를 갖는지 여부는 방황하고 있습니다. 아니. 그래서 여기 내가 그 무슨 뜻입니다 : 내가 두 번째 모델의 손실이 계산되는 느낌을 가지고 있지만 그것이 다시 사이가 첫 번째 모델에서 S 상
그래서 다중 경로 신경망을 설정하여 전달 전파를 수행 할 수 있으며 역 전파를 수행 할 수 있어야하지만 어떻게하면 설명 할 수있는 리소스를 찾을 수 없습니다. 작업. 역 전파가 어떻게 작동하는지에 관한 모든 자료는 당면한 네트워크에만 해당되거나 이해하기 어렵습니다. 도움이되는 자료를 찾도록 도와 줄 수 있습니까? 내 네트워크는 Java로 작성되어 리소스를
이 게시물을 읽는 데 시간을내어 다시 한번 감사드립니다. 이 질문은 많은 질문을 받았지만이 문제에 대한 많은 게시물을 확인했습니다. 그러나 backpropagation을 사용하여 sucessfull XOR 학습을 수행하는 것에 대한 미션은 아직 완료되지 않았습니다. 내가 제안한 것처럼, 학습 속도, 운동량, 바이어스 유무 등을 시도했지만, 여전히 성공하지