TensorFlow의 RNN 단위 및 셀

Question

많은 RNN 클래스 (BasicRNNCell, LSTMCell 등)의 생성자는 num_units이라는 인수를 허용합니다. 셀의 단위 수를 설정합니다.

나는 RNN이 순서대로 처리해야하는 요소의 수를 확인했다. 따라서 RNN에서 길이 N의 시퀀스를 처리하려면 셀당 N 단위가 필요합니다. 이 올바른지? RNN 장치 란 무엇입니까?

Answer 1

아니요, 정확하지 않습니다.

num_units은 세포가 나타낼 수있는 지형지 물의 수를 나타냅니다. 각 시간 단계에서 특정 크기의 입력을 제공합니다 ("RNN이 순차적으로 처리해야하는 요소의 수"라고 함). 이것은 신경망의 레이어 0과 같습니다. 이 입력은 크기가 num_units 인 숨겨진 레이어로 처리됩니다. 이것은 셀 출력의 크기이기도합니다.

당신이 N이라고 부르는 것은 입력 텐서의 크기로 설정됩니다. num_units은 모델의 하이퍼 매개 변수입니다. 크기가 클수록 모델에 더 많은 자유도 (더 많은 설명 기능)가 있습니다.

Answer 2

여기서 num_units는 LSTM (또는 rnn) 셀의 단위 수를 나타냅니다.

num_units는 피드 포워드 뉴럴 네트워크에서 숨겨진 레이어의 유추로 해석 될 수 있습니다. 피드 포워드 뉴럴 네트워크의 숨겨진 레이어에있는 노드의 수는 매 시간 단계마다 LSTM 셀의 num_units LSTM 단위 수와 같습니다. network.Following 사진의 어떤 confusion- enter image description here

이 (https://jasdeep06.github.io/posts/Understanding-LSTM-in-Tensorflow-MNIST/