Attention by TensorFlow를 사용하여 Dynamic RNN을 구현할 수 있습니까?

Question

TensorFlow를 버킷으로 만들지 않고주의하면서 동적 RNN을 구현할 수 있습니까?

그렇지 않은 경우 어떻게 구현해야합니까?

감사합니다.

Answer 1

tf.contrib.rnn.AttentionCellWrapper을 사용하십시오.

는

예 :

cell_with_attention = tf.contrib.rnn.AttentionCellWrapper(cell, attn_length, ...) 
outputs, state = tf.nn.dynamic_rnn(cell_with_attention, inputs, ...)