tf.nn.embedding_lookup with float input?

Question

int32 또는 64b 대신 float 입력을 사용하여 포함 테이블을 구현하고 싶습니다. 그 이유는 간단한 RNN과 같은 단어 대신에 백분율을 사용하고 싶습니다. 예를 들어 조리법의 경우; 나는 1000 개 또는 3000 개의 재료를 가질 수 있습니다. 하지만 모든 조리법에서 나는 최대 80을 가질 수 있습니다. 성분은 %로 표시됩니다. 예 : 성분 1 = 0.2 성분 2 = 0.8 ... 등

제 문제는 tensorflow가 정수 테이블 :

형식 오류는 : INT32 INT64

어떤 제안을 : 값 데이터 형식이 아닌 허용 된 값의 목록에 float32있다 '인덱스'매개 변수에 전달? 나는 당신의 의견을 보내 주셔서 감사합니다 , 찾아 내장의

예 :

inputs = tf.placeholder(tf.float32, shape=[None, ninp], name=“x”) 
n_vocab = len(int_to_vocab) 
n_embedding = 200 # Number of embedding features 
with train_graph.as_default(): 
    embedding = tf.Variable(tf.random_uniform((n_vocab, n_embedding), -1, 1)) 
    embed = tf.nn.embedding_lookup(embedding, inputs) 

가 오류가 나는 루프를 사용하여 작업 할 수있는 알고리즘의 생각

inputs = tf.placeholder(**tf.float32,** shape=[None, ninp], name=“x”) 

에 의해 발생합니다. 그러나 더 직접적인 해결책이 있는지 궁금합니다.

감사합니다.

Answer 1

tf.nn.embedding_lookup은이 함수의 요점은에 지정된 에 삽입을 선택하기 때문에 부동 입력을 허용 할 수 없습니다.

예 :

여기 5 워드 5 개 매립 차원 벡터가 있으며, 동작 (0 인덱싱) 3 번째 행을 반환한다. 이 tensorflow에서이 행과 같습니다 :

embed = tf.nn.embedding_lookup(embed_matrix, [3]) 

당신은 아마도 부동 소수점 인덱스를 찾아 볼 수없는 등 0.2 또는 0.8, 매트릭스에는 0.2 및 0.8 행 인덱스가 없기 때문입니다. word2vec에 대해 this post by Chris McCormick을 적극 권장합니다.

당신이 묘사하는 것은 대상 클래스에 대한 확률 분포를 출력하는 softmax 손실 함수와 비슷하게 들립니다.