word2vec의 코사인 유사도 1보다

Question

텍스트의 문서 벡터를 계산하기 위해 spark의 word2vec 알고리즘을 사용했습니다.

그런 다음 모델 개체의 findSynonyms 함수를 사용하여 몇 단어의 동의어를 가져 왔습니다.

나는 이런 식으로 뭔가를 참조하십시오

w2vmodel.findSynonyms('science',4).show(5) 
+------------+------------------+ 
|  word|  similarity| 
+------------+------------------+ 
|  physics| 1.714908638833209| 
|  fiction|1.5189824643358183| 
|neuroscience|1.4968051528391833| 
| psychology| 1.458865636374223| 
+------------+------------------+ 

내가 코사인 유사도가 0과 1 또는 최대 -1과 +1 사이 여야 이상의 1 코사인 유사도로 계산되는 이유를 이해하지 않습니다을 (복용 음의 각도).

왜 여기에 1 이상입니까? 여기서 뭐가 잘못 됐어?

Answer 1

당신이 가진 단어 벡터를 word2vec에서 정규화해야합니다. 그렇지 않으면 무한 내적 곱 또는 코사인 유사성 값을 얻게됩니다.

Levy et al., 2015 가입일

(그리고, 실제로 워드 묻어의 문헌 점유율)가 코사인 유사도와 내적 당량을, 유사도 계산을 위해 사용되기 전에

벡터가 단위 길이로 정규화된다.

정상화하는 방법?

다음과 같이 할 수 있습니다.

import numpy as np 

def normalize(word_vec): 
    norm=np.linalg.norm(word_vec) 
    if norm == 0: 
     return word_vec 
    return word_vec/norm 

참조

• Should I do normalization to word embeddings from word2vec if I want to do semantic tasks?
• Should I normalize word2vec's word vectors before using them?

업데이트 : word2vec의 코사인 유사도가 1보다 큰 이유는 무엇입니까?

이 answer에 따르면, word2vec의 불꽃 구현, findSynonyms 실제로 코사인 거리, 오히려 코사인 거리 시간 쿼리 벡터의 노름을 반환하지 않습니다.

순서 및 상대 값은 실제 코사인 거리와 일치하지만 실제 값은 모두 축척됩니다.