추론을 할 때 각 클래스와 관련된 확률을 계산하는 방법은 무엇입니까?

Question

나는 tensorflow MNIST 튜토리얼 수정 작업을하고 있는데, 나는 36 개의 클래스를 가지고있다.

내 NN 출력 :

[[ -2386.17529297 18497.5546875 12824.89257812 11382.53417969 5093.64941406 13072.60546875 -4560.9921875 13502.52148438 6688.22802734 -20945.26953125 9932.95605469 -9839.86816406 -51489.03515625 5788.45410156 -16452.57421875 6666.68457031 3585.06298828 56.68802261 12293.05664062 11485.73535156 8274.83496094 10686.38769531 1002.59674072 7018.57275391 -10461.40039062 -7438.14501953 4308.97021484 -12628.72949219 -12593.25390625 17131.04296875 -33693.35546875 8738.546875 4923.90917969 -19373.60351562 11723.73339844 -2816.69580078]]

softmax를 사용 후는 :

[[ 0. 1. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0. 0.]]

Answer 1

나는 당신으로 인해 모델의 대형 출력에 하나의 핫 벡터를 얻고있다 말할 것입니다.

softmax는 p_i = exp (o_i)/sum (exp (o_j))로 계산됩니다.

출력을 높이고 모든 지수의 합으로 나눕니다.

큰 출력 값의 경우, e^(18497.55) (두 번째 출력)가 다른 모든 출력보다 훨씬 큽니다.

모델에서 정규화를 사용 했습니까? 정규화는 모델을 더 작은 가중치로 편향시키고 보통 더 작은 출력을 보장합니다.