2016-06-23 6 views
1

파이썬에서 tensorflow 그래디언트 함수의 grad 매개 변수는 무엇입니까?tensorflow 그래디언트 함수 (파이썬)에서 'grad'매개 변수의 의미

@tf.RegisterGradient("Sub") 
def _sub_grad(unused_op, grad): 
    return grad, tf.neg(grad) 

문서는 "op의 각 출력에 대한 그라데이션"을 나타냅니다. 어떤 그라디언트? op의 각 출력에 대한 op의 각 출력의 그라디언트는?

op는 x - y입니다. 즉,이 함수에서 grad 매개 변수

grad

을 의미 의미 하는가?

enter image description here 인 함수의 출력,

과 일치하는 것이다 그러나 나는 확인하고 싶었다.

미리 감사드립니다.

답변

1

CS231n 노트 here에서 백 프로 모션 작동 방법에 대한 훌륭한 소개를 읽을 수 있습니다.

그래프의 각 작업 (예 : x-y)에는 입력과 출력이 있습니다. 백 프로 퍼 게이트 동안, 그라디언트는 출력에서부터 손실을 시작으로 입력으로 흐릅니다.

역 전파로 계산 한 모든 그래디언트는 매개 변수에 대해의 기울기 ()입니다. 그래서 "op의 각 출력에 대한 그라디언트" 함수

gradients


출력이 xy에 대한 손실의 기울기이다 :는 출력에 대한 손실의 기울기를 의미

grads_x

grads_y

관련 문제