다중 레이블 분류에 대한 해밍 손실의 기울기 계산

Question

일부 반복적 인 신경망 구조를 사용하여 다중 레이블 분류를 수행하고 있습니다. 내 질문은 손실 함수에 대한 것입니다 : 내 출력은 각 레이블의 클래스를 나타내는 true/false (1/0) 값의 벡터가됩니다. 많은 자원은 해밍 손실이 적절한 목표라고 말했다. 그러나 해밍 손실은 그래디언트 계산에 문제가 있습니다. H = 평균 (y_true XOR y_pred), XOR은 손실의 그래디언트를 유도 할 수 없습니다. 그래서 다중 라벨 분류를위한 다른 손실 기능이 있습니까? MSE 및 개별 Sigmoid 입력 이진 교차 엔트로피를 시도했습니다.

Answer 1

H = 평균 (y_true의 * (1-y_pred) + (1-y_true) * y_pred)

는 해밍 손실 연속 근사하다.