tensorflow 레이어에 활성화 정규화를 추가하는 방법

Question

스파 스 자동 인코딩과 같은 일부 모델에서는 활성화 정규화가 필요합니다. 하지만 레이어 활성화를 정규화하는 API를 찾을 수 없습니다.

맞춤법 검사기를 추가하는 방법이 있습니까? 또는 레이어 활성화 tf.trainablevariables입니까?

나는 체중에 L2 정규화를 적용 할 수 있습니다 tensorflow 알고 있어요 정말 정확히 달성하려는 작업에 따라

Answer 1

:

• tf.contrib.layers.apply_regularization 당신이 regularizer 및 텐서의 세트를 결합 할 수 있습니다 그것을 적용해야합니다.
• tf.contrib.layers.l2_regularizer을 사용하면 l2를 적용해야하는 범위를 정의 할 수 있습니다.
• 그러나 본질적으로 정규 표현식은 비용 함수에 추가 할 대상 일 뿐이므로 비용 함수에 추가하는 모든 함수 (텐서)는 정규식으로 간주되어 고려됩니다.