1
design matrix 파이썬 다양한 도구, I 표준 NN 스타일 L2-정규화 파라미터 추정을 수행 할 수있는 only the weights are regularized (바이어스 요소에 대응하는 1의 초기 컬럼) 등TensorFlow의 'matrix_solve_ls'를 사용하여 정규화에서 바이어스를 제외하려면 어떻게해야합니까? 주어
scipy.optimize.minimize(lambda p: np.mean((np.dot(dmat, p) - y_data)**2) + lamb*np.dot(p[1:], p[1:]), np.zeros(n_params).T).x
또는
scipy.optimize.minimize(lambda p: np.mean((np.dot(dmat, p) - y_data)**2) + 2*lamb*tf.nn.l2_loss(p[1:]).eval(), np.zeros(n_params).T).x
는하지만 TensorFlow의 tf.matrix_solve_ls
tf.matrix_solve_ls(dmat, np.array([y_data]).T, l2_regularizer=lamb*len(dmat)).eval()
scipy.optimize.minimize(lambda p: np.mean((np.dot(dmat, p) - y_data)**2) + lamb*np.dot(p, p), np.zeros(n_params).T).x
에 관해서는 해당
내가 편견을 배제 할 (건축에 의해, 또는 첫 번째 매개 변수) 정규화에서이 tf.matrix_solve_ls를 사용하는 방법?
'tf.matrix_solve_ls'를 사용하는 것에 대해 잘 모르겠지만, 이전에 "바이어스"라는 단어가 포함되지 않은 변수에 대한 정규화 용어 만 계산하여이 작업을 수행했습니다. 'reg_term = tf.norm (var.name에 'bias'가 아닌 경우 tf.trainable_variables()의 var에 대한 var) ')과 같은 것입니다. – Engineero