SVM의 기능적 마진을 이해하는 방법은 무엇입니까?

Question

나는 앤드류 NG의 기계 학습 노트를 읽고 있어요,하지만 기능 마진 정의는 나를 혼동 :

내가 기하학적 마진을 이해할 수는 초평면에 X로부터의 거리입니다,하지만 어떻게 기능 마진을 이해하는 방법 ? 그리고 왜 그들은 그것의 공식을 정의합니까?

Answer 1

다음과 같이 생각하십시오. w^T.x_i + b는 i 번째 데이터 요소에 대한 모델의 예측입니다. Y_i는 해당 레이블입니다. 예측과 근거 진리가 같은 부호를 갖는다면, gamma_i는 양의 값이 될 것입니다. 이 인스턴스가 클래스 경계에 더 가깝게 갈수록 더 큰 gamma_i가됩니다.이 모든 것이 더 합쳐지기 때문에 더 낫습니다. 클래스간에 더 큰 분리가 있기 때문입니다. 예측과 레이블이 부호가 일치하지 않으면이 양은 음수 (예측 자의 잘못된 결정)가되어 마진이 줄어들고 잘못된 변수가 많을수록 감소합니다 (여유 변수와 유사) .

Answer 2

확장을 위해 기능적 여백이 사용됩니다.

기하학적 여백 = 기능적 여백/표준 (w).

또는 표준 (w) = 1은 마진 형상 마진을 인

Answer 3

기능성 이익률

이것은에 의존하지 않는면에 대하여 점의 위치를 ​​준다 크기.

기하학적 여백 :

이 주어진 훈련 예 주어진 평면 사이의 거리를 제공한다.

Answer 4

다음 두 가지 가설을 기반으로 기하학적 마진 기능 마진을 전송할 수 있습니다

1. || w || == 1 따라서 점 x에서 선 y까지의 기하학적 거리 인 (w^T) x + b == ((w^T) x + b)/|| w || = x + b.

2. 대상에는 두 가지 범주 만 있으며, 여기서 y_i는 +1과 -1 만있을 수 있습니다. 따라서 y_i의 부호가 점 x가있는 선의 측면과 일치하면 (w^T) x + b> 0, y_i가 < 0이면 (w^T) x + b <) , y_i를 곱하는 것은 거리 (w^T) x + b의 절대 값을 얻는 것과 간단히 같습니다.