SVM을 사용할 때 지형지 물의 수가 증가함에 따라 분류 정확도가 떨어지는 이유

Question

이미지 분류에 libsvm을 사용하고 있습니다. 분류에 더 많은 기능을 사용하면 예측 정확도가 떨어지는 이유는 무엇입니까? 그것이 증가하지 않아야합니까? 내 데이터 세트 크기는 교육을 위해 1600, 테스트를 위해 400으로 고정되어 있습니다.

Answer 1

추가 기능은 기능 공간에서 클래스를 분리하는 데 전혀 도움이되지 않을 수 있습니다. 정확도는 반드시 피쳐 수와 관련이 없습니다.

가난한 기능을 많이 포함하면 SVM이 데이터의 노이즈를 학습하게되어 정확성이 손상 될 수 있습니다. 귀하의 추가 기능은 다음과 같습니다 예를 들어

(명확성을 위해 2D 플롯을 사용) :

그런 다음

는 (이 경우) 분리를위한 아주 좋은 기능이되지 않습니다 두 개의 클래스를 . 예를 들어, SVM이이 패턴에 대해서만 훈련한다면 미래의 클래스의 클래스를 예측하는 것은 그리 좋지 않을 것입니다. 그러나 데이터 세트에 다음과 같은 기능이있을 수 있습니다.

이 기능은 두 클래스를 분리하는 데 매우 유용합니다.