Naive Bayes Classifier의 정확도를 향상시키는 방법은 무엇입니까?

Question

Naive Bayes Classifier를 사용하고 있습니다. 다음은 tutorial입니다. 훈련 된 데이터에 대해 저는 308 개의 질문을 사용하고 수동으로 태그가 지정된 26 개의 카테고리로 카테고리를 분류하고 있습니다. 데이터를 보내기 전에 NLP를 수행 중입니다. NLP에서 수행 중 (문장 부호 제거, 토큰 화, 정지 단어 제거 및 형태소 분석) 이 필터링 된 데이터가 mahout의 입력으로 사용됩니다. mahout을 사용하여 NBC에서이 데이터를 학습하고 모델 파일을 가져옵니다. 지금 내가 달릴 때

mahout testnb 

나는 정확한 인스턴스를 96 %로 얻는다.

내 테스트 데이터의 경우 수동으로 태그를 추가 한 100 개의 질문을 사용하고 있습니다. 그리고 훈련 된 모델을 테스트 데이터와 함께 사용할 때, 올바르게 분류 된 인스턴스를 1 %로 얻습니다. 이것은 나를 화나게하고있다.

누구나 내가 뭘 잘못했는지 나에게 제안하거나 NBC의 성능을 향상시키는 몇 가지 방법을 제안 할 수 있습니까?

이상적으로 트레이닝과 테스트에 필요한 질문 데이터의 양은 어느 정도입니까?

Answer 1

이것은 훈련 세트에서 매우 높은 정확도를 얻을 수 있지만 실제 상황에서는 낮은 %의 고전적인 문제인 것으로 보입니다.

더 많은 교육 인스턴스가 필요할 수 있습니다. 또한 26 개의 카테고리가 가지고있는 기능과 상관 관계가없는 가능성이 있습니다. 기계 학습은 마술 적이 아니며 변수와 결과 사이에 일종의 통계적 관계가 필요합니다. 사실 NBC가 여기서하고있는 일은 실제로 훈련 밖의 질문에는 전혀 쓸모없는 훈련 세트를 "암기"하는 것입니다.