svm을위한 gridsearch를 배우는 기계

Question

나는 gridsearch에 의해 반환 된 가장 좋은 추정량을 계산할 필요가있는 프로젝트를 수행하고있었습니다.

parameters = {'gamma':[0.1, 0.5, 1, 10, 100], 'C':[1, 5, 10, 100, 1000]} 

# TODO: Initialize the classifier 
svr = svm.SVC() 

# TODO: Make an f1 scoring function using 'make_scorer' 
f1_scorer = make_scorer(score_func) 

# TODO: Perform grid search on the classifier using the f1_scorer as the scoring method 
grid_obj = grid_search.GridSearchCV(svr, parameters, scoring=f1_scorer) 

# TODO: Fit the grid search object to the training data and find the optimal parameters 
grid_obj = grid_obj.fit(X_train, y_train) 
pred = grid_obj.predict(X_test) 
def score_func(): 
    f1_score(y_test, pred, pos_label='yes') 

# Get the estimator 
clf = grid_obj.best_estimator_ 

나는 내가 gridsearch 객체를 생성 한 후 예측을하기 때문에 f1_scorer의 FUNC를 만드는 방법을 모르겠습니다. 내가 gridsearch 점수 메서드로 사용하기 때문에 obj를 만든 후 f1_scorer 선언 할 수 없습니다. gridsearch에 대해이 채점 기능을 만드는 방법을 알려주십시오.

Answer 1

clf = svm.SVC() 

# TODO: Make an f1 scoring function using 'make_scorer' 
f1_scorer = make_scorer(f1_score,pos_label='yes') 

# TODO: Perform grid search on the classifier using the f1_scorer as the scoring method 
grid_obj = GridSearchCV(clf,parameters,scoring=f1_scorer) 

# TODO: Fit the grid search object to the training data and find the optimal parameters 
grid_obj = grid_obj.fit(X_train, y_train) 

# Get the estimator 
clf = grid_obj.best_estimator_ 

Answer 2

make_scorer에 전달하는 스코어러 함수는 y_true 및 y_pred을 매개 변수로 취해야합니다. 그 정보로 점수를 계산하는 데 필요한 모든 것을 얻을 수 있습니다. 그러면 GridSearchCV가 가능한 각 매개 변수 집합에 대해 내부적으로 점수 함수를 저장하고 호출합니다. 미리 y_pred를 계산할 필요가 없습니다.

은 다음과 같아야합니다

def score_func(y_true, y_pred): 
    """Calculate f1 score given the predicted and expected labels""" 
    return f1_score(y_true, y_pred, pos_label='yes') 

f1_scorer = make_scorer(score_func) 
GridSearchCV(svr, parameters, scoring=f1_scorer)