[ML(머신러닝)] 머신러닝 기초 2 <하이퍼파라미터튜닝>

https://coding-heading.tistory.com/81

[ML(머신러닝)] 생선구분하기 - 1 <K최근접이웃모델>

* 위  글과 이어집니다.

 

<하이퍼파라메터>
 - 모델(클래스)의 속성 중에 사람이 직접 값을 지정해줘야 하는 변수들을 통칭

 

<하이퍼파라미터 튜닝>
 - 모델 성능을 향상하기 위한 방법
 - 과대적합(1) 또는 과소적합이 일어난 경우 튜닝 진행

* KNN 모델 생성하기

# n_neighbors : 이웃의 갯수 (하이퍼파라메터 속성)
kn20 = KNeighborsClassifier(n_neighbors=20)
kn20

 

 

* 모델 훈련시키기

kn20.fit(fish_data, fish_target)

 

 

* 훈련 정확도 확인하기

kn20.score(fish_data, fish_target)

# 매우좋은 성능을 보이는 모델이라고 표현한다.

결과 : 0.9795918367346939

- 0.9 : 좋음 / 0.95 : 매우 좋음

 

* 예측하기

kn20.predict([[30,600]])

결과 : array([1])

 

* 튜닝 진행

kn20.n_neighbors = 40
kn20.score(fish_data, fish_target)

결과 : 0.7142857142857143

kn20.n_neighbors = 15
kn20.score(fish_data, fish_target)

kn20.n_neighbors = 5
kn20.score(fish_data, fish_target)

결과 : 1.0

 

* 모델 생성

kn30 = KNeighborsClassifier()
kn30

 

* 훈련시키기

kn30.fit(fish_data, fish_target)

 

* 가장 성능이 좋은 하이퍼파라미터 튜닝하기

# 1보다 작은 가장 좋은 성능을 나타낼때 찾기

# 정확도가 가장 높을떄의 이웃의 갯수를 담을 변수
nCnt = 0
# 정확도가 가장 낮을떄의 이웃의 갯수를 담을 변수
nScore = 0

for n in range(3, len(fish_data),2):
    kn30.n_neighbors = n
    score = kn30.score(fish_data, fish_target)
    # print(f"{n} / {score}")

    ### 1보다 작은 정확도인 경우
    if score <1:
        ### nScore의 값이 score보다 작은 경우 담기
        if nScore < score:
            nScore = score
            nCnt = n

print(f"nCnt = {nCnt} / nScore = {nScore}")

### 모델의 성능이 가장 좋은 시점의 이수의 갯수를 추출하기 위한 하이퍼파라메터 튜님결과 
### 이웃의 갯수가 19개 였을때 가장 좋은 성능을 발휘 하는것으로 확인 됨.

결과 : nCnt = 19 / nScore = 0.9795918367346939

 

* 최종 검출

kn.n_neighbors = nCnt
kn.score(fish_data, fish_target)

결과 : 0.9795918367346939

kn.predict([[10,30]])

결과 : array([0])