5장 합성곱 신경망Ⅰ(2) - 전이 학습

5.3 전이 학습

합성곱 신경망 기반의 딥러닝 모델을 제대로 훈련시키려면 '많은 양의 데이터가 필요'

BUT 큰 데이터셋을 확보하기 어려움(많은 돈, 시간을 필요로 함)

해결 방법 : 전이 학습(Transfer learning)

 

전이학습이란?

'이미지넷처럼 아주 큰 데이터셋을 써서 훈련된 모델의 가중치'를 가져와, 해결하려는 과제에 맞게 보정해서 사용하는 방법

효과 : '비교적 적은 수의 데이터'로, 우리가 원하는 과제 해결 가능

✔ 아주 큰 데이터셋을 사용해 훈련된 모델 = 사전 훈련된 모델(네트워크)

//이미지넷 : 영상 인식 기술의 성능을 평가하는 이미지 데이터셋

전이학습

 

전이 학습을 위한 방법

① 특성 추출 ② 미세 조정 기법

 

---

 

5.3.1 특성 추출 기법

특성 추출 과정

① 이미지넷 데이터셋으로 사전 훈련된 모델을 가져옴

② 마지막에 완전연결층 부분만 새로 만듦

⇒ 학습할땐 마지막 완전연결층(이미지의 카테고리를 결정하는 부분)만 학습, 나머지 계층들은 학습안됨

 

특성 추출 구성

• 합성곱층 : 합성곱층 + 풀링층
• 데이터 분류기(완전 연결층) : 추출된 특성을 입력받아, 최종적으로 이미지에 대한 클래스를 분류하는 부분

≫ 사전 훈련된 네트워크의 합성곱층(가중치 고정)에 새로운 데이터를 통과시킨 후, 그 출력을 데이터 분류기에서 훈련시킴

+ 여기에서 사용 가능한 이미지 분류 모델 : Xception, Inception V3, ResNet50, VGG16, VGG19, MobileNet

특성 추출 기법