-
[자료 읽기] 자기지도학습이란?자료 읽기 2022. 3. 16. 09:01
출처 : https://lifeisenjoyable.tistory.com/15
* 자기지도학습이란?
자기지도학습이란 레이블이 없는 데이터를 기반으로한 학습으로서, 자기 스스로 학습 데이터에 대한 분류를 수행한다.
기존 지도학습과 비지도 학습은 데이터 레이블의 유무에 따라 구분되었다.
지도 학습. 레이블 있다. Classification, Regression에 사용
비지도 학습. 레이블 없다. Clustering에 사용
* 자기지도학습 구성
자기지도학습은 Pre-trained 모델 생성과 Downstream task 두 단계로 구성.
Pre-trained 모델은 대량의 raw data을 이용하여 전반적인 특징을 학습하는 단계 (Untagged data -> tagged data)
Downstream task는 소량의 tagged data를 활용하여 pre-trained model을 fine tuning 합니다.
예를 들어, Pre-trained 모델에 사용 목적에 맞게 레이어를 몇개 더 넣어서 원하는 결과를 얻어내도록 fine tuning
* 자기지도학습 등장배경
일반적으로 딥러닝 모델은 데이터 사이즈(양)에 증가함에 따라 정확도가 향상
자기지도학습은 tagged data 수집이 어려워서 탄생하게 되었음.
tagged data가 적어도 자기지도학습은 학습 데이터를 확보하기 쉽고 데이터 사이즈가 많아져 모델의 정확도가 더 늘어난다.
'자료 읽기' 카테고리의 다른 글
[자료 읽기] Self-Supervised vs Semi-Supervised Learning 특징 차이 (0) 2022.03.16 [자료 읽기] Unsupervised Visual Representation Learning Overview: Toward Self-Supervision (0) 2022.03.16 [자료 읽기] 논문 읽는법 (0) 2022.03.15 [자료 읽기] (2022) How does unlabeled data improve generalization in self-training? (0) 2022.03.15 [자료 읽기] 딥러닝논문리뷰 PointNet (0) 2022.03.15