https://arxiv.org/pdf/1906.05186.pdf
https://www.youtube.com/watch?v=6ZrXjdMfqxk
우리가 한정된 데이터 셋을 가지고 있을 경우 overfitting 문제를 당면할 수 있다. 이 문제를 어떻게 해결할 수 있을까가 논문의 핵심이다. 위의 그림에서 F는 feature extraction network를 가리킨다. 해당 F 의 overtting 을 방지하기 위해서 Loss 함수에 classification 외 self-supervised loss를 추가하여 하나의 loss function을 구성하여 적용한다.
self-supervised loss계산을 위해서는 unlabeled 데이터를 사용하는데, 논문에서는 위의 그림과 같이 이미지를 roatation 한후 rotation degree를 GT로 적용하는 방법과 image patch간의 위치 상관 관계를 GT로 적용하는 방법을 사용하였다.
'Papers > Machine learning' 카테고리의 다른 글
| Pre-training vs Rand Initialization (0) | 2020.07.29 |
|---|---|
| Transistor structure (0) | 2020.07.29 |
| DMIPS vs DMIPS/MHZ (0) | 2020.07.10 |
| Mean-Shift Clustering (0) | 2020.06.25 |
| Triplet loss function for face recognition (0) | 2020.06.24 |