Resnet, Unet, GAN 구조
1. ResNet 구조 2015년 ILSVRC에서 우승을 차지한 ResNet은 마이크로소프트에서 개발한 알고리즘입니다. 원 논문명은 "Deep Residual Learning for Image Recognition"입니다. 이 전까지 CNN이 이미지 인식 분야에서 뛰어난 성능을 보여주고 있었고, 네트워크의 layer를 깊이 쌓으며 성능 향상을 이루고 있었습니다. 하지만 실제로 layer를 깊게 쌓게 되면 gradient vanishing / exploding이 일어나고 성능은 더 떨어지는 일이 발생했습니다. 원인은 layer가 깊어지면서 back propagation을 통해 얻어지는 기울기가 너무 작아지거나 너무 커지기 때문입니다. 또 layer가 깊어지면 학습이 어려워지는데 이는 overfitting ..
연구실 공부
2022. 2. 25.