본문 바로가기

Deep Learning(강의 및 책)/CS231

Lecture 14. Reinforcement Learning 이번 마지막 강의에서는 강화 학습(Reinforcement Learning)에 대해서 배웁니다. 여태까지 배운 것들 중 주로 supervised learning을 배웠습니다. 데이터 x와 레이블 y가 있고 x를 y에 mapping 하는 함수를 학습하는 것이 목표였습니다. 지난 강의에서는 Unsupervised Learning을 배웠습니다. 데이터는 있지만 레이블이 없는 경우입니다. 데이터에 내재된 숨겨진 구조를 학습하는 것이 목표였습니다. 이번에는 좀 다른 형태의 Reinforcement Learning(강화 학습)에 대해 배웁니다. 강화학습에는 에이전트(agent)가 있습니다. 에이전트는 환경(environment)에서 행동(action)을 취하는 주체입니다. agent는 행동에 따른 적절한 보상(re.. Deep Learning(강의 및 책)/CS231 2022. 7. 4.
Lecture 13. Generative Models 이번 강의에서는 비지도 학습의 일종인 생성 모델(generative model)에 대해서 배웁니다. 총 3가지의 생성 모델(pixel RNN and pixel CNN, Variational Autoencoders(VAE), Generative Adversrial Networks(GAN))에 대해서 배웁니다. 먼저 지도학습과 비지도 학습의 차이에 대해서 설명합니다. 지도 학습에서는 데이터 x, 레이블 y가 있습니다. 지도 학습의 목적은 데이터 x를 레이블 y에 mapping 하는 함수를 배우는 것입니다. 레이블의 형태는 여러 가지가 있습니다. 예를 들어 classification 문제의 경우 이미지가 input이 되고 출력은 클래스 레이블이 됩니다. Object detection 문제에서는 input으로 .. Deep Learning(강의 및 책)/CS231 2022. 7. 1.
Lecture 12. Visualizing and Understanding 이번 강의는 CNN 구조에서 layer들에서 filter들이 나타내는 내용이 무엇인지에 대해서 알아봅니다. 일단 위에 그림들은 filter를 이미지로 표현하기 위해서 weight들을 0~255로 normalize 하고 bias는 무시한 상태로 출력한 모습입니다. pretrain 된 model의 첫 layer의 filter들의 모습인데 대부분 에지 성분을 보여줍니다. 흰/검으로 길게 늘어선 필터들도 보입니다. 첫 layer의 filter들은 oriented edge나 보색 같은 것들을 찾는다는 것을 볼 수 있습니다. 사실 인간의 시각체계도 oriented edge를 먼저 인식합니다. filter의 그림이 저렇게 나온다면 과연 filter는 그 이미지를 찾는 것이 맞나?? 임의의 templete vector.. Deep Learning(강의 및 책)/CS231 2022. 5. 23.
Lecture 11. Detection and Segmentation 이번 강의는 computer vision task에 대해서 다룹니다. segmentation, localization, detection 등 다양한 CV task와 이 문제점들을 CNN으로 어떻게 접근해 볼 수 있을지에 대해 다룹니다. 이번 강의에서 다룰 CV task를 위에서 볼 수 있습니다. semantic segmantation, classification + localization, object detection, instance segmentation이 있습니다. 먼저 semantic segmentation을 보겠습니다. input으로 image가 들어가고 output은 이미지의 모든 픽셀을 카테고리에 맞춰 분류된 모습입니다. 모든 픽셀에 대해 그 픽셀이 잔디, 고양이, 하늘, 나무, 배경인지를.. Deep Learning(강의 및 책)/CS231 2022. 5. 21.
Lecture 10. Recurrent Neural Networks 이번 강의는 RNN에 대한 내용입니다. 위 사진을 보면 RNN 구조들이 나와 있습니다. 이 전까지 본 one to one과 같은 구조를 vanilla neural network라 합니다. input과 output 모두 1개인 경우입니다. one to many의 경우 input은 1개이지만 output은 가변 출력입니다. image caption과 같은 경우가 될 수 있고 caption에 따라 단어의 수가 천차만별이기 때문에 output은 가변 출력입니다. many to one 구조는 input이 가변 입력입니다. 문장 같은 경우가 input으로 들어가면 가변 입력입니다. 문장의 감정을 분류하는 모델의 경우 many to one과 같은 구조가 적절합니다. 마지막으로 many to many가 있습니다. co.. Deep Learning(강의 및 책)/CS231 2022. 5. 19.
Lecture 9. CNN Architectures 이번 강의는 CNN architecture에 대한 내용입니다. 주로 대회에서 우승한 model들을 볼 예정입니다. 위에 나온 모델들을 볼 예정입니다. 위 모델은 AlexNet입니다. 이는 최초의 Large scale CNN입니다. ImageNet Classification task를 아주 잘 수행합니다. AlexNet은 2012년에 등장해서 기존의 non-deep learning model들을 능가하는 놀라운 성능을 보여줍니다. AlexNet은 기본적으로 conv->pool->normalization 구조가 두 번 반복됩니다. 그리고 conv layer가 조금 더 붙고 그 뒤에 pooling layer가 있고 마지막에 fc-layer가 몇 개 붙습니다. 만약 input이 227x227x3인 이미지가 들어.. Deep Learning(강의 및 책)/CS231 2022. 5. 14.
Lecture 8. Deep Learning Software 이번에는 Deep Learning software들에 대한 내용입니다. Caffe, Caffe2, TensorFlow, Pytorch 등 여러 software에 대해서 설명을 합니다만 저는 Pytorch에 대해서만 작성하겠습니다. 먼저 GPU와 CPU에 대한 설명을 하시는데 결국 GPU는 수천개의 코어를 이용해 병렬 처리를 합니다. 그래서 행렬 곱, convolution 연산 등 GPU에 특화되어 있다는 말을 하십니다. GPU를 사용하기 위해서 NVIDIA는 GPU에 고도로 최적화시킨 기본 연산 라이브러리를 배포해줍니다. cuDNN의 경우 convolution, forward pass, backward pass, batch norm, rnn 등 딥러닝에 필요한 거의 모든 기본적인 연산들을 제공합니다. C.. Deep Learning(강의 및 책)/CS231 2022. 5. 14.
Lecture 7. Training Neural Networks, Part 2 이번에는 저번 강의에 이어서 Neural Network를 train 할 때 사용되는 내용들에 대한 내용입니다. 이번 강의는 Fancier optimization, Regularization, Transfer Learning에 대해서 말합니다. network에서 loss function을 정의하면 weight가 얼마나 좋은지 나쁜지를 알려줍니다. 위 코드는 SGD(Stochastic Gradient Descent)를 구현한 코드입니다. mini batch안의 데이터에서 Loss를 계산합니다. 그다음 gradient의 반대 방향으로 parameter vector를 업데이트합니다. 반대방향인 이유는 loss function이 내려가는 방향으로 가야 하기 때문입니다. 이러한 과정을 반복하다 보면 결국 loss가.. Deep Learning(강의 및 책)/CS231 2022. 5. 10.

티스토리툴바