머신러닝 기초3

딥러닝 주요모델

 - 딥러닝

     2010년대에 딥러닝이 주목받기 시작함

     알고리즘과 GPU의 발전으로 Neural Network의 학습속도를 비약적으로 발전시킴

     다층의 레이어를 통해 복잡한 데이터의 학습이 가능하게 함(graphical representation learning, 응용예: CNN(Convolutional Neural Network))

 - Neural Network

     오랜 학습시간과 overfitting으로 인해 사용되지 않다가 딥러닝의 등장으로 많이 사용 됨

 - CNN(Convolutional Neural Network)

     Neural Network과 비슷한 모델

     이미지 처리에 사용되며, 이미지의 지역별 feature(region feature, graphical feature)를 추출하여 한줄의 벡터로 만들어 해당 벡터를 입력으로 Neural Network학습을 진행하는 기법

 - GAN(Generative Adversarial Network)

     데이터를 만들어내는 Generator와 만들어진 데이터를 평가는 Discriminator가 서로 대립적으로(Adversarial) 학습하며 성능을 점차 개선하는 기법

     Generator는 Discriminator가 가짜와 진짜를 구별하지 못하는 데이터를 생성하도록 학습

     Discriminator는 진자데이터를 진짜로 판별하고 가짜데이터는 가짜로 판별하도록 학습

     종류: BigGAN, CycleGAN등

 - 강화 학습

     Q-learning: 현재상태에서부터 먼 미래까지 가장 큰 보상을 얻을 수 있는 행동을 학습하게 하는 것

     DQN(Deep Reinforcement Learning): Q-learning + Deep Learning

     강화학습의 경우 현실에 적용하기에 어려운점이 있어 게임을 가지고 연구를 진행하고 있음(ex: 자율주행의 경우 현실에서 적용하고자 연구중, atari game환경 unity game환경등)

 - 기타: RNN(Recurrent Neural Network), AutoEncoder(비지도학습방식) 등

    

 - 딥러닝의 적용예

    이미지

     : object detection

     : image resolution

     : style transfer

     : colorization

    네트워크 구조의 발전

     : ResNET

     : DenseNET

    네트워크 초기화 기법(Xavierm, he initialization등)

    다양한 activation function(ReLu, ELU, SeLU, Leaky ReLU등)

    Generalization, overfitting에 관한 문제해결을 위해

    Semi-supervised learning, unsupervised learning

** 머신러닝의 하위 종류로 딥러닝이 있고, 딥러닝은 Image, Text, Generalization으로 나뉘며, 딥러닝의 심화로 GAN과 Reinforcement Learning이 있다.