Deep Learning

RNN (Recurrent Neural Networks) 순환 신경망. 참고 Brunch Chris 송호연 유재명 교수님. PPT 우리가 문맥을 이해하거나 책을 읽을 때 바로 전의 문맥에 맞게 단어를 이해하고 내용을 생각한다. 모든 내용을 한번에 이해하는 것이 아니라 흐름(Flow)를 가지고 이해를 한다. 예전의 Neural Network에서는 ㅅ구현할 수 없었다. 이러한 것이 중요한 단서가 된 알고리즘이다. Sequence Data 하나의 단어를 가지고 이해한다고 해서 전체를 이해할 수 있는 것이 아니다. 이전의 단어들과 + 지금의 단어를 가지고 이해할 수 있다. (Time Series) NN / CNN 은 할 수 없다. 1. RNN의 구조 $X_t->A->h_t$ 순으로 값이 출력된다 그리고 $h_t..

CNN(Convolutional Neural Networks) - 자료는 모두의 머신러닝의 SungKim 교수님의 사진을 인용하였습니다. 첫 시작은 고양이 실험에서 시작되었다. 각각 그림의 부분에 반응하는 뉴런이 있었다 라는 부분에서 착안되었다. 자동차 그림 인식 아래의 자동차를 인식하기 위해서 자동차 그림을 아래와 같이 짤라 각각의 데이터로 입력하게 된다. ' 이러한 Layer 층을 Convolution Layer라고 한다. 그래서 이 Network이름이 Convolution Neural Networks라고한다. 중간에 ReLU층을 넣고 다시 Convolution layer + POOLing + 마지막으로 Fully Connected Neural Network을 연결하여 결과를 출력하는 Networks..

Basic_Deep_Learning 우리가 이미 알고 있는 것. Regression : $ y = ax + b $ Minimize Cost $H(x) = Wx$ 간단하게 표현 $Cost(W) = \sum_{1}^{m}({Wx}^{i}-{y}^{i})^2$ W 값을 변경해 가면서 Cost값이 가장 낮은 곳을 찾는다. Gradient Descent (경사하강법) 위의 Cost값을 최소한으로 하는 W를 찾아내는 방법을 Gradient Descent라 한다. 신경망의 특징 신경망의 경우 활성화 되고 안되고 즉, 결과값이 0 또는 1값을 가지게 된다. 최종 Output의 경우 적용 되는 부분 X라는 값으로 Y로 출력 X라는 값이 입력될 때 가중치 W가 적용되고 각 값에 대해서 Bias (B)가 가해 진다. 즉, ..