딥러닝

[ 배운 내용 ] Chapter 1. 자연어처리 요소 기술 1. NLP란 2. 형태소분석과 품사태깅 - MeCab을 사용한 형태소 분석 실습 3. 규칙&패턴 기반 자연어처리 - 개체명 인식 - BIO 태깅 기법 - 구문 분석 - 패턴 매칭 Chapter 2. 기계학습 기반 자연어처리 1. 문서 벡터화 2. 문서 유사성 3. 문서 분류 Chapter 1. 자연어처리 요소 기술 1. NLP란 NLP (Natural Language Processing, 자연어 처리) - SW를 이용하여 인간의 언어를 처리하고 이용하려는 연구 분야 NLP의 목표 인간의 언어로 디지털 디바이스와 상호작용 하여 원하는 task를 수행하도록 하는 것 자연어로 된 대량의 컨텐츠를 분석하여 비즈니스 인사이트를 도출해내는 것 Input으..

[ 배운 내용 ] 1. Video Detection 2. Custom Data Image Detection Video Detection 오늘은 동영상에서 Object Detection을 수행하는 실습을 진행하였다. 사실 비디오도 따지고 보면 연속된 이미지의 모임이기 때문에 이전 실습시간에 진행했던 Image Detection과 방법은 모두 동일해서 내용정리는 생략하겠다. 동영상의 총 프레임을 계산하기 때문에 CPU로 Detect해줄 경우 속도가 너무 느려서 런타임을 GPU로 하고 진행했다. Custom Data Image Detection 이전 실습의 내용들은 COCO Dataset 분류 문제를 기준으로 학습이 되어 있는 YOLO 모델을 사용해보는 것이었다. 하지만 그냥 YOLO 모델을 가져다만 사용하면..

[ 배운 내용 ] 1. BatchNormalization(), Dropout() 2. Computer Vision - Convolutional Neural Network (CNN) 3. CNN 코드 작성 실습 - Conv2d, MaxPool2D 사용 1. BatchNormalization, Droupout BatchNormalization() : 각 계층에 대해 평균과 표준편차를 0과 1이 되도록 만들어줌 (각 층의 활성화값을 정규분포로 적절하게 퍼뜨려준다.) Internal Covariate Shift 현상을 방지한다. 학습을 빠르게 진행할 수 있다. 초기값에 크게 의존하지 않게 된다. 오버피팅을 억제해준다. Internal Covariate Shift : 레이어를 거칠 때마다 분포의 변화가 심화되어서..

[ 배운 내용 ] 1. 실습 - 캘리포니아 주택, 와인 데이터 실습 2. Connection - Locally Connected - Concatenate - Locally Connected - Add Connection 딥러닝의 내부에서 어떤 동작이 이루어지는지는 사실 우리가 정확하게 알 수 없다. 이 때문에 딥러닝은 Black Box 구조를 갖고 있다고도 한다. 이를 설명하기 위해 노력하는 Explainable AI라는 학문도 있다고 한다. 하지만 딥러닝의 Artificial Neural Network구조에서 연결을 어떻게 하느냐에 따라서는 우리가 해석을 시도해 볼 여지가 있다 iris 데이터를 예시로 살펴보자 이전에 해본 모델링은 인풋, 아웃풋, 히든레이어의 모든 노드들이 서로 연결된 Fully Co..

[ 배운 내용 ] 1. Hidden Layer (은닉층) - Hidden Layer를 추가하여 모델링 : 선형회귀, 이진분류, 멀티클래스분류 - MNIST 분류 실습 딥러닝의 지도학습에서 "학습"이란? -> Error(오차)를 줄여나가는 방향으로 W(가중치)를 업데이트 해주는 것 (update : 기존의 것을 고쳐줌 = 개선) ===> 이 과정을 [ Gradient descent ] 라고 한다. Gradient descent 진행 시 기존의 가중치를 우리가 원하는 최적의 가중치로 점점 업데이트하게 된다. 이 때, 가중치 대비 에러값의 변화량에 learning rate를 곱한 값을 기존의 가중치에서 빼며 업데이트 하는데, 이 learning rate 값이 적절해야 우리가 원하는 가중치를 향해 점점 갱신될 ..

[ 배운 내용 ] 1. Tensorflow + Keras 2.x 버전 코드로 구현 (1) 선형회귀 - Sequential API 방식 모델링 - Functional API 방식 모델링 (2) 로지스틱회귀 (이진분류) - Sequential API 방식 모델링 - Functional API 방식 모델링 (3) 멀티클래스 분류 (iris 데이터) - Sequential API 방식 모델링 - Functional API 방식 모델링 Tensorflow & Keras 2.x Keras : Tensorflow(텐서플로우)에 내장되어 있는 유저친화적 API (수업에서는 2.x버전으로 사용). 딥러닝을 처음 공부할 때 Tensorflow + Keras 만한 프레임워크가 없다. 연구단 쪽에서는 Pytorch 현업에서는..