I. 기계학습 알고리즘의 집합, 딥러닝(Deep Learning)의 개요
가. 딥러닝(Deep Learning)의 정의
- 사람의 개입이 필요한 기존의 지도학습(supervised learning)에 보다 능동적인 비지도학습(unsupervised)이 결합되어 컴퓨터가 마치 사람처럼 스스로 학습할 수 있는 인공지능 기술
- 인공신경망(ANN,Artificial Neural Networks)에 기반한 일련의 기계학습의 집합체로 컴퓨터에게 사람의 사고방식을 가르치는 알고리즘
나. 딥러닝의 등장 배경
등장배경 | 설명 |
Big Data | 대량으로 쏟아져 나오는 데이터들, 수집하기 위한 노력 특히 SNS 사용자들에 의해 생산되는 다량의 자료와 태그정보들 모두가 종합되고 분석 되어 학습에 이용 |
하드웨어 및 IT 기술의 발전 | GPU(graphics processing unit)는 복잡한 매트릭스와 벡터 계산이 혼재해 있는 경우 몇 주 걸리던 작업을 몇 일 사이로 줄이는 등 최고의 성능 발휘 센서기술과 네트워크 기술 등 다양한 관련 기술들이 고도화 ->대량의 정보를 빠르게 처리 통신기능의 발달로 네트워크를 통해 원격 분석 가능 |
인공신경망 모델의 단점 극복 | 과적합(overfitting)문제해결. 느린 학습시간이 줄어들지는 않음. *과적합: 지난친 정교화의 분석으로 미래 예측력이 오히려 떨어질 수 있다는 우려. |
1차적 분석방법의 한계 | 주어진 정보와 질문에 내재되어 있는 추상적 인 부분에 대해서는 답을 찾기 어려운 컴퓨터의 단점 극복 예) 단어의 여러가지 의미, 억양에 따른 의도 등 |
II. 딥러닝의 개념도 및 주요 기술
가. RNN의 구조 비교
- 딥 러닝은 인공신경망과 유사한 정보처리 알고리즘을 이용하지만 한층 더 깊은 심층신경망 (DNN, Deep Neural Network) 정보처리에 스스로 학습하고 발전시켜 나가는 자율적 진화학습방식으로 진화한 모델
- 다단계의 은닉계층에도 불구하고, 정제되지 않은 방법에 의한 반복 학습시
- 기본
나. 딥러닝의 주요 기술
주요기술 | 설명 |
패턴인식 | 기계에 의해 도형, 문자, 음성 등을 식별 |
자연어처리 | 인간이 보통 쓰는 언어를 컴퓨터가 인식하여 식별 |
자동 제어 | 제어대상 오차를 자동으로 조정하는 기술 |
로보틱스 인지공학로봇 | 인지능력을 로봇에게 부여하는 기술 |
컴퓨터 비전 | 로봇의 눈을 만드는 연구분야 |
가상현실 | 컴퓨터로 가상환경을 만들어 실제 상황처럼 상호작용하는 분야 |
데이터마이닝 | 빅데이터 가운데 실행가능한 정보를 추출 |
시멘틱웹 | 논리적 추론이 가능한 웹 구현 |
인공신경망 모델링 | 노드(Node), 입력(Input), 출력(Output), 가중치(Weight) |
DDN(Deep Neural Network) | 심화신경망 입력계층(input layer)과 출력계층(output layer) 사이에 복수개의 은닉계층(hidden layer)들로 이뤄진 인공신경망(Artificial Neural Network, ANN) |
II. 딥러닝의 주요 알고리즘 및 프레임워크
가. 주요 알고리즘
알고리즘 | 설명 |
심층신경망 (DNN, Deep Neural Network) | -심층계층을 가진 인공신경망, Deep Learning의 기본 알고리즘 -인간의 신경망(Neural Network) 이론을 이용한 인공신경망(ANN, Artificial Neural Network)의 일종으로, 계층 구조(Layer Structure)로 구성하면서 입력층(Input layer)과 출력층(Output layer) 사이에 하나 이상의 숨겨진 층(Hidden layer)을 가짐 -비슷 수행된 인공신경망에 비해 더 적은 수의 유닛만으로 복잡한 데이터모델링 -과적용(Overfitting)과 높은 시간복잡도의 문제 |
합성곱신경망 (CNN, Convolutional Neural Network) | -최소한의 전처리를 사용하도록 설계된 다계층 퍼셉트론 (Multi-layer Perceptron)의 한 종류 -가중치와 통합계층을 추가로 활용하여 2차원 구조의 입력데이터(영상, 음성)활용에 장점을 가짐 |
순환신경망 (RNN, Recurrent Neural Network) | -인공신경망을 구성하는 유닛사이의 연결이 Direct Cycle을 구성하는 신경망 -임의의 입력처리를 위해 신경망 내부의 메모리를 활용 -필기체 인식 |
제한볼츠만 머신 (Restricted Boltzman Machine) | -볼츠만 머신에서 층간 연결을 없앤 형태의 모델 -가시 유닛이 관찰되고 고정 시 은닉 유닛을 추론하는 MCMC과정이 한 번에 끝남 |
심층 신뢰 신경망 (DBN, Deep Belief Network) | -기계학습에서 사용되는 그래프생성 모형 -딥러닝에서는 잠재변수의 다중계층으로 이루어진 심층신경망을 의미 -계층간에는 연결이 있지만 계층내의 유닛 간에는 연결이 없음 |
나. 딥러닝 프레임워크
기반언어 | 프레임워크 | 설명 |
Python | Theano (시애노) | 다차원 배열을 사용한 수학식 정의, 수식 및 행렬연산을 쉽게 만들어 주는 Python라이브러리(몬트리올 대학) - Symbolic 연산철학, Symbolic미분 가능->Back Propagation구현 불필요 - numpy, scipy, matplotlib, ipython등 다양한 python패키지와 연동 가능 |
Keras | Theano를 기반으로 하여 보다 쉽게 사용할 수 있도록 구현한 프레임워크 - 레이어, Activation함수, 최적화 기법을 블록 조립하듯 사용가능 | |
Chainer | Define-by-Run형태로 구현되어 있어 forward함수만 정의하면 네트워크 구조가 자동으로 정해지는 특징, Python기반, 자유도가 매우 높음. | |
C++ | Caffe(카페) | 표현력, 속도, 모듈화 지원을 고려한 프레임워크, Berkely대학에서 관리 - CUDA설치필수(헤더/라이브러리 사용) - C++, Protobuf기반, Python과 Matlab인터페이스도 잘 구현되어 있음 |
SINGA | 기존 시스템에서 동작하는 분산처리 학습 알고리즘을 일반적으로 구현하기 위해 만들어진 프레임워크, Apache SW Foundation의 후원 | |
TensorFlow (텐서플로우) | 데이터 플로우 그래프(Data Flow Graph)방식을 활용하는구글에서 만든 프레임워크, Unix계열 OS(Linux/Mac OSX)만 지원 - 데이터 플로우 그래프를 통한 표현력, Python/C++지원, 쉬운 미분계산 | |
Lua(루아) | Torch(토치) | RBM, DBN, AE, LSTM등 대부분의 딥러닝 모델 지원 페이스북, 구글 딥마인드에서 사용중(뉴욕 대학의 토치(Torch)) |
Julia (줄리아) | Mocha.jl | Caffe에 영감을 받아 만들어진 Julia기반 딥러닝 프레임워크 Auto-encoder를 통해 비지도 학습 가능, 모듈화 구조/이식성/빠른속도 |
IV. 딥러닝의 주요 사례
주요사례 | 내용 | |
국외 사례 | 페이스북 Deep Face | 사용자가 게시하는 사진에서 사람을 인식하는 기술. 사진을 통해 누구와 공유해야할지 판단하며, 행동 예측 및 광고에도 사용. 예)사용자 사진의 제품을 분석하여 관련상품 광고 |
구글
| 음성인식 “나우” 동시통역기능 프랑스 구석구석 2시간만에 지도 만든 “스트리트뷰” 인공지능 음성비서 서비스 듀플렉스(’18. 5. 8. 구글 연례개발자대회(I/O)) | |
MS “코타나” | 음성인식 기능 탑재한 개인 비서 모델 사용자 목소리까지 흉내내서 영어/중국어 간 실시간 통역서비스 가능 | |
알리바바 타오바오 | 비주얼 서치기능. 복잡한 상품중에서 의류를 감지하는 detection기능, 유사한 옷을 찾기쉽도록 해주는 매칭기술 등 | |
바이두 | 음성인식, 화상인식(deep image), 자연어처리 연구 바이두 아이(Baidu Eye)를 통해 사물 인식 및 관련정보를 음성으로 제공. (음성인식 에러율이 구글/페이스북보다 낮음) | |
딥페이크 | ’17.12. “딥페이크”라는 아이디가 인공지능 기술을 활용한 유명 연예인의 위조 영상물을 인터넷에 공개. 유명 영화배우의 얼굴을 성인 영상물에 합성/배포 | |
국내 사례 | 네이버 | 네이버 딥러닝랩 뉴스요약서비스, 이미지 분석 N드라이브 사진분류서비스, |
다음 카카오 | 즉답검색서비스, 여행지추천서비스 | |
서울성모병원 | 인공지능(AI) '딥러닝'(Deep Learning)으로 작업성 폐 질환인 진폐증을 진단할 수 있다는 연구결과 발표. 진단의 정확도가 95%에 달해 향후 진폐증 판정의 진단을 보조하는 데 활용될 수 있을 것으로 기대. [기사 본문] 가톨릭대학교 서울성모병원 직업환경의학과 명준표 교수와 강상훈(한국 IBM), 최준(가톨릭의대 직업환경의학교실 연구원) 연구팀은 서울성모병원에서 2011년 5월부터 2017년 3월까지 진폐로 검증되거나 기존 진폐 판정자 1천200명의 영상을 활용한 딥러닝 연구결과 이런 사실을 확인했다고 15일 밝혔다. | |
예시 ) 코스콤, 금융거래이상탐지시스템
