Transcript 201301094_Capstone Design

Capstone Design
Realization Cost Reduction
through Deep Artificial Neural Network
Analysis
201301094 김수연
Contents
1. 작품유형
논문 / 개별과제
2. 작품제목 :
Realization Cost Reduction through Deep Artificial Neural Network Analysis
(심층 인공신경망 분석을 통한 구현비용 절감)
3. 제작자
학번
성명
연락처
담임교수
201301094
김수연
010-3129-4089
정재용 교수님
Contents

주제 선정 및 배경

적용 사례

연구 내용 및 구상

소요 예산

팀 구성

추진 일정

참고 문헌
Selected background

What is Deep Neural Networks(DNN)?
 입력 계층(input layer)과 출력 계층(output layer) 사이에 복수개의 은닉 계
층(hidden layer)들로 이뤄진 인공신경망(Artificial Neural Network, ANN)으
로 기계학습(machine learning)의 대표적인 알고리즘이다.
Selected background

Application
image recognition
speech recognition
Selected background

Deep Neural Network(DNN) – Image recognition
Selected background
Selected background

Convolutional Neural Networks(CNNs)
 Convolutional Neural Network(CNN)은 가중치(Weight)와 통합 계층(pooling layer)들을
추가로 활용하므로 2차원 구조의 입력 데이터를 충분히 활용할 수 있다.
 다른 feedforward 인공신경망 보다 training이 쉽고, 적은 수의 parameter를 사용한다.
Selected background

Convolutional Neural Networks(CNNs)
 역전파 알고리즘 (backpropagation algorithm) 을 통해 training되며, 영상, 음
성 분야 모두에서 좋은 성능을 보인다.
Selected background

Convolutional Neural Networks(CNNs)
1. Feedforward : 입력이 최종 출력까지 전달되고 최종 출련단에서 error와
cost function을 구한다.
2. Backpropagation : 최종단에서 구한 기대 출력과 실제 출력간의 차(error)를
반대 방향으로 전파시키면서 각각의 뉴런의 가중치(weight)와 바이어스
(bias)값을 갱신한다.
Selected background

Problem & Topic selection
 한 개의 layer에서 일어나는 연산을 𝑦 = R𝑒𝐿𝑈(𝑤𝑥 + 𝑏) 라고 했을 때
propagation될수록 activation값이 커짐에 따라 data size도 커진다. 이에 따라 데
이터들을 저장할 레지스터의 수 또한 매우 많아 지므로 상당한 비용이 든다.
 따라서 각각의 activation값이 커지지 않도록 하는 방법에 대한 연구 필요
DNN Example

With visual data (e.g., images, videos)
Image Captioning
[Stanford]
MedicalApps
[Lunit Inc]
Object Detection
[Faster R-CNN]
Paint [Ne
uralArt]
Drive cars
[Nvidia]
Research plan

Topic : Realization Cost Reduction by Deep Artificial
Neural Network Analysis

Plan
Idea 1
Convolutional
Neural
Networks(CNNs)
Analysis
simulation
select!
Idea 2
simulation
X
X
Idea 3
simulation
Verification
&
Improvement
Necessary tool/budget
Tool
• Develop environment
- Ubuntu (Linux)
- Python (numPy)
Budget
• no plan
Team organization
김수연
자료 수집
이론 분석
연구 진행
결과 분석
오류 수정
논문작성 및 수정
Time table
목차
자료수집
이론분석
연구진행
결과분석
결과검증
논문작성
& 수정
3/9~3/23
3/23~4/5
4/6~4/19
4/20~5/3
5/4~5/17
5/18~5/31
6/1~6/14
6/14~6/18
Reference

Peter U. Diehl, Daniel Neil, Jonathan Binas, Matthew
Cook, Shih-Chii Liu, Michael Pfeiffer, “Fast-classifying,
high-accuracy spiking deep networks through weight
and threshold balancing”

http://esc.inu.ac.kr/~chung/CNN/Lecture_01.pdf

http://blog.naver.com/2011topcit/220580613076

http://www.rsipvision.com/exploring-deep-learning/
Thank You !