Transcript 뉴로 컴퓨터 개론 제6장 제6장 패턴 분류 제 6 장 패턴 분류 차례 6.1 패턴의 유형 6.2 패턴 분류 시스템 6.3 판별 함수 6.4 신경망 패턴 분류기제.

뉴로 컴퓨터 개론
제6장
1
제6장
패턴 분류
2
제 6 장 패턴 분류
차례
6.1 패턴의 유형
6.2 패턴 분류 시스템
6.3 판별 함수
6.4 신경망 패턴 분류기
3
제 6 장 패턴 분류
패턴의 유형
4
패턴의 유형
패턴의 유형
 공간 패턴
 시변 패턴
5
제 6 장 패턴 분류
패턴의 유형
공간 패턴

공간적 분포에 의해서 특성 결정
문자 / 영상
x1 x2 .
.
.
.
.
A
xp
6
제 6 장 패턴 분류
패턴의 유형
시변 패턴

시간에 따라 특성 변화
음성 신호 / 온도 / EKG 파형
크기
시간
7
제 6 장 패턴 분류
패턴 분류 시스템
8
패턴 분류 시스템
패턴 분류 시스템의 구성 요소

트랜스듀서
실제의 패턴을 디지털 / 아날로그 형태로 변환

특징 추출기
패턴 분류에 영향을 미치는 중요한 특징 선택

분류기
패턴을 특정 클러스터로 분류
9
제 6 장 패턴 분류
패턴 분류 시스템
패턴 분류 시스템
패턴 벡터
입력
트랜스듀서
특징 벡터
특징 추출기
분류기
출력
패턴 벡터 : [ x1 x2  x p ]
특징 벡터 :
X 
 x1
x2    xn

10
제 6 장 패턴 분류
패턴 분류 시스템
단층 신경망 패턴 분류기
특징 벡터
x1
x2
.
.
.
xn
출력
y1 (클러스터 1)
ym (클러스터 m)
11
제 6 장 패턴 분류
패턴 분류 시스템
A와 B 패턴 분류기
x1 x2
A
x12
x1
x2
B
x12
특징 벡터
출력
x1
x2
y1 (A)
.
.
.
x12
y2 (B)
12
제 6 장 패턴 분류
판별 함수
13
판별 함수
2차원 패턴 공간에서의
판단 경계선
x 2 d (X )  d (X )
1
2
클러스터 1
클러스터 2
x1
d1 (X )  d 2 (X )
판단 경계선
d1 (X )  d 2 (X )
14
제 6 장 패턴 분류
판별 함수
판단 경계선
w1 x1  w2 x2  b  0
벡터 표현
XW  0
X   x1 x2 1 
 w1 


W  w2
 
 b 
15
제 6 장 패턴 분류
판별 함수
두 패턴을 분류하는 판단 경계선
패턴 A = [-1 1]
패턴 B = [1 -1]
x2
판단 경계선
A
1
클러스터 1
1
-1
x1
B
-1
클러스터 2
–x1 + x2 = 0
제 6 장 패턴 분류
16
판별 함수
판별 함수
판별함수
판단면을 정의하는 함수
d1 ( X )  d2 ( X )  패턴 X는 클러스터 1
d1 ( X )  d2 ( X )  패턴 X는 클러스터 2
d1 ( X )  d2 ( X )  판단할 수 없음
17
제 6 장 패턴 분류
신경망 패턴 분류기
18
신경망 패턴 분류기
입력 가중합 / 판단면
뉴런의 입력 가중합 NET
NET  x1 w1  x2 w2      xn wn  b
NET > 0 영역과 NET < 0 영역의 경계
x1 w1  x2 w2      xn wn  b  0
19
제 6 장 패턴 분류
신경망 패턴 분류기
단층 신경망 패턴 분류기
입력 연결 강도
x1
x2
xn
1

w1
w2
wn
b
출력
y
 1 : 클러스터 1

 1 : 클러스터 2
20
제 6 장 패턴 분류
신경망 패턴 분류기
두 패턴을 분류하는 분류기
패턴 A
패턴 B
x2
 x1  x2  0
판단 경계선
A
1
x1w1  x2 w2  b  0
w1  1 w2  1 b  0
클러스터 1
-1
x1
1
B
-1
클러스터 2
21
제 6 장 패턴 분류
신경망 패턴 분류기
단층 신경망 분류기
w1  1
입력
x1
-1
-1
w2  1 b  0
출력
y
x2
22
제 6 장 패턴 분류
신경망 패턴 분류기
4 패턴을 분류하는 분류기
x2
입력패턴 클러스터
x1
A
B
C
D
0
0
1
1
x2
0
1
0
1
y
D
B
클러스터 1
0
0
0
1
클러스터 2
A
C
x1
판단 경계선
x1 + x2 –1.5 = 0
23
제 6 장 패턴 분류
신경망 패턴 분류기
단층 신경망 분류기
판단 경계선
x1  x2  1.5  0
입력
x1
x2
1
출력
1
y
- 1 .5
바이어스 1
24
제 6 장 패턴 분류
신경망 패턴 분류기
단층 신경망 분류기(검증)
입력패턴 클러스터
x1
A
B
C
D
0
0
1
1
x2
0
y
입력
x1
0
1
0
1
0 바이어스 1
1
0
x2
1
출력
1
y
- 1 .5
25
제 6 장 패턴 분류
신경망 패턴 분류기
4 패턴을 분류하는 분류기
x2
입력패턴 클러스터
x1
A
B
C
D
0
0
1
1
x2
0
1
0
1
B
y
클러스터 1
0
1
1
1
D
C
A
x1
클러스터 2
판단 경계선
x1 + x2 – 0.5 = 0
26
제 6 장 패턴 분류
신경망 패턴 분류기
단층 신경망 분류기
판단 경계선
x1  x2  0.5  0
입력
x1
x2
1
출력
1
y
- 0 .5
바이어스 1
27
제 6 장 패턴 분류
신경망 패턴 분류기
단층 신경망 분류기(검증)
입력패턴 클러스터
x1
A
B
C
D
0
0
1
1
x2
0
1
0
1
y
입력
x1
0
1
1
1
x2
1
출력
1
y
- 0 .5
바이어스 1
28
제 6 장 패턴 분류
신경망 패턴 분류기
다층 신경망에 의한 패턴
x2
판단 경계선 1
x1
: 클러스터 1
: 클러스터 2
판단 경계선 2
판단 경계선 3
29
제 6 장 패턴 분류
신경망 패턴 분류기
XOR 연산
입 력
x1 x2
A
B
C
0
0
1
출 력
y
x2
판단 경계선 2
0 1  1
1 1
0 1
D 1 1
1
판단 경계선 1
B
D
클러스터 2
1
1  1
A
-x1 + x2 ― 0.5 = 0클러스터 1
C
x1
클러스터 2
x1 – x2 ― 0.5 = 0
30
제 6 장 패턴 분류
신경망 패턴 분류기
판단 경계선 1
판단 경계선 1
 x1  x2  0.5  0
입력
x1
- 1
출력
x2
1
z1
- 0 .5
바이어스 1
31
제 6 장 패턴 분류
신경망 패턴 분류기
판단 경계선 1의 효과
입 력
은닉층
x1 x2
A
B
C
0
0
1

0 1
1 1
0
D 1 1
z1
1
입력
x1
1
x2
1
1
1
 1바이어스 1
1
1

- 0 .5
출력
z1
32
제 6 장 패턴 분류
신경망 패턴 분류기
판단 경계선 2
판단 경계선 2
x1  x2  0.5  0
입력
x1
x2
1
출력
- 1
z2
- 0 .5
바이어스 1
33
제 6 장 패턴 분류
신경망 패턴 분류기
판단 경계선 2의 효과
입 력
은닉층
x1 x2
A
B
C
0
0
1

0 1
z2
1
1 1  1
0
D 1 1
1

1
입력
x1
x2
1
1
- 0 .5
출력
z2
바이어스 1
1
1
34
제 6 장 패턴 분류
신경망 패턴 분류기
은닉층의 판단 경계선
z2
C
클러스터 2
z1
A, D
B
클러스터 1
z1 + z2 + 1 = 0
35
제 6 장 패턴 분류
신경망 패턴 분류기
XOR 연산을 위한 다층 신경망
입력층
x1
x2
1
- 1
1
1
- 1
- 0 .5
- 0 .5
은닉층
z1
출력층
1
y
1
z2
1
1
36
제 6 장 패턴 분류
신경망 패턴 분류기
XOR 연산을 위한 다층 신경망(검증)
A
B
C
입 력
출 력
x1 x2
y
0
0
1
0 1  1
1 1
1
0 1
1
D 1 1
입력층
x1
x2
1
- 1
1
1
- 1
- 0 .5
- 0 .5
1  1
은닉층
z1
출력층
1
y
1
z2
1
1
37
제 6 장 패턴 분류