Transcript Ch04-1

Ch.04
Greedy Method (탐욕적 방법)
[CPA340] Algorithms and Practice
Youn-Hee Han
http://link.kut.ac.kr
탐욕적 알고리즘 개요

Origin
 Charles Dickens’ classic character ‘Ebenezer Scrooge’


He is the most greedy person ever

He never considered the past or future

He greedily grab as much as gold as he could

“Ghost of Christmas Past” reminded him of the past

“Ghost of Christmas Future” warned him of the future

Finally, he changed his greedy ways
Greedy method for algorithm design
 It determines something, each time taking the one that is deemed “best”
according to some criterion, without regard for the choices it has made
before or will in the future.
Page 2
탐욕적 알고리즘 개요

탐욕적 알고리즘(Greedy Algorithm)은 무엇인가를 결정을 해야 할 때마
다 그 순간에 가장 좋다(최적이다)고 생각되는 것을 선택함으로써 최종적
인 해답에 도달한다.

알고리즘 설계의 많은 경우에 있어서 탐욕적인 방법은 매우 효율적이고
(거의) 정확한 해답을 산출한다.
Page 3
탐욕적 알고리즘 개요

개념적으로 탐욕적 알고리즘은 동적 프로그래밍과 정반대의 전략이다.
 동적 프로그래밍은 매우 엄격한 계획하에 ‘재귀적 속성’을 찾아서 그것을 기본
으로 최종적인 (global) 해답을 Bottom-up 전략으로 찾아낸다.

하지만, 탐욕적 알고리즘은 매순간 선택의 과정을 거치는데… 그 선택은
국부적(local)으로 최적이다.
 최적이라고 생각했던 해답들을 모아서 최종적인(global)해답을 만들었다고 해
서, 그 해답이 궁극적으로 최적이라는 보장이 없다.
 따라서 탐욕적인 알고리즘은 항상 최적의 해답을 주는지를 반드시 검증해야 한
다.
 많은 경우 직관적으로 검증 없이 최종적인 해답을 올바른 답으로 간주한다.
Page 4
탐욕적 알고리즘의 설계 절차
1. 선정과정(selection procedure)
- 현재 상태에서 가장 좋으리라고 생각되는(greedy) 부분 해답을 선택
2. 적정성 점검(feasibility check)
- 선택한 부분 해답이 최종 해답모음 (solution set) 에 포함되는 것이
알고리즘이 풀고자 하는 목적에 비추어 적절한지를 결정한다.
- 적절하다면 최종 해답모음에 포함 (Union) 시킨다.
3. 해답점검(solution check)
- 새로 얻은 해답모음이 풀고자하는 문제의 해답인지를 결정한다.
Page 5
탐욕적 알고리즘의 설계 절차
 대략적인 알고리즘 구성법
// Algorithm takes an array a of n elements as input
algorithm greedy ( a, n ) {
solution = {}; // Initially empty
do {
for ( i = 0; i < n; i++ ) {
// Select an input from a and remove it
// from further consideration
x = select ( a );
if ( feasible ( solution, x ) )
solution = solution + x; // Union
}
} while ( !check ( solution ) );
return ( solution );
}
Page 6
Example - 거스름돈 계산하기
 [쉬어가기] 미국과 한국의 동전 (Coins) 시스템
One dollar ($1) – Andrew Johnson
오백원 (₩500)- 두루미
Half dollar ($0.50) - John F. Kennedy
백원 (₩100) – 이순신
Quarter ($0.25) - George Washington
오십원 (₩50) – 쌀
Dime ($0.10) - Franklin D. Roosevelt
Nickel ($0.05) - Thomas Jefferson
Penny or Cent ($0.01) - Abraham Lincoln
십원 (₩10) – 다보탑
오원 (₩5) – 거북선
일원 (₩1) – 무궁화
Page 7
Example - 거스름돈 계산하기
 교재의 문제: 가지고 있는 동전 중에서 거스름 돈을 줄 때에 동전의 개수가
최소가 되도록 거스름 돈을 주는 문제
 탐욕적인 알고리즘 (A Greedy Algorithm)
• 거스름돈을 x라 하자.
• 먼저, 가치가 가장 높은 (액면가가 높은) 동전부터 x가 초과되지 않도록
계속 내준다.
: At each step, take the largest possible coin that does not overshoot x
: 만약 초과가 되면 도로 집어넣는다.
• 이 과정을 총액이 정확히 x가 될 때까지 계속한다.
Page 8
Example - 거스름돈 계산하기
Greedy solution – Example 1

가지고 있는 돈
 Quarter ($0.25) – 1, Dime ($0.10) – 2, Nickel ($0.05) – 1, Penny
($0.01) – 2

거스름돈: $0.36
Add quarter($0.25) to
change
$0.25
Remaining: $0.36 – $0.25 = $0.11
Add dime($0.10) to change
Remaining : $0.11 – $0.10 = $0.01
Delete dime($0.10)
Delete nickel($0.05)
Add penny($0.01) to change

Remaining: $0.01 – $0.01 = $0.00
Optimal Solution
 {one quarter($0.25), one dime($0.10), one penny($0.01)}
Page 9
Example - 거스름돈 계산하기
 탐욕 알고리즘 설계 과정에 따른 분석
• 선정과정: (지닌 동전 중 가치가 가장 높은) 동전을 선택한다.
• 적정성 검사: 거스름돈 총액을 넘는지 확인한다.
• 해답 점검: 현재까지의 금액이 거스름돈 총액에 도달했는지 확인한다.
 현재 미국이나 한국에서 유통되고 있는 동전만을 가지고, 이
알고리즘을 적용하여 거스름돈을 주면, 항상 동전의 개수는
최소가 된다. 따라서 이 알고리즘은 최적(optimal)!
 증명 생략
 하지만, 동전 시스템이 조금 다르다면 앞에 앞에 소개한 탐욕
알고리즘을 적용하여 거스름돈을 주었을 때, 항상 동전의
개수가 최소가 된다는 보장이 없다.
Page 10
Example - 거스름돈 계산하기
Greedy solution – Example 2

가지고 있는 돈
 New coin ($0.12) – 1, Dime ($0.10) – 1, Nickel ($0.05) – 1, Penny
($0.01) – 4

거스름돈: $0.16
Add new coin($0.12)$0.25
to change
Remaining: $0.16 – $0.12 = $0.04
Delete dime($0.10)
Delete nickel($0.05)
Add four fenny($0.01) to change

Remaining: $0.04 – $0.04 = $0.00
Is it optimal?
 No.
 {One dime($0.10), One Nickel($0.05), One Penny($0.01)} is
optimal solution
Page 11
그래프 용어 – 좀 더 복습하기
 비방향성 그래프(undirected graph) G = (V,E)
• V는 정점(vertex)의 집합
• E는 이음선(edge)의 집합
 경로(path): 두 노드 사이에 이음선으로 연결된 노드의 나열
 연결된 그래프(connected graph)
: 임의의 두 노드 사이에 경로가 존재
 부분그래프(subgraph)
 가중치 포함 그래프(weighted graph)
 순환(cycle)
 순환적그래프(cyclic graph), 비순환적그래프(acyclic graph).
 트리(tree): 비순환적이며, 비방향성 그래프
 뿌리 있는 트리(rooted tree): 한 정점이 뿌리로 지정된 트리
Page 12
신장트리 (Spanning Tree)
 연결된 비방향성 그래프 G에서, 순환경로(cycle)가 없어 지도록 이음선을
제거하여 구성한 연결된 부분그래프를 신장트리(spanning tree)라 한다.
 따라서 신장트리는 G안에 있는 모든 정점을 다 포함하되 트리가 되는(i.e.,
순환경로가 존재하지 않는) 연결된 부분그래프이다.
최소비용신장트리
Page 13
최소비용 신장트리(Minimum Spanning Tree)
 G의 부분그래프인 여러 신장트리 중에서 가중치의 합이 최소가 되는 부분
그래프를 최소비용신장트리(minimum spanning tree, MST)라고 한다.
 관찰
•
모든 신장트리가 최소비용신장트리는 아니다.
•
주어진 그래프에서 최소비용신장트리는 1개 이상 존재할 수 있다.
Page 14
최소비용 신장 트리의 응용(Applications)
 도로건설:
도시들을 모두 연결하면서 도로의 길이가 최소가 되도록 하는 문제
 통신(telecommunications):
전화선의 길이가 최소가 되도록 전화 케이블 망을 구성하는 문제
 배관(plumbing):
파이프의 총 길이가 최소가 되도록 연결하는 문제
Page 15
MST – Brute-Force 알고리즘
 알고리즘
• 모든 신장트리를 다 고려해 본다(계산해 본다).
• 그 중에서 최소비용이 드는 것을 신장트리를 고른다.
 분석
• 최악의 경우, 지수보다도 나쁘다.
• 이유?
( 완전 연결이면… 대략적으로 생각해도 n!에 해당한다.)
Page 16
비방향 그래프와 신장 트리의 형식적 정의
 비방향 그래프 (Undirected Graph)
• 비방향그래프 G는 정점의 유한집합 V와 V에 속한 정점의 쌍의 집합 E
로 구성된다.
• G는 G=(V, E)로 표현
• V의 원소는 vi로 표시하고 vi와 vj를 연결하는 간선은 (vi, vj)로 표시
 신장 트리
• G의 신장 트리는 T = (V, F)로 표현
• T의 정점 집합 V는 G의 정점 집합인 V와 같지만
• T의 간선 집합 F는 G의 간선 집합인 E의 부분 집합이다. (E  F)
Page 17
비방향 그래프와 신장 트리의 형식적 정의
 예제 4.1 (p. 139)
Page 18
MST – 추상적인 탐욕적 알고리즘
 문제: 비방향성 그래프 G = (V,E)가 주어졌을 때, F  E를 만
족하면서, T=(V,F)가 G의 MST가 되는 F를 찾는 문제.
 개략적인 알고리즘:
1. F := 0;
2. 최종해답을 얻을 때까지 다음 절차를 계속 반복
(a) 선정 절차: 적절한 최적 (국부적으로 최적인) 해 선정절차에 따라서
하나의 이음선을 선정
(b) 적정성 점검: 선정한 이음선을 F에 추가시켜도 순환경로가 생기지
않으면, F에 추가시킨다.
(c) 해답 점검: T = (V,F)가 신장트리이면, T가 최소비용신장 트리 이다.
Page 19
MST – Prim 알고리즘 (추상적)
1. F := 0;
2. Y := {v1}; //정점들의 부분 집합
3. 최종해답을 얻을 때까지 다음 절차를 계속 반복하라
(a) 선정 절차/적정성 점검: Y 에 속한 임의의 정점과 가장 가까운 (즉,
가중치가 가장 낮은) V  Y 에 속한 정점 하나를 선정한다.
(자연스럽게 순환은 생기지 않는다.)
(b) 두 정점을 연결하는 이음선을 F에 추가한다.
(c) 선정한 정점을 Y에 추가한다.
(d) 해답 점검: Y = V가 되면, T = (V,F)가 최소비용 신장
트리이다.
위 알고리즘은 사람이 그래프를 보고 답을 구하기에는 적합하지
만 컴퓨터 프로그램으로 구현하기에는 적합하지 않다.
Page 20
MST – Prim 알고리즘 (추상적)
Y := {v1}
F := {}
Y := {v1, v2, v3}
F := {(v1, v2), (v1, v3)}
Y := {v1, v2, v3, v5}
F := {(v1, v2), (v1, v3), (v3, v5)}
Y := {v1, v2}
F := {(v1, v2)}
Y := {v1, v2, v3, v5, v4}
F := {(v1, v2), (v1, v3), (v3, v5), (v3, v4)}
Page 21
MST – Prim 알고리즘 (구체적)
 그래프의 인접행렬식 표현
이음선의 가중치 vi에서 v j 로 이음선이 있는 경우

W [i ][ j ]  
vi에서 v j 로 이음선이 없는 경우
0
i  j 인 경우

 추가적으로 nearest[2..n]과 distance[2..n] 배열 유지
• nearest[i] = vi 에서 가장 가까운 Y 에 속한 정점의 인덱스
• distance[i] = vi와 nearest[i]를 잇는 이음선의 가중치
Y
vj
vi
wi,j
nearest[i] = j
distance[i] = wi,j
Page 22
MST – Prim 알고리즘 (구체적)
 Prim 알고리즘 (1/2)
// 출력: 그래프의 MST에 속한 이음선의 집합
set_of_edge prim(int n,
// 입력: 정점의 수
number[][] W){ // 입력: 그래프의 인접행렬식 표현
index i, vnear;
number min;
edge e;
set_of_edges F;
index[] nearest = new index[2..n];
number[] distance = new number[2..n];
F = empty_set;
for(i=2 ; i <= n ; i++) { // 초기화
nearest[i] = 1;
// 초기에는 Y에 노드가 v1밖에 없음
distance[i] = W[1][i]; // (v1,vi)의 가중치로 초기화
}
// see the next page
Page 23
MST – Prim 알고리즘 (구체적)
 Prim 알고리즘 (2/2)
repeat(n-1 times) {
// n-1개의 정점을 Y에 차례로 추가한다
min = ;
for(i=2 ; i <= n; i++) {
// 각 정점에 대해서
if (0 <= distance[i] < min) { // distance[i]를 검사하여
min = distance[i];
// 가장 가까이 있는 vnear을
vnear = i;
// 찾는다.
}
}
e = vnear와 nearest[vnear]를 잇는 이음선;
e를 F에 추가;
distance[vnear] = -1;
// 찾은 노드를 Y에 추가한다.
for(i=2; i <= n; i++)
if (W[i][vnear] < distance[i]) { // Y에 없는 각 노드에 대해서
distance[i] = W[i][vnear];
// distance[i]와
nearest[i] = vnear;
// nearest[i]를 갱신한다.
}
}
return F;
}
Page 24
MST – Prim 알고리즘 (구체적)
 Prim 알고리즘의 동작과정
vnear=2
F={(1,2)}
vnear=3
F={(1,2), (1,3)}
vnear=5
F={(1,2), (1,3), (3,5)}
Page 25
MST – Prim 알고리즘 (구체적)
 Prim 알고리즘의 동작과정
vnear=4
F={(1,2), (1,3), (3,5), (3,4)}
Page 26
MST – Prim 알고리즘의 분석
 단위연산: repeat-루프 안에 있는 두 개의 for-루프 내부에
있는 명령문(비교문 및 지정문)
 입력크기: 노드의 개수, n
 모든 경우 분석:
• repeat-루프가 n-1번 반복되고,
• 각 루프마다 for-루프가 n-1번씩 수행되므로 (모든 경우의)
시간복잡도는 다음과 같다.
• T(n) = 2(n-1)(n-1)  (n2)
Page 27
MST – Prim 알고리즘의 최적 여부 검증 (1/3)
 Prim의 알고리즘이 찾아낸 신장트리가 최소비용(minimal)인
지를 검증해야 한다. 다시 말하면, Prim의 알고리즘이 최적
(optimal)인지를 보여야 한다.
 탐욕적 방법의 문제점은 이것이다.
즉, 알고리즘을 개발하기는 비교적 용이하나,
개발한 알고리즘의 최적성을 보이는 작업이 어렵다.
Page 28
MST – Prim 알고리즘의 최적 여부 검증 (2/3)
 정의 4.1: 비방향성 그래프 G = (V,E)가 주어졌을 때, 만약 E의 부분
집합 F에 최소비용 신장트리가 되도록 이음선을 추가할 수 있으면
(즉, F에 이음선들을 추가하여 MST가 되면) F는 유망하다
(promising)라고 한다.
• 옆의 그림에서 F1={(v1, v2), (v1, v3)}는 유망 하고
F2={(v2, v4)}는 유망하지 않다.
• “유망”의 의미는 “지금까지 구성한 집합을 사용하여 최적의 솔루션을
구성할 수 있음”을 말한다.
• Prim의 알고리즘에서 구성되는 각 단계의 F들이 유망함을 보이면, 최적
임을 보일 수 있게 된다.
Page 29
MST – Prim 알고리즘의 최적 여부 검증 (3/3)
 보조정리 4.1: G = (V,E)는 가중치 포함 비방향성 연결 그래프라고
하자. E의 부분집합인 F는 유망하며, Y는 F안에 있는 이음선 들에
의해서 연결이 되어 있는 정점의 집합이라고 가정 하자. 이때, Y에
있는 어떤 정점과 V - Y에 있는 어떤 정점을 잇는 이음선 중에서 가
중치가 가장 작은 이음선을 e라고 하면, F  {e}는 유망하다. (즉,
Prim의 방법을 사용한 F  {e}는 유망하다.)
 증명 생략
 정리 4.1: Prim 알고리즘은 항상 MST를 만들어 낸다.
 개략적인 증명
 귀납법을 사용하여 repeat 루프가 매번 수행 후에 집합 F가 유망하다는 것
을 증명함
 구체적 증명 생략
Page 30