SDI_pgorecki
Download
Report
Transcript SDI_pgorecki
Opiekun: dr inż. Maciej Ławryńczuk
Instytut Automatyki i Inżynierii Oprogramowania
Teoria
◦ sformułowanie zadania optymalizacji
◦ wprowadzenie do sieci neuronowych
Praca inżynierska
◦ kształt pracy
◦ elementy innowacyjności i możliwości rozwoju
◦ dotychczasowe osiągnięcia
Podsumowanie
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
2
minimalizuj:
1
x Qx c x
T
T
2
przy ograniczeniach:
Ax b
l Ex h
Q – macierz dodatnio półokreślona (warunek wypukłości)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
3
sieć neuronowa – struktura potrafiącą odbierać
docierające sygnały i przetwarzać je na użyteczną
informację
neuron – element sieci, wykonujący pewne
przekształcenie na swoich sygnałach wejściowych
funkcja energetyczna sieci – malejąca w czasie
funkcja związana ze stanami neuronów (ich
wartościami na wyjściach)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
4
Zastosowania sieci neuronowych
◦
◦
◦
◦
◦
◦
rozpoznawanie wzorców (znaków, sygnałów mowy...)
klasyfikowanie obiektów
aproksymowanie wartości funkcji
synteza mowy
diagnostyka medyczna
optymalizacja
Sieci neuronowe do optymalizacji NIE są sieciami uczącymi się!
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
5
Opis sieci neuronowej
stan pojedynczego neuronu – rozwiązanie pewnego równania
różniczkowego
opis sieci – wektorowo-macierzowe równanie różniczkowe
możliwość realizacji analogowej (obwód elektryczny)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
6
Wykorzystanie zadania dualnego
Warunki KKT (zbieżność)
Sformułowanie równania stanu i wyjścia (przykład)
◦ równanie stanu:
du
EME
T
u g (( EME
T
I ) u Es ) Es
dt
◦ równanie wyjścia:
x ME u s
T
gdzie:
min
g(.) – funkcja nasycenia
M Q
sQ
1
1
Q
T
1
T
A ( AQ
( A ( AQ
1
T
1
1
T
A )
A ) ( AQ
1
1
AQ
1
,
c b) c)
p. o.
1
x Qx c x
T
T
2
Ax b
l Ex h
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
7
◦ równanie stanu:
du
EME
T
u g (( EME
T
I ) u Es ) Es
dt
◦ równanie wyjścia:
x ME u s
T
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
8
Omówienie struktury wybranych sieci
◦ analiza zbieżności, wyprowadzenie wzorów
◦ badanie złożoności
Zadanie teoretyczne
◦ symulacja Simulink
Praktyczne zadanie wielowymiarowe (namiot)
◦ symulacja Matlab (solver ode45)
Zadanie sterowania predykcyjnego
◦ sieć jako moduł minimalizujący algorytmu DMC
Idea realizacji analogowej
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
9
Synteza i porównanie wybranych sieci
◦ złożoność
◦ dokładność
◦ szybkość działania
Propozycja realizacji sieci, jako elementów obwodu
elektrycznego
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
10
Porównanie wybranych trzech sieci neuronowych
◦ analiza liczby elementów, w zależności od wyboru sieci
Realizacja wybranych sieci w Simulinku
◦ proste zadanie akademickie
Realizacja wybranych sieci w Matlabie
◦ praktyczne zadanie wielowymiarowe (large-scale)
Zastosowanie SN w algorytmie DMC
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
11
Liczba elementów realizacji analogowej
n
m
p
- liczba zmiennych decyzyjnych
- liczbę ograniczeń równościowych
- liczba ograniczeń nierównościowych
rodzaj sieci
liczba neuronów
liczba sumatorów
liczba wzmacniaczy
SDNN
p
3p + n
p(2n + 1)
RNN
m+p
3 (m + p) + n
(m + p)(m + p + n + 2)
DNN
m+p
4 (m + p) + n
(m + p) (m + p + 2n)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
12
min
3 x1 3 x 2 4 x 3 5 x 4 3 x1 x 2 5 x1 x 3 x 2 x 4 11 x1 5 x 4
p. o.
3 x1 3 x 2 2 x 3 x 4 0
2
2
2
2
4 x1 x 2 x 3 2 x 4 0
x1 x 2 1
2 3 x1 x 3 4
6
3
Q
5
0
3
A
4
1
E
3
3
5
6
0
0
8
1
0
11
0
c
0
5
9
1
0
10
3
2
1
1
1
0
0
1
1
2
0
0
l
2
0
b
0
1
h
4
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
13
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
14
Podstawa w kształcie kwadratu (30x30)
5 pali (centralny najwyższy)
Elastyczne płótno
Ograniczenia (wysokość pali)
Funkcja jakości (kształt)
min
1
x Qx c x
T
T
2
l x
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
15
Sposób rozwiązania
◦ rozwiązanie równania różniczkowego
du=@(t, u)(-E*MET*u+satur(((E*MET-eye(900))*u+E*s), low)...
- E*s)*10^7;
[t,u] = ode45(du, tspan, u0);
◦ wybór zmiennych stanu, dla końcowego
przedziału czasowego
◦ wyliczenie zmiennych decyzyjnych
x = MET * uk' +s;
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
16
Wybór algorytmu – DMC
◦ algorytm w wersji numerycznej z ograniczeniami
Hp
J (k )
(y
zad
2
( k p | k ) yˆ ( k p | k ))
p 1
H s 1
( u ( k p | k ))
2
p0
min
J(k)
ΔU( k)
p. o.
u
min
u (k p | k ) u
u
max
u (k p | k ) u
y
min
max
yˆ ( k p | k ) y
max
max
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
17
Najważniejsze parametry dobranego
regulatora predykcyjnego
D = 160 – horyzont dynamiki
Np = 20 – horyzont predykcji
Ns = 5 – horyzont sterowania
T = 0.5 – okres próbkowania
Transmitancja modelu
2
( 5 s 1)( 10 s 1)
Optymalizacja przy użyciu SN w każdej iteracji pętli
głównej algorytmu DMC
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
18
Wyniki symulacji
◦ obiekt bez zakłócenia
niemierzalnego
(dla QP oraz SN)
◦ obiekt z mierzalnym
zakłóceniem w chwili
k = 60
(dla QP oraz SN)
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
19
Realizacja sieci neuronowej, jako połączenia
elementów obwodu elektrycznego
◦
◦
◦
◦
wzmacniacze operacyjne
rezystory
kondensatory
diody
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
20
Wprowadzenie teoretyczne
◦ zagadnienie optymalizacji kwadratowej
◦ sieci neuronowe w optymalizacji
Kształt pracy dyplomowej
◦ cele
◦ innowacyjność
Osiągnięcia
◦
◦
◦
◦
synteza i porównanie wybranych sieci
realizacja zadania akademickiego – Simulink
zasymulowanie zadania praktycznego
sprzężenie SN z algorytmem DMC
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
21
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
22
Piotr Górecki - Sieci neuronowe w problemach optymalizacji
23