Prezentacja programu PowerPoint -...

22
METODY OPTYMALIZACJI Tomasz M. Gwizdałła 2018/19

Transcript of Prezentacja programu PowerPoint -...

Page 1: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

METODY OPTYMALIZACJI

Tomasz M. Gwizdałła 2018/19

Page 2: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Informacje wstępne

Tomasz Gwizdałła

Katedra Fizyki Ciała Stałego UŁ

Pomorska 149/153, p.524B

tel. 6355709

[email protected]

http://www.wfis.uni.lodz.pl/staff/tgwizdalla

Page 3: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Informacje wstępne

Prawdopodobny plan wykładu:

Wstęp.

Optymalizacja deterministyczna:

metody niegradientowe i gradientowe funkcji jednej i wielu

zmiennych

________________________________________________________

Programowanie liniowe

simplex , zagadnienie transportowe , zagadnienie plecakowe

Metody heurystyczne

symulowane wyżarzanie, poszukiwanie tabu, algorytm

ewolucyjny, algorytm mrówkowy

Page 4: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Informacje wstępne

Literatura:

dowolna (porządna) książka dotycząca metod numerycznych, np.

J.Stoer, R.Bulirsch Wstęp do analizy numerycznej

A.Bjorck, G.Dahlquist Metody numeryczne

________________________________________________________

M.Sysło, N.Deo, J.Kowalik Algorytmy optymalizacji

dyskretnej

Z.Michalewicz, D.Vogel Jak to rozwiązać czyli nowoczesna

heurystyka

Z.Michalewicz Algorytmy genetyczne + struktury danych =

programy ewolucyjne

Page 5: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Pojęcie

Co to jest optymalizacja?

Istnieje wiele zagadnień opisywanych terminem optymalizacja:

optymalizacja matematyczna (formuła)

optymalizacja oprogramowania (efektywność kodu)

optymalizacja stron (wyszukiwanie, pozycjonowanie)

optymalizacja systemu (efektywność sprzętu)

optymalizacja wydajności (zarządzanie zasobami)

optymalizacja ekonomiczna (P/E)

programowanie liniowe

Page 6: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Pojęcie

Co to jest optymalizacja?

Metoda wyznaczania najlepszego rozwiązania z punktu

widzenia określonego kryterium.

1. Najlepsze: szukamy wartości ekstremalnej.

2. Kryterium: musimy dysponować funkcją oceny.

Page 7: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Szukamy takiej wartości ,że𝑥0∈ 𝐴

Dana jest funkcja 𝑓: 𝐴 → ℝ

∀𝑥∈𝐴𝑓 𝑥 < 𝑓 𝑥0 ∨ ∀𝑥∈𝐴𝑓 𝑥 ≤ 𝑓 𝑥0 zagadnienie maksymalizacji

∀𝑥∈𝐴𝑓 𝑥 > 𝑓 𝑥0 ∨ ∀𝑥∈𝐴𝑓 𝑥 ≥ 𝑓 𝑥0 zagadnienie minimalizacji

A - przestrzeń poszukiwań lub przestrzeń konfiguracyjna

zwykle jest to podzbiór przestrzeni Rn

Taki wybór znacznie ogranicza zakres analizowanych przez nas zagadnień,

pomijając np. tzw. zagadnienia multiobjective optimization (optymalizacji

wielokryterialnej), stanowiące bardzo istotną część współczesnych

problemów optymalizacyjnych.

Page 8: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze zagadnienie optymalizacyjne

Page 9: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Publius Vergilius Maro Eneida - Zagadnienie Elissy (Dydony) związane

z legendą dotyczącą założenia Kartaginy.

Pierwsze zagadnienie optymalizacyjne

Koloniści osiadłszy na zamieszkanych przez Numidyjczyków

północnych wybrzeżach Afryki mogli zająć tyle miejsca, ile da się

objąć skórą wołu

Forma matematyczna:

Jak zmaksymalizować powierzchnię obszaru ograniczonego

krzywą o długości zależnej od pewnych dodatkowych czynników?

Page 10: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze sformułowane formalnie zagadnienie optymalizacyjne

Page 11: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze sformułowane formalnie zagadnienie optymalizacyjne

1697 – Johann Bernoulli – zagadnienie brachistochrony

Znaleźć na płaszczyźnie krzywą, łączącą nie leżące w pionie punkty A i B,

wzdłuż której musiałby poruszać się punkt materialny, aby pod działaniem

siły ciężkości przebyć drogę w najkrótszym czasie

𝑡 = 𝑝1

𝑝2𝑑𝑠

𝑣=

𝑣 = 2𝑔𝑦

𝑑𝑠 = 1 + (𝑑𝑥

𝑑𝑦)2

𝑑𝑥

= 𝑝1

𝑝2 1 + 𝑦′2

2𝑔𝑦𝑑𝑥

Page 12: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze sformułowane formalnie zagadnienie optymalizacyjne

1697 – Johann Bernoulli – zagadnienie brachistochrony

Znaleźć na płaszczyźnie krzywą, łączącą nie leżące w pionie punkty A i B,

wzdłuż której musiałby poruszać się punkt materialny, aby pod działaniem

siły ciężkości przebyć drogę w najkrótszym czasie

𝑡 = 𝑝1

𝑝2𝑑𝑠

𝑣=

𝑣 = 2𝑔𝑦

𝑑𝑠 = 1 + (𝑑𝑥

𝑑𝑦)2

𝑑𝑥

= 𝑝1

𝑝2 1 + 𝑦′2

2𝑔𝑦𝑑𝑥

Ale, czy zagadnieniem optymalizacyjnym nie jest zasada Fermata (1662)

𝑥 =1

2𝑘2(θ − sinθ)

𝑥 =1

2𝑘2(1 − cosθ)

parametryczne równanie cykloidy

Page 13: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

1. Rozmiar przestrzeni poszukiwań

2. Skomplikowanie modelu

3. Niejednoznaczność funkcji oceny

4. Ograniczenie przestrzeni poszukiwań przez więzy

5. Osoba rozwiązująca problem

6. Niepewność informacji

7. Wielość celów

Trudności napotykane w fazie poszukiwania optimum

Page 14: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Rozważmy dwuwymiarowy model Isinga na sieci o krawędzi L

(dopuszczalne wartości spinów {-1,1}, ilość spinów N=L2)

Spróbujmy przejrzeć wszystkie możliwe konfiguracje i załóżmy,

że analiza pojedynczej konfiguracji trwa 1ns.

Rozmiar przestrzeni poszukiwań (1)

Page 15: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Rozważmy dwuwymiarowy model Isinga na sieci o krawędzi L

(dopuszczalne wartości spinów {-1,1}, ilość spinów N=L2)

Spróbujmy przejrzeć wszystkie możliwe konfiguracje i załóżmy,

że analiza pojedynczej konfiguracji trwa 1ns.

Rozmiar przestrzeni poszukiwań (1)

Tu przekroczyliśmy

wiek Wszechświata

(14 mld. lat

~4.4 e17 s)

Page 16: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Rozważmy teraz graf (dla uproszczenia nieskierowany) obrazujący

połączenia między N miastami i spróbujmy znaleźć w nim najkrótszy cykl

Hamiltona - TSP.

Rozmiar przestrzeni poszukiwań (2)

Page 17: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Złożoność obliczeniowa dla zachłannego rozwiązania modelu Isinga.

Rozmiar przestrzeni poszukiwań (3)

Page 18: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Złożoność obliczeniowa dla zachłannego rozwiązania modelu Isinga

i problemu komiwojażera.

Rozmiar przestrzeni poszukiwań (4)

Page 19: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

A może zmienna ciągła, np.

Rozmiar przestrzeni poszukiwań (5)

𝑓(𝑥) = cos(x)cos(50𝑥)

𝑓(𝑥) = 10𝑛 + 𝑖=1

𝑛

(𝑥𝑖2 − 10cos(2π𝑥𝑖))

Page 20: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Model jest fundamentalnym pojęciem związanym z teorią optymalizacji

ponieważ zawiera matematyczny opis rozwiązywanego problemu.

Model rozwiązania, nie jego reprezentacja.

W sytuacjach, kiedy pełny opis problemu może zawierać elementy trudne

do analizy, np. nieciągłości, zdarza się stosować opis przybliżony.

Rozwiązanie najlepsze vs. rozwiązanie lepsze.

Model

Page 21: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Funkcja oceny jest związana z modelem, jednak nawet w jego ramach

mogą występować problemy z jej prawidłowym określeniem.

Funkcja oceny może zmieniać się w czasie.

Odzwierciedlenie pełnej, poprawnej i aktualnej wiedzy.

Sprzężenie zwrotne (czyżby cybernetyka).

Problemy z funkcją oceny

Page 22: Prezentacja programu PowerPoint - wfis.uni.lodz.plwfis.uni.lodz.pl/staff/tgwizdalla/files/mo_0.pdf · Metody optymalizacji Tomasz M. Gwizdałła 2018/19 Informacje wstępne Literatura:

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Więzy wprowadzają problemy poprzez wprowadzenie znaczących

ograniczeń na podprzestrzeń dopuszczalnych rozwiązań przestrzeni

poszukiwań.

Jak zapisać więzy matematycznie?

W większości przypadków więzy czynią podprzestrzeń rozwiązań

niewypukłą.

Jak zaimplementować więzy w algorytmie:

- kara

- powrót do obszaru prawidłowego.

Ograniczenia, czyli więzy