METODY OPTYMALIZACJI

Tomasz M. Gwizdałła 2018/19

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Informacje wstępne

Tomasz Gwizdałła

Katedra Fizyki Ciała Stałego UŁ

Pomorska 149/153, p.524B

tel. 6355709

tomgwizd@uni.lodz.pl

http://www.wfis.uni.lodz.pl/staff/tgwizdalla

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Informacje wstępne

Prawdopodobny plan wykładu:

Wstęp.

Optymalizacja deterministyczna:

metody niegradientowe i gradientowe funkcji jednej i wielu

zmiennych

________________________________________________________

Programowanie liniowe

simplex , zagadnienie transportowe , zagadnienie plecakowe

Metody heurystyczne

symulowane wyżarzanie, poszukiwanie tabu, algorytm

ewolucyjny, algorytm mrówkowy

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Informacje wstępne

Literatura:

dowolna (porządna) książka dotycząca metod numerycznych, np.

J.Stoer, R.Bulirsch Wstęp do analizy numerycznej

A.Bjorck, G.Dahlquist Metody numeryczne

________________________________________________________

M.Sysło, N.Deo, J.Kowalik Algorytmy optymalizacji

dyskretnej

Z.Michalewicz, D.Vogel Jak to rozwiązać czyli nowoczesna

heurystyka

Z.Michalewicz Algorytmy genetyczne + struktury danych =

programy ewolucyjne

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Pojęcie

Co to jest optymalizacja?

Istnieje wiele zagadnień opisywanych terminem optymalizacja:

optymalizacja matematyczna (formuła)

optymalizacja oprogramowania (efektywność kodu)

optymalizacja stron (wyszukiwanie, pozycjonowanie)

optymalizacja systemu (efektywność sprzętu)

optymalizacja wydajności (zarządzanie zasobami)

optymalizacja ekonomiczna (P/E)

programowanie liniowe

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Pojęcie

Co to jest optymalizacja?

Metoda wyznaczania najlepszego rozwiązania z punktu

widzenia określonego kryterium.

1. Najlepsze: szukamy wartości ekstremalnej.

2. Kryterium: musimy dysponować funkcją oceny.

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Szukamy takiej wartości ,że𝑥0∈ 𝐴

Dana jest funkcja 𝑓: 𝐴 → ℝ

∀𝑥∈𝐴𝑓 𝑥 < 𝑓 𝑥0 ∨ ∀𝑥∈𝐴𝑓 𝑥 ≤ 𝑓 𝑥0 zagadnienie maksymalizacji

∀𝑥∈𝐴𝑓 𝑥 > 𝑓 𝑥0 ∨ ∀𝑥∈𝐴𝑓 𝑥 ≥ 𝑓 𝑥0 zagadnienie minimalizacji

A - przestrzeń poszukiwań lub przestrzeń konfiguracyjna

zwykle jest to podzbiór przestrzeni Rn

Taki wybór znacznie ogranicza zakres analizowanych przez nas zagadnień,

pomijając np. tzw. zagadnienia multiobjective optimization (optymalizacji

wielokryterialnej), stanowiące bardzo istotną część współczesnych

problemów optymalizacyjnych.

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze zagadnienie optymalizacyjne

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Publius Vergilius Maro Eneida - Zagadnienie Elissy (Dydony) związane

z legendą dotyczącą założenia Kartaginy.

Pierwsze zagadnienie optymalizacyjne

Koloniści osiadłszy na zamieszkanych przez Numidyjczyków

północnych wybrzeżach Afryki mogli zająć tyle miejsca, ile da się

objąć skórą wołu

Forma matematyczna:

Jak zmaksymalizować powierzchnię obszaru ograniczonego

krzywą o długości zależnej od pewnych dodatkowych czynników?

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze sformułowane formalnie zagadnienie optymalizacyjne

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze sformułowane formalnie zagadnienie optymalizacyjne

1697 – Johann Bernoulli – zagadnienie brachistochrony

Znaleźć na płaszczyźnie krzywą, łączącą nie leżące w pionie punkty A i B,

wzdłuż której musiałby poruszać się punkt materialny, aby pod działaniem

siły ciężkości przebyć drogę w najkrótszym czasie

𝑡 = 𝑝1

𝑝2𝑑𝑠

𝑣=

𝑣 = 2𝑔𝑦

𝑑𝑠 = 1 + (𝑑𝑥

𝑑𝑦)2

𝑑𝑥

= 𝑝1

𝑝2 1 + 𝑦′2

2𝑔𝑦𝑑𝑥

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Sformułowanie

Pierwsze sformułowane formalnie zagadnienie optymalizacyjne

1697 – Johann Bernoulli – zagadnienie brachistochrony

Znaleźć na płaszczyźnie krzywą, łączącą nie leżące w pionie punkty A i B,

wzdłuż której musiałby poruszać się punkt materialny, aby pod działaniem

siły ciężkości przebyć drogę w najkrótszym czasie

𝑡 = 𝑝1

𝑝2𝑑𝑠

𝑣=

𝑣 = 2𝑔𝑦

𝑑𝑠 = 1 + (𝑑𝑥

𝑑𝑦)2

𝑑𝑥

= 𝑝1

𝑝2 1 + 𝑦′2

2𝑔𝑦𝑑𝑥

Ale, czy zagadnieniem optymalizacyjnym nie jest zasada Fermata (1662)

𝑥 =1

2𝑘2(θ − sinθ)

𝑥 =1

2𝑘2(1 − cosθ)

parametryczne równanie cykloidy

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

1. Rozmiar przestrzeni poszukiwań

2. Skomplikowanie modelu

3. Niejednoznaczność funkcji oceny

4. Ograniczenie przestrzeni poszukiwań przez więzy

5. Osoba rozwiązująca problem

6. Niepewność informacji

7. Wielość celów

Trudności napotykane w fazie poszukiwania optimum

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Rozważmy dwuwymiarowy model Isinga na sieci o krawędzi L

(dopuszczalne wartości spinów {-1,1}, ilość spinów N=L2)

Spróbujmy przejrzeć wszystkie możliwe konfiguracje i załóżmy,

że analiza pojedynczej konfiguracji trwa 1ns.

Rozmiar przestrzeni poszukiwań (1)

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Rozważmy dwuwymiarowy model Isinga na sieci o krawędzi L

(dopuszczalne wartości spinów {-1,1}, ilość spinów N=L2)

Spróbujmy przejrzeć wszystkie możliwe konfiguracje i załóżmy,

że analiza pojedynczej konfiguracji trwa 1ns.

Rozmiar przestrzeni poszukiwań (1)

Tu przekroczyliśmy

wiek Wszechświata

(14 mld. lat

~4.4 e17 s)

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Rozważmy teraz graf (dla uproszczenia nieskierowany) obrazujący

połączenia między N miastami i spróbujmy znaleźć w nim najkrótszy cykl

Hamiltona - TSP.

Rozmiar przestrzeni poszukiwań (2)

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Złożoność obliczeniowa dla zachłannego rozwiązania modelu Isinga.

Rozmiar przestrzeni poszukiwań (3)

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Złożoność obliczeniowa dla zachłannego rozwiązania modelu Isinga

i problemu komiwojażera.

Rozmiar przestrzeni poszukiwań (4)

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

A może zmienna ciągła, np.

Rozmiar przestrzeni poszukiwań (5)

𝑓(𝑥) = cos(x)cos(50𝑥)

𝑓(𝑥) = 10𝑛 + 𝑖=1

𝑛

(𝑥𝑖2 − 10cos(2π𝑥𝑖))

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Model jest fundamentalnym pojęciem związanym z teorią optymalizacji

ponieważ zawiera matematyczny opis rozwiązywanego problemu.

Model rozwiązania, nie jego reprezentacja.

W sytuacjach, kiedy pełny opis problemu może zawierać elementy trudne

do analizy, np. nieciągłości, zdarza się stosować opis przybliżony.

Rozwiązanie najlepsze vs. rozwiązanie lepsze.

Model

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Funkcja oceny jest związana z modelem, jednak nawet w jego ramach

mogą występować problemy z jej prawidłowym określeniem.

Funkcja oceny może zmieniać się w czasie.

Odzwierciedlenie pełnej, poprawnej i aktualnej wiedzy.

Sprzężenie zwrotne (czyżby cybernetyka).

Problemy z funkcją oceny

Metody optymalizacji Tomasz M. Gwizdałła 2018/19

Podstawy Elementy definiujące zagadnienie

Więzy wprowadzają problemy poprzez wprowadzenie znaczących

ograniczeń na podprzestrzeń dopuszczalnych rozwiązań przestrzeni

poszukiwań.

Jak zapisać więzy matematycznie?

W większości przypadków więzy czynią podprzestrzeń rozwiązań

niewypukłą.

Jak zaimplementować więzy w algorytmie:

- kara

- powrót do obszaru prawidłowego.

Ograniczenia, czyli więzy