Opis badania sieci neuronowe

8

Click here to load reader

description

Opis wyników uzyskanych przy symulacji klasyfikujących sieci neuronowych

Transcript of Opis badania sieci neuronowe

Page 1: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 1 z 8

Opis wyników uzyskanych przy symulacji

klasyfikujących sieci neuronowych

Jacek Lewiński

Społeczna Wyższa Szkoła

Przedsiębiorczości i Zarządzania w Łodzi

Studia II letnie magisterskie uzupełniające

Grupa projektowa nr 4

nr indeksu: 50564

Łódź 22.11.2010

Page 2: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 2 z 8

Wstęp

Dokument stanowi opis wyników uzyskanych przy symulacji klasyfikujących sieci neuronowych dla

podanych struktur sieciowych. Obliczenia wykonywane były programem Sharky Neural Network 0.9 Beta. Technika

obliczeń zawarta w programie inspirowana jest biologiczną siecią neuronów w ludzkim mózgu. Sieć ta klasyfikuje

punkty na płaszczyźnie do dwóch różnych klas (żółtej i niebieskiej). Nie klasyfikuje i nie rozpoznaje kształtów!

Obserwowane kształty są wizualizacją klasyfikacji punktów. Sieć rozpoznaje czy punkt na płaszczyźnie (wektor

opisany dwiema liczbami rzeczywistymi) jest niebieski czy żółty. Każdy neuron posiada bias oraz używa bipolarnej

sigmoidalnej funkcji aktywacyjnej (f(x)=2/(1+e-ßx)-1). Program obrazuje zmiany krzywej uczenia się naszej sieci.

Page 3: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 3 z 8

Opis wyników obliczeń:

Ćwiczenie nr 1 (test nr 1) odwzorowanie graficzne w kształcie „buźki”.

Ustawiono następujące parametry sieci:

- Rodzaj sieci neuronowej:

- Network Structure: 2:5:5:5:2

Page 4: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 4 z 8

Ustawione parametry badanej sieci:

Nazwa właściwości Wartość Uwagi

Zakładka Network

Network structure 2:5:5:5:2

Zakładka „Learn”

Order Swapping Permutation

Premphase Error nie zaznaczono

Verify nie zaznaczono

współczynnik uczenia „ni” 0.90

Auto Decrease 0.891

Down Rate 0.99977

„ni” minimal 0.015

Momentum zaznaczono

Alpha 0.50

Zakładka „Draw”

Draw 2G Graph 10 frames per s.

Page 5: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 5 z 8

Obserwujemy zmieniające się w wektorze czasu wagi poszczególnych parametrów.

Wyniki dla 1 testu

po czasie - 14 sekund

po przebiegu 3564 - Epochs

z procentem błędów - 6.80%

współczynnik uczenia „ni” - 0.015

Abs Weights

Max. 28.89 24.84 20.63 5.036

Min. 2.016 0.843 0.120 2.412

AAM. 13.10 0.843 6.341 4.089

RMS 16.48 10.80 8.472 4.184

Abs Bias

Max. 9.302 9.240 7.577 9.102

Min. 2.013 2.064 0.480 9.102

AAM. 6.108 4.326 2.907 9.102

RMS 6.620 5.008 3.815 9.102

Page 6: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 6 z 8

Wyniki dla 2 testu

Użyto odwzorowania (wizualizacji) w kształcie symbolu Ying Yang.

Ustawione parametry badanej sieci:

Nazwa właściwości Wartość Uwagi

Zakładka Network

Network structure 2:10:2

Zakładka „Learn”

Order Swapping Permutation

Premphase Error nie zaznaczono

Verify nie zaznaczono

współczynnik uczenia „ni” 0.90

Auto Decrease 0.891

Down Rate 0.99977

„ni” minimal 0.015

Momentum zaznaczono

Alpha 0.50

Zakładka „Draw”

Draw 2G Graph 10 frames per s.

Page 7: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 7 z 8

po czasie - 7 sekund

po przebiegu 2612 - Epochs

z procentem błędów - 3.00%

współczynnik uczenia „ni” - 0.015

Abs Weights

Max. 31.70 9.491

Min. 0.965 0.048

AAM. 11.92 6.016

RMS 14.72 6.729

Abs Bias

Max. 10.83 1.182

Min. 0.178 1.129

AAM. 3.556 1.156

RMS 4.881 1.156

Koniec symulacji możemy określić za pomocą ilości przeliczanych epok lub ustalając granicę błędu przy

której symulacja ma się zatrzymać. W podanym przykładzie zatrzymanie przeliczania algorytmów ustalamy na

poziomie 3% błędu. Pożądaną wizualizację klasyfikacji punktów otrzymujemy już po siedmiu sekundach.

Wyniki dla 3 testu

Użyto odwzorowania (wizualizacji) w kształcie symbolu Ying Yang

Page 8: Opis badania sieci neuronowe

[email protected]

sieci neuronowe Strona 8 z 8

Ustawione parametry badanej sieci:

Nazwa właściwości Wartość Uwagi

Zakładka Network

Network structure 2:10:2

Zakładka „Learn”

Order Swapping Permutation

Premphase Error nie zaznaczono

Verify nie zaznaczono

współczynnik uczenia „ni” 0.90

Auto Decrease 0.891

Down Rate 0.99977

„ni” minimal 0.015

Momentum zaznaczono

Alpha 0.50

Zakładka „Draw”

Draw 2G Graph 10 frames per s.

po czasie - 7 sekund

po przebiegu 2612 - Epochs

z procentem błędów - 3.00%

współczynnik uczenia „ni” - 0.015

Abs Weights

Max. 37.61 12.75

Min. 1.624 0.960

AAM. 16.38 6.543

RMS 19.31 7.461

Abs Bias

Max. 14.46 2.587

Min. 0.082 2.466

AAM. 5.625 2.527

RMS 7.328 2.528

W podanym przykładzie zatrzymanie przeliczania algorytmów ustalamy na poziomie 3% błędu. Ustalony

poziom błędu uzyskaliśmy po 20 sekundach. Wizualizacja Ying Yang nie jest tak dokładna jak w poprzednim

przykładzie.