przykłady uczenia sieci - piotr.ciskowski.staff.iiar.pwr...

STATISTICANeural Networks

przykłady uczenia sieci

WYKŁAD © Piotr Ciskowski

• Naucz sieć klasyfikować dane iris

• W programie STATISTICA przeprowadź wstępną analizę danych wejściowych(histogramy warunkowe, wykresy rozrzutu, statystyki opisowe)

oraz wstępne – rozpoznawcze – uczenie różnych sieci neuronowych

• Wybierz najlepszą architekturę oraz metodę uczeniai naucz sieć dokładnie w programie MATLAB

przykład 1. klasyfikacja: iris – STATISTICA + MATLABźródło: własne





• STATISTICA → Pomoc → Otwórz przykłady… → Datasets → IrisSNN.sta

przykład 1. klasyfikacja: iris – STATISTICA + MATLABźródło: własne

ANALIZA STATYSTYCZNA

DANE UCZĄCE






• Statystyka → Statystyki podstawowe i tabele → Statystyki opisowe→ Grupami (Zmienna grupująca: Odmiana) → Zmienne: Dł. działki, Szer. działki, Dł. płatka, Szer. płatka → Więcej → Statystyki (wybrać najważniejsze)

Analiza danych uczących – statystyki opisowe






• Statystyka → Statystyki podstawowe i tabele → Statystyki opisowe →→ Grupami (Zmienna grupująca: Odmiana) → Zmienne: Dł. działki, Szer. działki, Dł. płatka, Szer. płatka → Statystyki (wybrać najważniejsze)

Analiza danych uczących – statystyki opisowe







• Statystyka → Statystyki podstawowe i tabele → Statystyki opisowe→ Grupami (Zmienna grupująca: Odmiana) → Zmienne: Dł. działki, Szer. działki, Dł. płatka, Szer. płatka → Opcje (Opcje wykresu ramka-wąsy: tylko Mediana/kwartyle/rozstęp) → Więcej → Wykresy

Analiza danych uczących – graficzna







• Statystyka → Statystyki podstawowe i tabele → Statystyki opisowe→ Grupami (Zmienna grupująca: Odmiana) → Zmienne: Dł. działki, Szer. działki, Dł. płatka, Szer. płatka → Opcje (Opcje wykresu ramka-wąsy: tylko Mediana/kwartyle/rozstęp) → Więcej → Wykresy

Analiza danych uczących – histogramy, wykresy normalności, ramka-wąsy






• Statystyka → Statystyki podstawowe i tabele → Statystyki opisowe→ Wykresy prawdopodobieństwa i rozrzutu (z nazwami)

Analiza danych uczących – wykresy rozrzutu






• Statystyka → Statystyki podstawowe i tabele → Statystyki opisowe→ Wykresy prawdopodobieństwa i rozrzutu (macierzowy)

Analiza danych uczących – korelacje






• Statystyka → Statystyki podstawowe i tabele → Macierze korelacji → Korelacje

Analiza danych uczących – korelacje

WYBÓR DANYCH I ARCHITEKTURY

AUTOMATYCZNE SIECI NEURONOWE





• wstępne uczenie sieci w STATISTICe

Statystyka → Automatyczne sieci neuronowe

Automatyczne poszukiwanie sieci







Automatyczne poszukiwanie sieci – wybór rodzaju problemu







Automatyczne poszukiwanie sieci – wybór zmiennych we-wy







Automatyczne poszukiwanie sieci – podział danych uczących







Automatyczne poszukiwanie sieci – wybór architektury sieci







Automatyczne poszukiwanie sieci – wybór funkcji aktywacji







Automatyczne poszukiwanie sieci – redukcja wag

UCZENIE SIECI








Automatyczne poszukiwanie sieci – uczenie

ANALIZA WYNIKÓW








Automatyczne poszukiwanie sieci – 5 najlepszych







Analiza wyników: Predykcja (5 najlepszych sieci)

Automatyczne poszukiwanie sieci – analiza wyników: predykcja







Analiza wyników: Predykcja (5 najlepszych sieci)

Automatyczne poszukiwanie sieci – analiza wyników: predykcja, szczegóły







Analiza wyników: Wykresy (5 najlepszych sieci)

Automatyczne poszukiwanie sieci – analiza wyników: wykresy







Analiza wyników: Szczegóły (5 najlepszych sieci)

Automatyczne poszukiwanie sieci – analiza wyników: wagi, macierz pomyłek, wrażliwość, …







Analiza wyników: Szczegóły (najlepsza sieć: MLP 4-10-3,uczenie: BFGS 29aktywacja: tanh - liniowa) → Wagi

Automatyczne poszukiwanie sieci – analiza wyników: wagi







Analiza wyników: Szczegóły (najlepsza sieć: MLP 4-10-3,uczenie: BFGS 29aktywacja: tanh - liniowa) → Statystyki danych

Automatyczne poszukiwanie sieci – analiza wyników: statystyki danych - wejść







Analiza wyników: Szczegóły (najlepsza sieć: MLP 4-10-3,uczenie: BFGS 29aktywacja: tanh - liniowa) → Macierz pomyłek

Automatyczne poszukiwanie sieci – analiza wyników: macierz pomyłek







Analiza wyników: Szczegóły (najlepsza sieć: MLP 4-10-3,uczenie: BFGS 29aktywacja: tanh - liniowa) → Podsumowanie

klasyfikacji

Automatyczne poszukiwanie sieci – analiza wyników: podsumowanie klasyfikacji







Analiza wyników: Szczegóły (najlepsza sieć: MLP 4-10-3,uczenie: BFGS 29aktywacja: tanh - liniowa) → Globalna

analizawrażliwości

Automatyczne poszukiwanie sieci – analiza wyników: analiza wrażliwości







Analiza wyników: Szczegóły (najlepsza sieć: MLP 4-10-3,uczenie: BFGS 29aktywacja: tanh - liniowa) → Poziomy aktywacji

Automatyczne poszukiwanie sieci – analiza wyników: poziomy aktywacji

ZAPIS SIECI









• Zapisz tę sieć

Automatyczne poszukiwanie sieci – zapis sieci








• Zapisz tę sieć – w języku C











//Analysis Type - Classification

#include <stdio.h>

#include <conio.h>

#include <math.h>

#include <stdlib.h>

double IrisSNN_2_MLP_4_10_3_input_hidden_weights[10][4]=

{

{9.64259684788639e-002, 8.87441333798024e-001, -4.42494050499448e-001, -2.91268124222933e-001 },

{3.63850381688167e-001, -1.79769157510519e-001, 7.36080998147522e-001, 1.64714635157065e+000 },

{-3.00728987936196e-001, -3.43816636675808e-001, 5.91552264818327e-001, 3.94115453118943e-001 },

{-6.14011215880136e-001, 6.07121321030878e-002, -4.06883107004913e-001, -1.07483478000190e-001 },

{-4.34266752849489e-001, 1.89269734753861e-001, -1.45606486916391e+000, -1.09103472630002e+000 },

{-4.01686828130261e-002, -1.11408828564603e-001, 5.05113002455117e-002, -1.33213777506285e-001 },

{-6.22551308349457e-001, 2.93425142653440e-001, -7.76739658101056e-001, -8.93615990828134e-001 },

{-1.63858315393440e-001, -4.16994472465862e-001, 7.56031581764401e-001, 1.67416178894462e+000 },

{1.05730219681271e+000, -1.02664447181659e+000, 2.36592385321405e+000, 2.00373795902309e+000 },

{-1.04114475007288e+000, -1.18233133147631e+000, -4.86834624819009e-001, -1.16459247341153e+000 }

};

double IrisSNN_2_MLP_4_10_3_hidden_bias[10]={ -1.35118016087055e-001, -1.31576116156555e+000, -8.63963307676676e-

1.21932819768886e+000, -1.84624132926675e-001 };

double IrisSNN_2_MLP_4_10_3_hidden_output_wts[3][10]=

{

{-2.34402384016846e-001, -2.21931232309956e-001, -1.04743176326027e+000, 2.70609868908598e-002, 1.42207335838507

{6.11599376106343e-001, -9.09531446562226e-001, -4.08501986247057e-001, 7.65998834669215e-001, -2.68501065821106e

TESTOWANIE, UŻYWANIE SIECI










• Możesz przetestować jej działanie na nowych danych

Automatyczne poszukiwanie sieci – testowanie, używanie

IMPLEMENTACJA W MATLABIE










• Spróbuj nauczyć taką samą sieć w MATLABie

Automatyczne poszukiwanie sieci – MATLAB

przykłady uczenia sieci - piotr.ciskowski.staff.iiar.pwr...

Documents

Transcript of przykłady uczenia sieci - piotr.ciskowski.staff.iiar.pwr...