IRRACJON-NeuroassocM..

30
Neuroasocjacyjne modele obliczeniowe w sztucznej inteligencji dla celów formowania się wiedzy i skojarzeń IRRACJONALNOŚĆ kontra RACJONALNOŚĆ czyli starcie tytanów na poziomie skojarzeń i inteligencji… dr Adrian Horzyk AGH, Wydział EAIiIB , Katedra Automatyki i Informatyki Biomedycznej Google: Horzyk E - mail: [email protected]

Transcript of IRRACJON-NeuroassocM..

Page 1: IRRACJON-NeuroassocM..

Neuroasocjacyjne modele obliczeniowe

w sztucznej inteligencji dla celów

formowania się wiedzy i skojarzeń

IRRACJONALNOŚĆ kontra RACJONALNOŚĆczyli starcie tytanów na poziomie skojarzeń i inteligencji…

dr Adrian HorzykAGH, Wydział EAIiIB, Katedra Automatyki i Informatyki Biomedycznej

Google: Horzyk E-mail: [email protected]

Page 2: IRRACJON-NeuroassocM..

Czy mózg jest racjonalny czy irracjonalny?

Człowiek zdolny jest do racjonalnego działania.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Człowiek często postępuje irracjonalnie zwykle pod wpływem intuicji lub potrzeb, które go do tego skłaniają.

Intuicja tworzy się na skutek nieświadomych skojarzeń mogąc podsuwać nam wartościowe wnioski,

które jednak trudno wytłumaczyć racjonalnie.

Potrzeby ludzi wynikają nie tylko z ich fizjologii,lecz również z ich charakteru, inteligencji oraz orientacji duchowej. Ich zróżnicowanie u ludzi jest duże, więc dla

innych mogą stwarzać wrażenie pozornie irracjonalnych.

Page 3: IRRACJON-NeuroassocM..

Czym jest wiedza?

„Wiedza to potęga” [Sir Francis Bacon]

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Wiedza definiowana jest zwykle przez pryzmat efektów jej działania: informacji, wniosków, reguł, zasad, algorytmów…

Platon: „Wiedza to prawdziwe i uzasadnione przekonanie” jak stwierdził Sokrates w rozmowie z Teajtetem.

Arystoteles rozróżniał wiedzę praktyczną i teoretyczną.

W psychologii przyjmuje się zazwyczaj, iż „wiedza to ogół treści utrwalonych w umyśle ludzkim w wyniku kumulowania doświadczenia oraz uczenia się”.

Page 4: IRRACJON-NeuroassocM..

Wiedza i jej modele informatyczne

Informatyka wymaga bardziej ścisłej definicji wiedzy,bez której nie jest w stanie jej modelować i wykorzystać.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

W informatyce najczęściej wiedzę (knowledge) definiuje się jako pewien zbiór faktów (informacji) i reguł (algorytmów)

z nimi powiązanych oraz umożliwiających ich przetwarzanie.

Tak powstały tzw. bazy wiedzy (knowledge base),które są bazami danych i reguł pozwalającymi naeksplorację danych wnioskowanie na podstawie

ograniczonego zbioru warunków, reguł i algorytmów określonych przez człowieka.

Czy w istocie rzeczy można wiedzę „gromadzić”,jak często się mówi? Czy jest ona zbiorem faktów i reguł?

Page 5: IRRACJON-NeuroassocM..

FUN

AK

T

SUMFUNAKT

Wiedza i sztuczne sieci neuronowe

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

W sztucznych sieciach neuronowych wiedzą nazywa sięich zdolność do uogólniania wynikającą ze struktury i

parametrów określonych w wyniku ich treninguz wykorzystaniem pewnego zbioru danych

zawierających sprawdzone lub wzorcowe fakty.

WEJŚCIA

WYJŚCIA

WAGA 1

WAGA 2

WAGA 3

WAGA N

WAGA 1

WAGA 2

WAGA 3

WAGA N

SUMFUNAKT

WAGA 1

WAGA 2SUM

FUNAKT

Model neuronu McCullocha-Pittsai sztuczna sieć neuronowa

Page 6: IRRACJON-NeuroassocM..

Skojarzeniowa natura wiedzy

„Kojarzysz te fakty ze sobą?” - specyficzny sposób wiązania faktów

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Wiedza umożliwia nam:

Kojarzyć ze sobą rozpoznane fakty

Wnioskować na ich podstawie i je weryfikować

Rozważać alternatywy, a nawet sprzeczności

Szukać rozwiązań problemów

Postępować efektywnie, skutecznie i inteligentnie

Wiedza jest ściśle powiązana z inteligencją.

Inteligentne wnioski otrzymujemy dzięki skojarzeniom.

Page 7: IRRACJON-NeuroassocM..

Skojarzenia i ich tajemnicza natura

Czym jest kojarzenie? Co to znaczy kojarzyć?

Co pozwala nam wywoływać pożądane skojarzenia?

Dlaczego coś się nam z czymś kojarzy?

Dzięki czemu kojarzenie jest możliwe?

Jakie biologiczne mechanizmy stoją za skojarzeniami?

Co wpływa na tworzenie się skojarzeń w umyśle?

Czy można celowo „zaprogramować” skojarzeniawłasne lub innych osób?

W jaki sposób mogą przebiegać skojarzenia?

Jaki związek mają skojarzenia z nauką, wiedzą i inteligencją?Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 8: IRRACJON-NeuroassocM..

Sieć biologicznych neuronów pozwala nam kojarzyć

Biologiczne mechanizmy kojarzenia oparte sąo plastyczne mechanizmy działające w neuronach

i na styku ich połączeń synaptycznych.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Mimo że skojarzenia biegną dla nas sekwencyjnie, tworząc pewien ciąg

myślowy możliwy do przedstawienia w postaci pewnego algorytmu lub metody,

w mózgu zachodzą skomplikowane równoległe procesy skojarzeniowe

pozwalające stworzyć taki efekt.

Nasza pamięć jest ulotna i nietrwała, ponieważ mózg jest plastyczny.Można więc mówić raczej o efekcie pamięci niż o pamięci.

Page 9: IRRACJON-NeuroassocM..

Neuron jako żywa komórka

Neuron jest żywą komórką, która dla swojego przetrwania potrzebuje substancje odżywcze oraz swoistą aktywność,

która zapewnia jej prawidłowy metabolizm i rozwój,inaczej grozi jej

apoptoza - zaprogramowana śmierć, czyli „autodestrukcja”.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Komórka musi rosnąć lub kurczyć się w celu dostosowania się do potrzeb swojej aktywności, produkując odpowiednią

ilość neurotransmiterów, neuropeptydów itd.

Page 10: IRRACJON-NeuroassocM..

Asocjacyjny model neuronu

Asocjacyjny model neuronu (ASN) wierniej odwzorowuje funkcje biologicznego neuronu realizowane w czasie umożliwiając mu:

Aktywną reprezentację wielu powtarzających się i zarazem nietłumionych przez inne neurony kombinacji bodźców.

Dyskryminację pozostałych kombinacji nie aktywujących go.

Reaktywne działanie i plastyczną adaptację.

Stopniową relaksację umożliwiającą mu wykorzystanie kontekstuwcześniejszych pobudzeń, jak również jego stopniowe

wygaszanie, ograniczając jego wpływ na przyszłe skojarzenia.

Refrakcję, która jest szansą dla innych neuronów,umożliwiającą alternatywne skojarzenia.

Tworzenie funkcjonalnie zróżnicowanych połączeńz innymi neuronami, umożliwiające nam kojarzenie.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 11: IRRACJON-NeuroassocM..

Co robi asocjacyjny neuron?

1. Optymalizuje swoją aktywność poprzez dyskryminacjęczęści kombinacji danych wejściowych.

2. Plastycznie zmienia swoją wielkośćoraz ilość swoich połączeń z innymi neuronami,

reagując na aktywność innych bliskich neuronów.

3. Osłabia lub wzmacnia wagę połączeń synaptycznychw odpowiedzi na pobudzenia podprogowe lub wywołujące

jego aktywację i oddziaływanie na kolejne neurony.

4. Tworzy połączenia z aktywowanymi neuronami reprezentującymi podobne lub następujące po sobie obiekty.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

5. Może reprezentować wiele podobnych i równocześnie różnych

kombinacji danych wejściowych.

Page 12: IRRACJON-NeuroassocM..

Asocjacyjne podobieństwo i następstwo

W grafowej neuroaktywnej strukturze można odzwierciedlić różne zależności pomiędzy danymi i ich kombinacjami:

podobieństwo i następstwo odgrywające fundamentalną rolę w trakcie procesów uczenia się i kojarzenia.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 13: IRRACJON-NeuroassocM..

Transformacja istotnych relacji do struktury grafowej

Jeśli fakty (wzorce) oraz ich części (dane) zostaną aktywnie powiązanew strukturze grafowej reaktywnych neuronów, wtedy mogą wywoływać aktywacje innych neuronów, tworząc skojarzenia i formułując wnioski.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 14: IRRACJON-NeuroassocM..

Asocjacyjne podobieństwo i definiowanie

Połączenia pomiędzy neuronami umożliwiają definiowanie oraz łączenie ze sobą obiektów o takich samych lub podobnych cechach, co umożliwia ich pobudzanie, aktywacje i tworzenie się skojarzeń.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 15: IRRACJON-NeuroassocM..

Automatyczne ujawnianie się korelacji i podobieństw

Połączenia pomiędzy neuronami

reprezentującymi różne obiekty lub

klasy automatycznie ujawniają wszelkie

korelacje, podobieństwa

i różnice,jakie występują

pomiędzy nimi bez konieczności ich

wyszukiwaniadziękinieredundantnejich reprezentacji.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 16: IRRACJON-NeuroassocM..

Asocjacyjny model neuronowej klasyfikacji danych

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Tworzenie się klasyfikatora

neuronowego

Page 17: IRRACJON-NeuroassocM..

Definiowanie łączące różne wrażenia zmysłowe

Każdy obiekt może być zdefiniowany (określony) przez różne wrażenia zmysłowe, tworząc jego reprezentację neuronalną

na skutek bliskiej w czasie aktywności neuronów wywołanych przez oddziaływanie tego obiektu na pola

sensoryczne poszczególnych zmysłów.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Dzięki temu skojarzenia mogą być wywołane na skutek oddziaływania bodźców tylko na część tych zmysłów.

Page 18: IRRACJON-NeuroassocM..

Asocjacyjne następstwo odwzorowujące sekwencje

Dzięki możliwości plastycznego tworzenia się oraz wzmacniania połączeń

pomiędzy często aktywowanymi neuronami w podobnym czasie, istnieje

możliwość odwzorowania następstwa elementóww strukturze połączeń międzyneuronalnych

pozwalających na wywoływanie następnych

elementów różnych sekwencji, które mogą być

ze sobą powiązane.

W zależności od kontekstuwywoływane jest

odpowiednie skojarzenie.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 19: IRRACJON-NeuroassocM..

Asocjacyjne relacje

Asocjacyjne relacje odwzorowane w połączeniach międzyneuronalnych automatycznie tworzące

i wzmacniające się dzięki plastyczności neuronalnej pomiędzy często aktywowanymi neuronami

równocześnie lub w niewielkim odstępie czasu:

Asocjacyjne podobieństwo ASIM (associative similarity)

Asocjacyjne następstwo ASEQ (associative sequence)

Asocjacyjny kontekst ACON (associative context)

Asocjacyjne definiowanie ADEF (associative definition)

Asocjacyjne hamowanie ASUP (associative suppression)

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 20: IRRACJON-NeuroassocM..

Tworzenie się klas i uogólnień

Dzięki bogatej i powiązanej ze sobą strukturze połączeń powstają uogólnienia, a dzięki ograniczonemu kontekstowi reprezentacje klas.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 21: IRRACJON-NeuroassocM..

Tworzenie się wiedzy na poziomie lingwistycznym

Kontekstowe asocjacyjne połączenia międzyneuronalne w połączeniu ze stopniową relaksacją neuronów pozwalają na aktywację neuronów

reprezentującychróżne obiekty

i działania.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 22: IRRACJON-NeuroassocM..

Uogólnianie na skutek zagregowanej reprezentacji

Przedstawiony graf reprezentuje 32 sekwencje słowne:

„nartnik biegnie po wodzie”, „nartnik to owad”, „nartnik to zwierzę”, „kot biegnie po łące”, „kot biegnie po podłodze”, „kot

biegnie po trafie”, „kot to ssak”, „kot to zwierzę”, „mrówkabiegnie po podłodze”, „mrówka to owad”, „mrówka to zwierzę”, „koń biegnie po łące”, „koń biegnie po trawie”, „koń biegnie po wodzie”, „koń płynie w wodzie”, „koń to ssak”, „koń to zwierzę”, „pies biegnie po łące”, „pies biegnie po podłodze”, „pies biegnie

po trawie”, „pies biegnie po wodzie”, „pies płynie w wodzie”, „pies to ssak”, „pies to zwierzę”, „ryba płynie w wodzie”, „ryba

to zwierzę”, „delfin płynie w wodzie”, „delfin to zwierzę”, „delfinto ssak”, „wąż płynie w wodzie”, „wąż to zwierzę”, „wąż to gad”

umożliwiając uogólnianie, np.: „zwierzę płynie”

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 23: IRRACJON-NeuroassocM..

Asocjacyjna sztuczna inteligencja

Skojarzeniowa wiedza jest efektem aktywnej neuronowej reprezentacji niezduplikowanych elementów informacji, które

mogą na siebie oddziaływać w zależności od kontekstu.W wyniku tego dochodzi do serii aktywacji neuronów, które

reprezentują skojarzenia, czyli specyficzny sposób wyszukiwania i tworzenia się informacji, w trakcie których może dochodzić do

uogólnień wynikających z pozornej niedoskonałości reprezentacji danych i działania mechanizmów neuronalnych.

Asocjacyjna sztuczna inteligencja to zdolność sztucznego systemu skojarzeniowego do automatycznego reagowania na

napływające dane poprzez wywoływanie serii skojarzeń wynikających z uformowanej w nim wiedzy wokół jego potrzeb.

Potrzeby ukierunkowują działanie systemu skojarzeniowego.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 24: IRRACJON-NeuroassocM..

Systematyka potrzeb charakteru oraz jego typologia

Typologia charakteru pozwala zrozumieć złożoność zależności potrzeb i wolę ich zaspokojenia:

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 25: IRRACJON-NeuroassocM..

Algorytmy kontra Skojarzenia

Współczesna informatyka i komputery oparte są o maszynę Turinga zdolną odczytywać instrukcje (rozkazy) i je wykonywać na pasywnych

danych, które są zapisane na teoretycznie nieskończonej taśmie, reprezentującej pamięć współczesnych komputerów.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Pasywne przechowywanie danych wyklucza możliwość ich wpływu na siebie, co prowadzi do konieczności wykorzystania ludzkiej inteligencji

do tworzenia programów zdolnych je przetwarzać.

Page 26: IRRACJON-NeuroassocM..

Ludzki umysł inspiracją dla przyszłych maszyn

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Reaktywnych neuronowych reprezentacji powtarzających się kombinacji danych,ich zakresów, podzbiorów i kombinacji.

Połączeń pomiędzy bliskimi neuronami,które często ulegają aktywacji w bliskim czasie

ze względu na reprezentację podobnychalbo często następujących po sobie obiektów.

Skojarzeń w wyniku aktywacji neuronówna skutek pobudzania i aktywacji receptorów

i innych neuronów za pośrednictwem zmysłów oraz śladów pamięciowych.

Ludzki umysł to skomplikowany system skojarzeniowy pozwalający na bardzo efektywne i automatyczne tworzenie się:

Page 27: IRRACJON-NeuroassocM..

Neuroasocjacyjne obliczenia

Neuroasocjacyjne obliczenia w systemach skojarzeniowych umożliwiają:

Aktywną, nieredundantną reprezentację danych.

Reaktywne oddziaływanie na siebie kombinacji danych dzięki podobieństwu ich elementów lub utrwalonemu następstwu.

Automatyczne i plastyczne tworzenie struktury połączeń międzyneuronalnych odwzorowujących obserwowane relacje

pomiędzy danymi i ich kombinacjami.

Znaczne obniżenie złożoności obliczeniowej,gdyż nie wymagają przeszukiwania pasywnych zbiorów danych,

z czym zmagają się współczesne komputery.

Tworzenie się aktywnych, funkcjonalnych zależności zastępujących wiele różnych algorytmów stosowanych w informatyce.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 28: IRRACJON-NeuroassocM..

Automatyczne programowanie się skojarzeń

Jeśli w systemie skojarzeniowym dojdzie do utworzenia się połączeń międzyneuronalnych albo ich wzmocnienia lub

osłabienia czy też zmiany wielkości perikarionu neuronów pod wpływem oddziaływania kombinacji danych na niego,

wtedy automatycznie dochodzi zmian wywoływanych skojarzeń poprzez zmianę kolejności lub szybkości

pobudzania, hamowania lub aktywacji poszczególnych neuronów.

Ze względu na to, iż wynikiem działania systemów skojarzeniowych są wywoływane skojarzenia,

ich zmiana odpowiada automatycznemu przeprogramowaniu się takiego systemu.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 29: IRRACJON-NeuroassocM..

Zakończenie

Systemy skojarzeniowe umożliwiająautomatyczne tworzenie się skojarzeń i wiedzy.

Wiedza nie jest zbiorem danych, informacji i reguł,więc nie można jej gromadzić,

lecz jest wynikiem skomplikowanych plastycznych procesów odgrywających się w systemach skojarzeniowych.

Informacja tworzy się w systemie skojarzeniowymna skutek skojarzeń w ramach uformowanej wiedzy.

Inteligencja jest naturalnym skutkiem działania systemów skojarzeniowych, w których formuje się wiedza

oraz powstają uogólnienia, klasy obiektów lub działań itd.

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej

Page 30: IRRACJON-NeuroassocM..

Życzę wielu konstruktywnych wniosków

Pytania?

Adrian Horzyk, [email protected], AGH Akademia Górniczo-Hutnicza, Wydział EAIiIB, Katedra Automatyki i Inżynierii Biomedycznej