Post on 19-Mar-2016
description
Inteligencja ObliczeniowaSystemy rozmyte.
Wykład 18
Włodzisław DuchUniwersytet Mikołaja Kopernika
Co byłoCo było
• Zbiory rozmyte
• Funkcje rozmyte
• Relacje rozmyte
Co będzieCo będzie
• Wnioskowanie rozmyte• Uczenie się reguł rozmytych• Rozmywanie danych wejściowych• Rozmyta klasteryzacja• Zastosowania
Reguły rozmyteReguły rozmyteWiedzę potoczną można często zapisać w naturalny sposób za pomocą reguł rozmytych.
Jeśli zm. lingw-1 = term-1 i zm. lingw-2 = term-2to zm. lingw-3 = term-3
Jeśli Temperatura = zimno i cena ogrzewania = niskato grzanie = mocno
Co oznacza reguła rozmyta:Jeśli x jest A to y jest B ?
InterpretacjaInterpretacjaJeśli x jest A to y jest B: korelacja lub implikacja.
A=>B not A or BA
B
x
y
A
B
y
x
R A B A B x y x yA B ( ) ( )|( , )~
Rozmyta implikacja Rozmyta implikacja Jeśli korelacja to wystarczy T-norma T(A,B).P=>Q ma wiele realizacji, np. lub
( )P Q P QP Q P Q P
Pojedyncza regułaPojedyncza reguła
Jeśli x jest A to y jest B.Fakt: x jest A’, konkluzja: y jest B’
Łatwo uogólnić dla wielu warunków:Jeśli x jest A i y jest B to z jest C
A
X
wA’ B
Y
x is A’
B’
Y
A’
X y is B’
Reguły FMR i FIRReguły FMR i FIR
FMR, Fuzzy Mapping Rules.Zależność funkcjonalna, rozmyte grafy, aproksymacja.Model rozmyty: zbiór reguł FMR.
FIR, Fuzzy Implication Rules.logika implikacji pomiędzy rozmytymi stwierdzeniami.
Obydwa typy reguł: rozmyte relacje pomiędzy przesłankami a konkluzją, jeśli przesłanki spełnione to podobnie działają. Składają przesłanki, ale mogą stosować różne operatory, jest różna semantyka.
SystemSystemy rozmytey rozmyte F: n p używają m reguł by odwzorować wektor x na wyjście F(x), wektorowe lub skalarne.
Rozmyta aproksymacja
Function f : X Y
Model singletonowy:Ri: IF x jest Ai TO y jest bi
ImplikacjeImplikacje
Mamdani
, min ,A B A B A Bx y x y x y
Larsen
,A B A Bx y x y
Łukasiewicz
, min 1,1A B A Bx y x y
Zadeh
, max min , ,1A B A B Ax y x y x
Kleen-Dienes, Goguen, Sharp, ograniczonej sumy, probabilistyczna ...
Relacje można wyprowadzić z logiki wielowartościowej Łukasiewicza.
IF Temperatura=chłodno i Cena-ogrzewania=drogo THEN Grzać=wcale
IF Temperatura=mróz i Cena-ogrzewania=tanio THEN Grzać=mocno
mocno mocno średnio
mocno średnio słabo
średnio słabo wcale
Baza reguł Temperatura
mróz zimno chłodnoCena
tanio
średnio
drogo
Ogrzewanie
1. Rozmywanie
t
1
0
chłodno(T)=0.5
IF Temperatura=chłodno
15C p
1
0
tanio(p)=0.3
i Cena-ciepła=tanio ...
48zł/MBtu
0.5 0.3
Fuzzyfikacja, rozmywanie: od pomiarów do f. przynależności:Określ stopnie przynależności zmiennych lingwistycznych do każdego ze zbiorów rozmytych:
Temperatura: T=15 C Cena-ciepła: p=48zł/MBtu
2. Łączenie termówOblicz stopień spełnienia reguły dla wszystkich przesłanek łącząc ze sobą termy za pomocą rozmytego AND, np. operatora MIN.
A(X) = A1(X1) A2(X2) AN(XN) dla reguły RA
całe(X) = min{chłodno(t), tanio(p)} = min{0.5,0.3} = 0.3
t
1
0
chłodno(t)=0.5
IF Temperatura=chłodno
15 C p
1
0
tanio(p)=0.3
i Cena-ciepła=tanio ...
48zł/MBtu
0.5 0.3
3. WnioskowanieOblicz stopień prawdziwości konkluzji: zastosuj wartość przynależności przesłanek do konkluzji reguły używając T-norm: MIN lub iloczynu.
high(h)
THEN Grzać=mocno
konkluzja(h)
h
1
0przesł=0.3...
h
1
0
mocno(h)
przesł =0.3...
konkl(h)
Wnioskowanie MINkonkl=min{przesł, mocno}
Wnioskowanie •
konkl. = przesł • mocno
4. Agregacja
h
1
0
THEN Grzać=mocnoTHEN Grzać=średnioTHEN Grzać=słabo
Dokonaj agregacji wszystkich przesłanek reguł używając operatora MAX by obliczyć sumę.
5. WyostrzanieOblicz ostrą wartość lub decyzję używając np. metody środka ciężkości “Center of Gravity” (COG)
h
1
0
konkl(h) COG
73Dla zbiorów dyskretnych „centrum singletonów”, dla ciągłych:
h = i i • Ai • ci
i i • Ai
i = stopień przynależności do zbioru iAi = powierzchnia zbioru i ci = środek ciężkości zbioru i.
Schemat rozmytego systemu
Rozmywanie Wnioskowanie Wyostrzanie
t
mróz zimno ciepło
Zmierzona temperatura
0.2
0.7
if temp=mróz then zawór=otwarty
if temp=zimno then zawór=półotwarty
if temp=ciepło then zawór=zamknięty
baza reguł
mróz =0.7
zimno =0.2
hot =0.0
v
otw pół zamk
Wyjście określające położenie zaworu
0.2
0.7
Reguły Takagi-Sugeno
Reguły Mamdani: wynikiem jest zbiór rozmyty B IF X1 = A1 i X2 =A2 … Xn = An Then Y = B
Reguły TS: wynikiem jest funkcja f(xi) IF X1 = A1 i X2 = A2 …. Xn = An Then Y=f(x1,x2,..xn)
Zwykle w regułach TS są to liniowe funkcje (aproksymacja f. sklejanymi liniowymi): IF X1 = A1 i X2 = A2…Xn = An Then Y=a0 + a1x1 … +anxn
Rozmyty system w Matlabie
rulelist=[ 1 1 3 1 1 1 2 3 1 1 1 3 2 1 1 2 1 3 1 1 2 2 2 1 1 2 3 1 1 1 3 1 2 1 1 3 2 3 1 1 3 3 3 1 1];fis=addrule(fis,rulelist);showrule(fis)gensurf(fis);Surfview(fis);
first inputsecond inputoutputrule weightoperator (1=AND, 2=OR)
1. If (temperature is cold) and (oilprice is normal) then (heating is high) (1)
2. If (temperature is cold) and (oilprice is expensive) then (heating is medium) (1)
3. If (temperature is warm) and (oilprice is cheap) then (heating is high) (1)
4. If (temperature is warm) and (oilprice is normal) then (heating is medium) (1)
5. If (temperature is cold) and (oilprice is cheap) then (heating is high) (1)
6. If (temperature is warm) and (oilprice is expensive) then (heating is low) (1)
7. If (temperature is hot) and (oilprice is cheap) then (heating is medium) (1)
8. If (temperature is hot) and (oilprice is normal) then (heating is low) (1)
9. If (temperature is hot) and (oilprice is expensive) then (heating is low) (1)
Fuzzy Inference System (FIS)IF szybkość jest niska to hamowanie = 2IF szybkość jest średnia to hamowanie = 4* szybkośćIF szybkość jest wysoka to hamowanie = 8* szybkość
R1: w1 = .3; r1 = 2R2: w2 = .8; r2 = 4*2R3: w3 = .1; r3 = 8*2
Szybkość2
.3
.8
.1
niska średnia wysoka
Hamowanie = (wi*ri) / wi
= 7.12
FP
FIS Sugeno 1-go rzędu
• RegułyIF X jest A1 i Y jest B1 to Z = p1*x + q1*y + r1
IF X jest A2 i Y jest B2 to Z = p2*x + q2*y + r2
• Rozmyte wnioskowanie
A1 B1
A2 B2
x=3
X
X
Y
Yy=2
w1
w2
z1 =p1*x+q1*y+r1
z =
z2 =p2*x+q2*y+r2
w1+w2
w1*z1+w2*z2
Indukcja reguł rozmytych
Parametry adaptacyjne w regułach rozmytych:• Liczba reguł.• Liczba termów dla każdego atrybutu.• Położenie f. przynależności (FP). • Kształt FP dla każdego atrybutu.• Postać konkluzji.• Wybór operatorów. • Indukcja: konstruktywna lub adaptacja.
Dzielenie przestrzeni cech
Siatka Indywidualne funkcje
Siatki• Zalety: najprostsze podejście• Regularna siatka: przypisz do każdego obszaru średnią
wartość wszystkich przykładów, które do niego należą. • Nieregularna siatka: podziel siatkę w miejscu
największego błędu na mniejsze (dodaj FP).• Metoda mieszana: zacznij od regularnej siatki,
przeprowadź adaptację parametrów.
• Wady: Nk obszarów dla k wymiarów i N funkcji!Często słaba aproksymacja.
• Propozycja Combsa: linearyzacja, tyle samo klas co zbiorów dla każdej z cech.
Indywidualne FP• Zalety: dokładniejsze, lepsza aproksymacja,
mniej funkcji.
• Systemy neurorozmyte - równoważne sieci RBF z funkcjami Gaussowskimi lub sieci FSM z trójkątnymi, trapezami, bicentralnymi, zmodyfikowane sieci MLP.
• Systemy oparte na drzewach decyzji.• Systemy indukcji reguł z danych w rozmytej wersji.
• Wady: trudniejsze w realizacji? Ekstrakcja reguł nie jest prosta.
Dostrajanie zbiorów reguł.• Jak poprawić dany zbiór reguł? • Użyj metod minimalizacji by zoptymalizować parametry
reguł rozmytych: zwykle metod niegradientowych; najczęściej stosowane są algorytmy genetyczne.
• Zamień reguły na sieć neuronową, naucz sieć i dokonaj ponownej ekstrakcji.
• Stosuj metody heurystyczne do lokalnej adaptacji parametrów poszczególnych reguł.
• Logika rozmyta - dobra do modelowania wiedzy ale ...• Jak wyglądają granice decyzji systemów wnioskowania
rozmytego? Czy warto rozmywać/wyostrzać? • Czy nie ma lepszych metod sklejania do aproksymacji?
ANFIS• Wnioskowanie
A1 B1
A2 B2
w1
w2
z1 =p1*x+q1*y+r1
z2 =p2*x+q2*y+r2
z = w1+w2
w1*z1+w2*z2
x y• ANFIS (Adaptive Neuro-Fuzzy Inference System)
A1
A2
B1
B2
x
y
w1
w2
w1*z1
w2*z2
wi*zi
wi
z
ANFIS z 4 regułami
• ANFIS (Adaptive Neuro-Fuzzy Inference System)A1
A2
B1
B2
x
y
w1
w4
w1*z1
w4*z4
wi*zi
wi
z
• Podział p. wejściowejA1
B1
A2
B2
x
y x
y
A1 A2
B1
B2
ANFIS: identyfikacja param.
• Hybrydowe metody trenowania: BP + LMS
A1
A2
B1
B2
x
y
w1
w4
w1*z1
w4*z4
wi*zi
wi
z
nielinioweparametry
linioweparametry
stałe
LMS
gradientowe
stałe
wprzód wsteczParam. FP
(nieliniowe)Współczynniki
(liniowe)
ZastosowaniaZastosowania
Wszystko fuzzy, szczególnie w Japonii od 1987!
Kontrolery rozmyte: jak się przewraca to pchaj! W pralkach, opiekaczach, kamerach (autofokus), klimatyzacji, samochodach (hamulce, wtryski), automatyce przemysłowej, sterowaniu robotów ...
Języki AI, np. FuzzyCLIPS. FuzzyJESS (Expert System Shell z Sandia National Lab.)Fuzzy Java Toolkit ... Fuzzyfikacja sieci neuronowych: systemy neurrozmyte i rozmyto-neuronowe.
Koniec wykładu 18
Dobranoc !