Inteligencja ObliczeniowaSystemy rozmyte.

Wykład 18

Włodzisław DuchUniwersytet Mikołaja Kopernika

Co byłoCo było

• Zbiory rozmyte

• Funkcje rozmyte

• Relacje rozmyte

Co będzieCo będzie

• Wnioskowanie rozmyte• Uczenie się reguł rozmytych• Rozmywanie danych wejściowych• Rozmyta klasteryzacja• Zastosowania

Reguły rozmyteReguły rozmyteWiedzę potoczną można często zapisać w naturalny sposób za pomocą reguł rozmytych.

Jeśli zm. lingw-1 = term-1 i zm. lingw-2 = term-2to zm. lingw-3 = term-3

Jeśli Temperatura = zimno i cena ogrzewania = niskato grzanie = mocno

Co oznacza reguła rozmyta:Jeśli x jest A to y jest B ?

InterpretacjaInterpretacjaJeśli x jest A to y jest B: korelacja lub implikacja.

A=>B not A or BA

B

x

y

A

B

y

x

R A B A B x y x yA B ( ) ( )|( , )~

Rozmyta implikacja Rozmyta implikacja Jeśli korelacja to wystarczy T-norma T(A,B).P=>Q ma wiele realizacji, np. lub

( )P Q P QP Q P Q P

Pojedyncza regułaPojedyncza reguła

Jeśli x jest A to y jest B.Fakt: x jest A’, konkluzja: y jest B’

Łatwo uogólnić dla wielu warunków:Jeśli x jest A i y jest B to z jest C

A

X

wA’ B

Y

x is A’

B’

Y

A’

X y is B’

Reguły FMR i FIRReguły FMR i FIR

FMR, Fuzzy Mapping Rules.Zależność funkcjonalna, rozmyte grafy, aproksymacja.Model rozmyty: zbiór reguł FMR.

FIR, Fuzzy Implication Rules.logika implikacji pomiędzy rozmytymi stwierdzeniami.

Obydwa typy reguł: rozmyte relacje pomiędzy przesłankami a konkluzją, jeśli przesłanki spełnione to podobnie działają. Składają przesłanki, ale mogą stosować różne operatory, jest różna semantyka.

SystemSystemy rozmytey rozmyte F: n p używają m reguł by odwzorować wektor x na wyjście F(x), wektorowe lub skalarne.

Rozmyta aproksymacja

Function f : X Y

Model singletonowy:Ri: IF x jest Ai TO y jest bi

ImplikacjeImplikacje

Mamdani

, min ,A B A B A Bx y x y x y

Larsen

,A B A Bx y x y

Łukasiewicz

, min 1,1A B A Bx y x y

Zadeh

, max min , ,1A B A B Ax y x y x

Kleen-Dienes, Goguen, Sharp, ograniczonej sumy, probabilistyczna ...

Relacje można wyprowadzić z logiki wielowartościowej Łukasiewicza.

IF Temperatura=chłodno i Cena-ogrzewania=drogo THEN Grzać=wcale

IF Temperatura=mróz i Cena-ogrzewania=tanio THEN Grzać=mocno

mocno mocno średnio

mocno średnio słabo

średnio słabo wcale

Baza reguł Temperatura

mróz zimno chłodnoCena

tanio

średnio

drogo

Ogrzewanie

1. Rozmywanie

t

1

0

chłodno(T)=0.5

IF Temperatura=chłodno

15C p

1

0

tanio(p)=0.3

i Cena-ciepła=tanio ...

48zł/MBtu

0.5 0.3

Fuzzyfikacja, rozmywanie: od pomiarów do f. przynależności:Określ stopnie przynależności zmiennych lingwistycznych do każdego ze zbiorów rozmytych:

Temperatura: T=15 C Cena-ciepła: p=48zł/MBtu

2. Łączenie termówOblicz stopień spełnienia reguły dla wszystkich przesłanek łącząc ze sobą termy za pomocą rozmytego AND, np. operatora MIN.

A(X) = A1(X1) A2(X2) AN(XN) dla reguły RA

całe(X) = min{chłodno(t), tanio(p)} = min{0.5,0.3} = 0.3

t

1

0

chłodno(t)=0.5

IF Temperatura=chłodno

15 C p

1

0

tanio(p)=0.3

i Cena-ciepła=tanio ...

48zł/MBtu

0.5 0.3

3. WnioskowanieOblicz stopień prawdziwości konkluzji: zastosuj wartość przynależności przesłanek do konkluzji reguły używając T-norm: MIN lub iloczynu.

high(h)

THEN Grzać=mocno

konkluzja(h)

h

1

0przesł=0.3...

h

1

0

mocno(h)

przesł =0.3...

konkl(h)

Wnioskowanie MINkonkl=min{przesł, mocno}

Wnioskowanie •

konkl. = przesł • mocno

4. Agregacja

h

1

0

THEN Grzać=mocnoTHEN Grzać=średnioTHEN Grzać=słabo

Dokonaj agregacji wszystkich przesłanek reguł używając operatora MAX by obliczyć sumę.

5. WyostrzanieOblicz ostrą wartość lub decyzję używając np. metody środka ciężkości “Center of Gravity” (COG)

h

1

0

konkl(h) COG

73Dla zbiorów dyskretnych „centrum singletonów”, dla ciągłych:

h = i i • Ai • ci

i i • Ai

i = stopień przynależności do zbioru iAi = powierzchnia zbioru i ci = środek ciężkości zbioru i.

Schemat rozmytego systemu

Rozmywanie Wnioskowanie Wyostrzanie

t

mróz zimno ciepło

Zmierzona temperatura

0.2

0.7

if temp=mróz then zawór=otwarty

if temp=zimno then zawór=półotwarty

if temp=ciepło then zawór=zamknięty

baza reguł

mróz =0.7

zimno =0.2

hot =0.0

v

otw pół zamk

Wyjście określające położenie zaworu

0.2

0.7

Reguły Takagi-Sugeno

Reguły Mamdani: wynikiem jest zbiór rozmyty B IF X1 = A1 i X2 =A2 … Xn = An Then Y = B

Reguły TS: wynikiem jest funkcja f(xi) IF X1 = A1 i X2 = A2 …. Xn = An Then Y=f(x1,x2,..xn)

Zwykle w regułach TS są to liniowe funkcje (aproksymacja f. sklejanymi liniowymi): IF X1 = A1 i X2 = A2…Xn = An Then Y=a0 + a1x1 … +anxn

Rozmyty system w Matlabie

rulelist=[ 1 1 3 1 1 1 2 3 1 1 1 3 2 1 1 2 1 3 1 1 2 2 2 1 1 2 3 1 1 1 3 1 2 1 1 3 2 3 1 1 3 3 3 1 1];fis=addrule(fis,rulelist);showrule(fis)gensurf(fis);Surfview(fis);

first inputsecond inputoutputrule weightoperator (1=AND, 2=OR)

1. If (temperature is cold) and (oilprice is normal) then (heating is high) (1)

2. If (temperature is cold) and (oilprice is expensive) then (heating is medium) (1)

3. If (temperature is warm) and (oilprice is cheap) then (heating is high) (1)

4. If (temperature is warm) and (oilprice is normal) then (heating is medium) (1)

5. If (temperature is cold) and (oilprice is cheap) then (heating is high) (1)

6. If (temperature is warm) and (oilprice is expensive) then (heating is low) (1)

7. If (temperature is hot) and (oilprice is cheap) then (heating is medium) (1)

8. If (temperature is hot) and (oilprice is normal) then (heating is low) (1)

9. If (temperature is hot) and (oilprice is expensive) then (heating is low) (1)

Fuzzy Inference System (FIS)IF szybkość jest niska to hamowanie = 2IF szybkość jest średnia to hamowanie = 4* szybkośćIF szybkość jest wysoka to hamowanie = 8* szybkość

R1: w1 = .3; r1 = 2R2: w2 = .8; r2 = 4*2R3: w3 = .1; r3 = 8*2

Szybkość2

.3

.8

.1

niska średnia wysoka

Hamowanie = (wi*ri) / wi

= 7.12

FP

FIS Sugeno 1-go rzędu

• RegułyIF X jest A1 i Y jest B1 to Z = p1*x + q1*y + r1

IF X jest A2 i Y jest B2 to Z = p2*x + q2*y + r2

• Rozmyte wnioskowanie

A1 B1

A2 B2

x=3

X

X

Y

Yy=2

w1

w2

z1 =p1*x+q1*y+r1

z =

z2 =p2*x+q2*y+r2

w1+w2

w1*z1+w2*z2

Indukcja reguł rozmytych

Parametry adaptacyjne w regułach rozmytych:• Liczba reguł.• Liczba termów dla każdego atrybutu.• Położenie f. przynależności (FP). • Kształt FP dla każdego atrybutu.• Postać konkluzji.• Wybór operatorów. • Indukcja: konstruktywna lub adaptacja.

Dzielenie przestrzeni cech

Siatka Indywidualne funkcje

Siatki• Zalety: najprostsze podejście• Regularna siatka: przypisz do każdego obszaru średnią

wartość wszystkich przykładów, które do niego należą. • Nieregularna siatka: podziel siatkę w miejscu

największego błędu na mniejsze (dodaj FP).• Metoda mieszana: zacznij od regularnej siatki,

przeprowadź adaptację parametrów.

• Wady: Nk obszarów dla k wymiarów i N funkcji!Często słaba aproksymacja.

• Propozycja Combsa: linearyzacja, tyle samo klas co zbiorów dla każdej z cech.

Indywidualne FP• Zalety: dokładniejsze, lepsza aproksymacja,

mniej funkcji.

• Systemy neurorozmyte - równoważne sieci RBF z funkcjami Gaussowskimi lub sieci FSM z trójkątnymi, trapezami, bicentralnymi, zmodyfikowane sieci MLP.

• Systemy oparte na drzewach decyzji.• Systemy indukcji reguł z danych w rozmytej wersji.

• Wady: trudniejsze w realizacji? Ekstrakcja reguł nie jest prosta.

Dostrajanie zbiorów reguł.• Jak poprawić dany zbiór reguł? • Użyj metod minimalizacji by zoptymalizować parametry

reguł rozmytych: zwykle metod niegradientowych; najczęściej stosowane są algorytmy genetyczne.

• Zamień reguły na sieć neuronową, naucz sieć i dokonaj ponownej ekstrakcji.

• Stosuj metody heurystyczne do lokalnej adaptacji parametrów poszczególnych reguł.

• Logika rozmyta - dobra do modelowania wiedzy ale ...• Jak wyglądają granice decyzji systemów wnioskowania

rozmytego? Czy warto rozmywać/wyostrzać? • Czy nie ma lepszych metod sklejania do aproksymacji?

ANFIS• Wnioskowanie

A1 B1

A2 B2

w1

w2

z1 =p1*x+q1*y+r1

z2 =p2*x+q2*y+r2

z = w1+w2

w1*z1+w2*z2

x y• ANFIS (Adaptive Neuro-Fuzzy Inference System)

A1

A2

B1

B2

x

y

w1

w2

w1*z1

w2*z2

wi*zi

wi

z

ANFIS z 4 regułami

• ANFIS (Adaptive Neuro-Fuzzy Inference System)A1

A2

B1

B2

x

y

w1

w4

w1*z1

w4*z4

wi*zi

wi

z

• Podział p. wejściowejA1

B1

A2

B2

x

y x

y

A1 A2

B1

B2

ANFIS: identyfikacja param.

• Hybrydowe metody trenowania: BP + LMS

A1

A2

B1

B2

x

y

w1

w4

w1*z1

w4*z4

wi*zi

wi

z

nielinioweparametry

linioweparametry

stałe

LMS

gradientowe

stałe

wprzód wsteczParam. FP

(nieliniowe)Współczynniki

(liniowe)

ZastosowaniaZastosowania

Wszystko fuzzy, szczególnie w Japonii od 1987!

Kontrolery rozmyte: jak się przewraca to pchaj! W pralkach, opiekaczach, kamerach (autofokus), klimatyzacji, samochodach (hamulce, wtryski), automatyce przemysłowej, sterowaniu robotów ...

Języki AI, np. FuzzyCLIPS. FuzzyJESS (Expert System Shell z Sandia National Lab.)Fuzzy Java Toolkit ... Fuzzyfikacja sieci neuronowych: systemy neurrozmyte i rozmyto-neuronowe.

Koniec wykładu 18

Dobranoc !