dr inż. Przemysław Berowski

58
Transformata falkowa dr inż. Przemysław Berowski [email protected] Instytut Elektrotechniki Warszawa

Transcript of dr inż. Przemysław Berowski

Page 1: dr inż. Przemysław Berowski

Transformata falkowa

dr inż. Przemysław [email protected]

Instytut ElektrotechnikiWarszawa

Page 2: dr inż. Przemysław Berowski

Joseph FourierFourier – na podstawie badań rozpływu ciepła w niejednorodnie ogrzewanych ciałach – zasugerował, że każda funkcja matematyczna, obojętnie jak skomplikowana, może być przedstawiona jako suma pewnych prostych funkcji podstawowych, a mianowicie takich jak te, które opisują czysty ton w muzyce lub czystą barwę światła.

LA Steen, Matematyka współczesna. 12 esejów. WNT, Warszawa 1983

Jean Baptiste Joseph Fourier1768 Auxerre – 1830 Paris

Page 3: dr inż. Przemysław Berowski

Skąd wzięły się falki?

W XIX w. w standardową technikąrozwiązywania równań różniczkowych cząstkowych było stosowanie do tego celu szeregu Fouriera, jednak Cauchy, Abel i Dirichlet wskazywali na problemy, związane z rozbieżnością szeregu Fouriera dowolnej funkcji.

Paul David Gustavdu Bois-Reymond

1831 Berlin – 1889 Freiburg

W 1873 r. Paul Du Bois-Reymond jako pierwszy podał przykład ciągłej funkcji okresowej o okresie 2π, której rozwinięcie w szereg Fouriera jest rozbieżne w punkcie.

Page 4: dr inż. Przemysław Berowski

Skąd wzięły się falki?

Rozwinięcie w szereg Fouriera nie daje informacji o zachowaniu się takiej funkcji, a także nie daje dobrej aproksymacji w otoczeniu punktu x=0.

W 1910 r. Haar podaje nowy system ortogonalny, oparty na funkcji

zdefiniowanej w przedziale [0,1].Alfréd Haar

1885 Budapeszt – 1933 Szeged

Page 5: dr inż. Przemysław Berowski

Historia falek

1938, Paley-Littlewood, diadyczne grupowanie częstotliwości,1948, Shannon, podstawy teorii informacji,1977, Calderon, dekompozycja atomowa dystrybucji w przestrzeniach parabolicznych Hp,1981, Stromberg, usprawnienie systemu Haara,1984, Grossman i Morlet, analiza sygnałów sejsmicznych za pomocą dekompozycji funkcji Hardyego na całkowalne z kwadratem falki,1986, Meyer, konstrukcja bazy ortogonalnej w L2,z przesuwaniem i rozszerzaniem funkcji gładkiej,1987, Daubechies, ortogonalny system falek oparty na nośniku zwartym (compactly supported),1988, Mallat, analiza wielorozdzielcza i unifikacja konstrukcji falek Stromberga, Battle-Lemarie’a i Meyera.

GW Pan, Wavelets in Electromagnetics and Device Modeling, Wiley 2003

Page 6: dr inż. Przemysław Berowski

Fala i falka

Fala sinusoidalnastała amplituda,nieskończona energia,analiza Fouriera.

Falkaskończona energia skupiona wokół punktu,analiza falkowa.

Page 7: dr inż. Przemysław Berowski

Falka

zerowa wartość średnia

normalizacja

skupiona wokół t=0

skończone pasmo przenoszenia

Page 8: dr inż. Przemysław Berowski

Rodzina falek

przesunięcie ui skalowanie sfalki bazowej (ang. mother wavelet)

normalizacja

Page 9: dr inż. Przemysław Berowski

Transformata falkowa

Ciągła TF (ang. Continuous (Integral) Wavelet Transform, CWT (IWT))

Jest miarą zmienności funkcji f(t) w otoczeniu u o rozmiarze proporcjonalnym do s

Page 10: dr inż. Przemysław Berowski

Calderon, Grossmann, Morlet

gdzie:

Odwrotna transformata falkowa

warunek dopuszczalności

ang. admissibility condition

– falka nie może mieć składowej stałej– musi być różniczkowalna w sposób ciągły

Page 11: dr inż. Przemysław Berowski

zmiana współczynników u i s w sposób ciągły,nieskończona ilośćgenerowanych współczynników,oczywiście w praktyce obliczeniowej przyjmuje się skończony krok –próbkowanie płaszczyzny czasowo-częstotliwościowej

Wady CWT

Funkcja i jej CWT z użyciem maksykańskiego kapelusza (Mexicanhat wavelet)

S Mallat, A wavelet tour of signal processing

Page 12: dr inż. Przemysław Berowski

Funkcja skalująca φ (t)przyjęcie granicznej wartości współczynnika skali s=s0 ,jeśli Wf(u,s) jest znane tylko dla wartości s<s0 to do odtworzenia oryginalnej funkcji f(t) konieczna jest informacja o Wf(u,s) dla s>s0 ,w tym celu wprowadza się funkcję skalującą (ang. scaling function) i tworzy rodzinę funkcji skalujących (funkcja bazowa funkcji skalującej bywa nazywana po angielsku father wavelet),funkcja skalująca jest „połączeniem” wszystkich falek o współczynniku skali s>s0

Page 13: dr inż. Przemysław Berowski

Funkcja skalująca φ (t)

Falka Funkcja skalująca

Wartość średnia różna od zera!!!

Page 14: dr inż. Przemysław Berowski

Falka Haara

Falka Haara nie jest ciągła i w konsekwencji jest trudno lokalizowalna w przedziale częstotliwości

Iwona Piotrowska, Falki otrzymywane metodą analizy wieloskalowej

i ich zastosowania,Praca magisterska, UAM Poznań 2004

Page 15: dr inż. Przemysław Berowski

Falka Shanonna

Iwona Piotrowska, Falki otrzymywane metodą analizy wieloskaloweji ich zastosowania,Praca magisterska, UAM Poznań 2004

Page 16: dr inż. Przemysław Berowski

Falka Franklina

Iwona Piotrowska, Falki otrzymywane metodą analizy wieloskaloweji ich zastosowania,Praca magisterska, UAM Poznań 2004

Page 17: dr inż. Przemysław Berowski

Falka Meyera

Page 18: dr inż. Przemysław Berowski

Modyfikacja odwrotnej transformaty falkowej

Funkcję skalującą można traktować jak odpowiedźimpulsową filtru dolnoprzepustowego, natomiast falkę – filtru pasmowego

Page 19: dr inż. Przemysław Berowski

Kostka Heisenberga

jej powierzchnia jest niezależna od współczynnika skalirozdzielczośćwzględem czasu i częstotliwości zależy od współczynnika skali

Page 20: dr inż. Przemysław Berowski

Zazwyczaj przyjmuje się oraz , co daje diadyczne próbkowanie i obliczenia prowadzi się oktawę po oktawieZatem rodzinę falek otrzymujemy przez skalowanie j i przesunięcie k

Falki dyskretne

Jeśli ciągłe skalowanie s i przesunięcie u zastąpi się dyskretnym otrzyma się dyskretną rodzinę falek (j,k – liczby całkowite)

Page 21: dr inż. Przemysław Berowski

Analiza falkowa

Sygnał może zostać przedstawiony jako suma funkcji skalujących i falek, tworzących rodzinę funkcji ortogonalnych.

Page 22: dr inż. Przemysław Berowski

Piramida MallataMallat podał zależności między kolejnymi współczynnikami rozkładu.

h – współczynniki filtru dolnoprzepustowego skalującego H,g – współczynniki filtru górnoprzepustowegofalkowego G.

Page 23: dr inż. Przemysław Berowski

Piramida Mallata

na wyjściu filtru H otrzymujemy uśrednioną, wygładzoną informację o sygnale wejściowym,na wyjściu filtru G – szczegóły sygnału.

Page 24: dr inż. Przemysław Berowski

Piramida Mallata

3-poziomowa analiza

Zakresy częstotliwości

Page 25: dr inż. Przemysław Berowski

Ograniczenia

Rozmiar analizowanego sygnału czy funkcji musi mieć rozmiar 2n, n ∈ N. Powstały metody dopasowujące rozmiar sygnału, przez dodanie dodatkowych informacji na jego krańcach.

Page 26: dr inż. Przemysław Berowski

Ograniczenia

Zero-padding:poza swoim oryginałem sygnał równy 0,nieciągłości na granicy.

Symetryzacja:

symetryczne powielanie sygnału,nieciągłość pierwszej pochodnej na granicy,dobrze nadaje się do obrazów.

Smooth-padding 0:ekstrapolacja stała,dodanie pierwszej wartości sygnału po lewej i ostatniej po prawej jego stronie.

Page 27: dr inż. Przemysław Berowski

OgraniczeniaSmooth-padding 1:

ekstrapolacja pierwszą pochodną,rozszerzenie sygnału musi pokrywać się z pierwszymi dwoma i ostatnimi dwoma wartościami sygnału,do funkcji gładkich.

Periodic-padding 1:dla parzystej liczby próbekrozszerzenie okresowe,nieciągłości na granicy.

Periodic-padding 2:dla nieparzystej liczby próbek,dodaje się dodatkową wartość po prawej stronie równą ostatniej wartości sygnału,potem (jw.).

Page 28: dr inż. Przemysław Berowski

Dekompozycja sygnału

filtr górnoprzepustowy

filtr dolnoprzepustowy

Page 29: dr inż. Przemysław Berowski

Przykładowa analiza sygnału

Page 30: dr inż. Przemysław Berowski

Analiza obrazu

Obraz przed i po DWT

Page 31: dr inż. Przemysław Berowski

Analiza obrazu

Page 32: dr inż. Przemysław Berowski

Kompresja obrazu

Po DWT część współczynników stanie się bardzo mała – można je pominąć (tu: 88,15%)

Page 33: dr inż. Przemysław Berowski

Kompresja obrazu

W 1986 roku została powołana grupa Joint Photographic ExpertGroup mająca zająć sięstandaryzacją algorytmów do przetwarzania obrazów monochronatycznychi kolorowych. W 1991 w normie ISO zawarto standard JPEG. Standard ten odnosi się do obrazów statycznych, a zatem polega na usunięciu nadmiarowej informacji drogą kodowania wewnątrzobrazowego, tj. dokonanego w obrębie jednego obrazu.

JPEG, bez kompresji, 438 874 B

Kompresja bezstratnaKompresja stratna

Page 34: dr inż. Przemysław Berowski

Kompresja obrazu

Oko ludzkie, w przypadku kolorowych detali, nie wymaga tak dużej rozdzielczości, jak w przypadku obrazów czarno-białych. Dlatego teżna początku w stratnej kompresji obrazu - w przypadku obrazu kolorowego - wyjściowy obraz przenosimy z przestrzeni RGB do przestrzeni kolorów YUV. Ludzkie zmysły są bardziej wyczulone na składowe Y (luminancję) niż na składowe U (chrominancję, zmiany odcienia szarości w kierunku niebieskim). czy też V (chrominancję, zmiany odcienia szarości w kierunku czerwonym). Obraz jest tablicą pikseli i z powodu ogromnej liczby pikseli w jednym obrazie nie wszystkie piksele są jednocześnie poddawane przetworzeniu. Najpierw dzielimy nasz obraz (macierz) na bloki pikseli rozmiaru 8x8 (zaczynając od lewego górnego rogu), i dopiero te bloki podlegaj¡ kompresji jeden po drugim za pomoc¡ systemu JPEG.

Page 35: dr inż. Przemysław Berowski

Kompresja obrazu

W roku 2001 grupa Joint Photographic Expert Group okeśliła nowy standard JPEG2000. Standard ten należy traktować jako rozszerzenie poprzedniego, gdyż jego ogólna struktura jest anologiczna, czyli:

przeniesienie obrazu do przestrzeni Y UV ,transformacja wartości,kwantyzacja,kodowanie.

Uwzględnia on jednak użycie nowych narzędzi jakimi są falki.

Page 36: dr inż. Przemysław Berowski

Kompresja obrazu

JPEG

kompresja 90%

16 116 B

JPEG2000

kompresja 90%

19 469 B

Page 37: dr inż. Przemysław Berowski

Kompresja obrazu

JPEG

kompresja 95%

8 012 B

JPEG2000

kompresja 95%

9 985 B

Page 38: dr inż. Przemysław Berowski

Kompresja obrazu

JPEG

kompresja 99%

4 429 B

JPEG2000

kompresja 99%

2 395 B

Page 39: dr inż. Przemysław Berowski

Kompresja macierzy współczynników

Jeśli potraktuje się macierz współczynników jak obraz cyfrowy i zastosuje się do niej dwuwymiarową transformatę falkową to znaczna część współczynników stanie się bardzo mała i będzie mogła zostać pominięta (jak przy kompresji obrazu).

Page 40: dr inż. Przemysław Berowski

Macierz DWT

Macierz przekształcenia falkowego W:filtr Hfiltr G

Page 41: dr inż. Przemysław Berowski

Macierz DWTMacierz ortogonalna, macierz odwrotna do niej jest równa jej macierzy transponowanej.

Spełnione są zależności:

h02+ h1

2+ h22+ h3

2 = 1,h2h0 + h3h1 = 0,h3 - h2 + h1 + h0 = 0,0h3 - 1h2 + 2h1 - 3h0 = 0.

Page 42: dr inż. Przemysław Berowski

W macierzy można zaniedbać wszystkie współczynniki o wartości bezwzględnej mniejszej od przyjętego progu .

Kompresja macierzy współczynników

Pozostanie nam wtedy około

współczynników o wartościach różnych od zera.

Page 43: dr inż. Przemysław Berowski

Kompresja macierzy współczynników

Macierz pełna po DWT i zaniedbaniu współczynników

Page 44: dr inż. Przemysław Berowski

Wpływ na prędkość obliczeńCzasy rozwiązywania układów równań po DWT macierzy współczynników

552,6

5477,5

Dla 8192 równań przyspieszenie do 31,4 razy przy błędzie względnym ok. 1%.

Page 45: dr inż. Przemysław Berowski

Uzupełnianie układu równań

Jeśli rozmiar macierzy nie jest całkowitą potęgą 2uzupełniamy macierz do takiego rozmiaru zerami poza i jedynkami na głównej przekątnej,uzupełniamy jedynkami wektor prawych stron.

Page 46: dr inż. Przemysław Berowski

Uzupełnianie układu równań

Page 47: dr inż. Przemysław Berowski

DWT z permutacjami (DWTPer)macierz przekształcenia

- macierz zerowa,- macierz jednostkowa

o wymiarach 2L-1 – 1, gdzie L – poziom DWTPer

Page 48: dr inż. Przemysław Berowski

DWT z permutacjami (DWTPer)

Page 49: dr inż. Przemysław Berowski

DWT z permutacjami (DWTPer)

skrócenie obliczeń już dla 4096 elementów, jednak większe błędy rozwiązania

Page 50: dr inż. Przemysław Berowski

Zastosowania falekpróby detekcji fal grawitacyjnych (CWT),badanie aktywności Słońca i plam na Słońcu (CWT),JPEG2000,cyfrowe znaki wodne,automatyczne monitorowanie ruchu statków na podstawie obrazów satelitarnych,charakterystyka obrazów (van Gogh, Picasso, Monet, Klee i in.),analiza danych sejsmicznych (CWT i DWT),rozwiązywanie równań różniczkowych i całkowych,filtracja obrazów radarowych (SAR, SyntheticAperture Radar),

Page 51: dr inż. Przemysław Berowski

Zastosowania falek

rozpoznawanie i identyfikacja twarzy (falka Gabora),rozpoznawanie pisma (OCR) drukowanego i ręcznego,analiza dokumentów,projektowanie czcionek,

eliminacja szumów z obrazów i sygnałów,analiza i klasyfikacja faktury (tekstury),falkowe deskryptory kształtu

32

64

Page 52: dr inż. Przemysław Berowski

Zastosowania falek

Rozpoznawanie głosu,Detektory wykrywające zdalnie moment pęknięcia tafli szklanej drogą analizy odebranego sygnału dźwiękowego,Identyfikacja stanu funkcjonalnego mózgu,Redukcja zakłóceń mięśniowych w sygnale elektrokardiograficznym,Detekcja zwarć w systemach elektroenergetycznych,Identyfikacja nasycenia rdzeni transformatorów energetycznych,Klasyfikacja dźwięków instrumentów muzycznych,Klasyfikacja sygnałów

Page 53: dr inż. Przemysław Berowski

Zastosowania falek w ekonomiiBadanie własności procesów ekonomicznych oraz zależności między procesami w różnych skalach czasu (w długim i krótkim okresie),Badanie lokalnych i globalnych własności procesów w różnych rozdzielczościach (z większąbądź mniejszą dokładnością),Wykrywanie załamań strukturalnych, obserwacji nietypowych, punktów zwrotnych, nieciągłości czy skupiania się wariancji,Badanie sezonowości i dostosowywania sezonowego szeregów,Wygładzanie szeregów i wyznaczanie trendów,Modelowanie dynamiki procesów nieliniowych za pomocą sieci

falkowych,Badanie procesów z długą pamięcią,Odkrywanie fraktalnej natury procesów ekonomicznych.

J. Bruzda, Teoria ekonometrii – wykłady, Katedra Ekonometrii i Statystyki WNEiZ UMK

Page 54: dr inż. Przemysław Berowski

Zastosowania falek

Monitorowanie tętna i oddychania

P Addison, The little wave with the big future,Physics World, March2004

Page 55: dr inż. Przemysław Berowski

Zastosowania falek

wydech (biały)

wdech (czarny)

Page 56: dr inż. Przemysław Berowski

ZastosowaniaWizualnie wyraźnie widoczna korelacja między sygnałem a jego CWT – informacje te mogą zostaćzanalizowane przez komputer metodami statystycznymi.Konwencjonalna transformata Fouriera nie dostarcza użytecznych informacji o cechach sygnału!

Page 57: dr inż. Przemysław Berowski

Astronomia

Odkrycie okresowości oscylacji pola magnetycznego SłońcaOscylacje o okresach:

1,50 ± 0,04 roku,1,79 ± 0,06 roku oraz3,6 ± 0,3 roku .

U góry: analiza falkowa badanych danych, u dołu: analiza Fouriera.

R Knaack, JO Stenflo, SV Berdyugina, Periodic oscillations in the north–southasymmetry of the solar magnetic field, A&A 418, L17–L20 (2004)

Page 58: dr inż. Przemysław Berowski

Dziękuję za uwagę