Repetytorium z przedmiotu MIARA I …adjakubo/MIPrep02.pdf · przedmiotu dla kierunku Matematyka....

51
Repetytorium z przedmiotu MIARA I PRAWDOPODOBIEŃSTWO dla kierunku Informatyka 2001/2002 Adam Jakubowski Uniwersytet Mikolaja Kopernika Wydzial Matematyki i Informatyki Toruń, 2002

Transcript of Repetytorium z przedmiotu MIARA I …adjakubo/MIPrep02.pdf · przedmiotu dla kierunku Matematyka....

Repetytorium z przedmiotuMIARA I PRAWDOPODOBIEŃSTWO

dla kierunku Informatyka2001/2002

Adam Jakubowski

Uniwersytet Mikołaja KopernikaWydział Matematyki i Informatyki

Toruń, 2002

Spis treści

Wstęp 1

1 Całka w sensie Lebesgue’a i całkowanie ciągów funkcyjnych 3Przestrzenie z miarą . . . . . . . . . . . . . . . . . . . . . . 3Funkcje mierzalne . . . . . . . . . . . . . . . . . . . . . . . . 8Definicja całki według Lebesgue’a . . . . . . . . . . . . . 10Całkowanie ciągów funkcyjnych . . . . . . . . . . . . . . . 12

2 Zagadnienie istnienia i jednoznaczności przedłużenia miar 17Zagadnienie przedłużenia miary . . . . . . . . . . . . . . . 17Konstrukcja Caratheodory’ego . . . . . . . . . . . . . . . 18Jednoznaczność rozszerzenia . . . . . . . . . . . . . . . . . 19Struktura Fµ∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . 21Miara Lebesgue’a na IR1 . . . . . . . . . . . . . . . . . . . . 21Produkt miar i miara Lebesgue’a na IRd . . . . . . . . . . 22Twierdzenie Fubiniego i twierdzenie o zmianie zmiennych 24

3 Przestrzenie funkcyjne i rodzaje zbieżności funkcji mierzal-nych 27

Przestrzenie funkcji całkowalnych . . . . . . . . . . . . . 27Rodzaje zbieżności funkcji mierzalnych i relacje mię-

dzy nimi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30Gęstość funkcji gładkich w Lp(IRd) . . . . . . . . . . . . . 31

4 Formalizm teorii prawdopodobieństwa i częstościowa inter-pretacja prawdopodobieństwa 33

Charakterystyki zmiennych losowych . . . . . . . . . . . 33Klasyfikacja rozkładów na prostej . . . . . . . . . . . . . 35Rozkłady wielowymiarowe i niezależność stochastyczna 38Charakterystyki wektorów losowych . . . . . . . . . . . 42Prawa wielkich liczb . . . . . . . . . . . . . . . . . . . . . . 44

Literatura 47

ii Spis treści

Wstęp

Niniejsze Repetytorium nie jest ani skryptem ani tym bardziej podręcz-nikiem i nie może być traktowane jako źródło wiedzy w oderwaniu od se-mestralnego wykładu przedmiotu Miara i prawdopodobieństwo dla kierunkuInformatyka. Należy podkreślić, że program przedmiotu Miara i prawdopo-dobieństwo dla kierunku Informatyka jest istotnie różny od programu tegoprzedmiotu dla kierunku Matematyka.

Repetytorium pomyślane jest jako pomoc w przygotowaniu się do egza-minu ustnego.

Repetytorium zawiera wszystkie definicje i sformułowania faktów i twier-dzeń wymagane na egzaminie po semestrze zimowym roku akademickiego2001/2002. W trakcie wykładu zasygnalizowałem, że znajomość niektórychdowodów nie będzie konieczna podczas egzaminu. Twierdzenia, fakty i le-maty, które należy opanować wraz z dowodami, oznaczone są napisem

Dowód.

Szczególną uwagę należy poświęcić rozwiązaniu zadań i wyjaśnieniu przy-kładów umieszczonych w Repetytorium.

Adam Jakubowski

1

2 Wstęp

1. Całka w sensie Lebesgue’ai całkowanie ciągów funkcyjnych

Przestrzenie z miarą

1.1 Definicja σ-algebrą podzbiorów zbioru Ω nazywamy rodzinę F ⊂ 2Ω

spełniającą następujące warunki.

S0) ∅, Ω ∈ F .

S1) Jeżeli A ∈ F , to również Ac ∈ F .

S2) Jeżeli A1, A2, . . . ∈ F , to⋃∞

j=1 Aj ∈ F .

1.2 Definicja Przestrzenią mierzalną nazywamy parę (Ω, F), gdzie Ω jestniepustym zbiorem, a F jest σ-algebrą podzbiorów zbioru Ω.

1.3 Definicja Niech (Ω, F) będzie przestrzenią mierzalną i niech Ω0 ⊂ Ω.Niech F ∩ Ω0 = A ∩ Ω0 ; A ∈ F. Parę (Ω0, F ∩ Ω0) nazywamy podprze-strzenią mierzalną przestrzeni (Ω, F).

1.4 Przykłady

1. F = 2Ω, F = ∅, Ω.

2. Niech R = A1, A2, . . . , An - skończone rozbicie przestrzeni Ω, tj.Ω = ∪n

j=1Aj i zbiory Aj są parami rozłączne: Ai ∩ Aj = ∅, jeśli i 6= j.Wtedy F = sumy rozłączne elementów rozbicia R jest σ-algebrą.

3. Niech Fi ; i ∈ II będzie rodziną σ-algebr podzbiorów zbioru Ω. Wów-czas F = ∩i∈IIFi jest σ-algebrą.

4. Niech C ⊂ 2Ω będzie klasą zbiorów. Wówczas przekrój wszystkich σ-algebr podzbiorów Ω zawierających klasę C jest σ-algebrą. Nazywamyją σ-algebrą generowaną przez klasę C i oznaczamy symbolem σ(C).

1.5 Definicja Podzbiory borelowskie IR1 to elementy σ-algebry generowa-nej przez podzbiory otwarte (równoważnie: domknięte) prostej. σ-algebręzbiorów borelowskich oznaczamy symbolem B1.

3

4 1. Całka w sensie Lebesgue’a

1.6 Fakt Niech

S1 = (−∞, a] ; a ∈ IR1, I1 = (a, b] ; a < b, a, b ∈ IR1.

Wtedy B1 = σ(S1) = σ(I1).

Dowód.

1.7 Zadanie Pokazać, że Fakt 1.6 pozostaje prawdziwy, jeśli klasę S1 za-stąpić przez C = (−∞, q] ; q ∈ Q.

1.8 Uwaga Nie można w prosty sposób opisać struktury zbiorów borelow-skich, np. jako przeliczalne sumy przeliczalnych przekrojów zbiorów otwar-tych i domkniętych. . . . Wiadomo jednak, że zbiorów borelowskich jest istot-nie mniej niż wszystkich podzbiorów prostej: tylko kontinuum c.

1.9 Definicja Algebrą Boole’a zbiorów nazywamy rodzinę A spełniającąnastępujące warunki.

A0) ∅, Ω ∈ A.

A1) Jeżeli A ∈ A, to również Ac ∈ A.

A2) Jeżeli A, B ∈ A, to A ∪ B ∈ F .

Najmniejszą algebrę zawierającą daną klasę zbiorów C nazywamy algebrągenerowaną przez klasę C i oznaczamy przez a(C).

1.10 Zadanie Niech C będzie rodziną podzbiorów zbioru Ω. Określamy ko-lejne klasy pochodne.

C1 = C ∪ ∅, Ω ∪ Cc ; C ∈ C.

C2 = skończone przekroje zbiorów z klasy C1.

C3 = sumy skończone rozłąćznych elementów z klasy C2.

Pokazać, że C3 = a(C).

1.11 Wniosek Jeżeli C jest skończona, to a(C) jest skończona. Jeżeli C jestprzeliczalna, to a(C) jest przeliczalna.

1.12 Umowa IR+ = x ∈ IR1 ; x ­ 0. IR+ = IR+ ∪ +∞. Niech a ∈ IR+.Rozszerzamy zwykłe działania na zbiór IR+.

0 · +∞ = 0,

a · +∞ = +∞, a 6= 0,

+∞ + a = +∞,

+∞ − a = +∞, a 6= +∞.

Przestrzenie z miarą 5

1.13 Umowa Niech A1, A2, . . . ⊂ Ω. Operacja∑

j Aj określona jest tylkodla zbiorów parami rozłącznych i oznacza zwykła sumę

⋃j Aj .

1.14 Definicja Niech (Ω, F) będzie przestrzenią mierzalną. Miarą na (Ω, F)nazywamy funkcję µ : F → IR+ spełniającą następujące warunki.

M0) µ(∅) = 0.

M1) Jeżeli A1, A2, . . . ∈ F są parami rozłączne, to

µ(∞∑

j=1

Aj) =∞∑

j=1

µ(Aj).

(własność σ-addytywności miary).

1.15 Uwaga Jeżeli istnieje zbiór A0 ∈ F o mierze skończonej: µ(A0) <+∞, to M0 wynika z M1.

1.16 Definicja Miarę µ nazywamy probabilistyczną lub unormowaną, jeśliµ(Ω) = 1.

1.17 Definicja Miara µ jest skończona, jeśli µ(Ω) < +∞.

1.18 Definicja Miara µ jest σ-skończona, jeśli istnieją zbiory A1, A2, . . . ∈F , takie że Ω =

⋃∞j=1 Aj i µ(Aj) < +∞, j = 1, 2, . . ..

1.19 Przykłady

1. Niech Ω0 ⊂ Ω i niech F = 2Ω. Określamy miarę liczącą elementy zbioruΩ0 wzorem

µ(A) =

#A ∩ Ω0 jeśli jest to zbiór skończony,

+∞ w przeciwnym przypadku.

2. Niech Ω0 = ω1, ω2, . . . będzie podzbiorem przeliczalnym zbioru Ω.Niech p1, p2, . . . ∈ IR+. Określamy

µ(A) =∑

j ; ωj∈Apj .

(Z definicji∑

∅ ≡ 0).

1.20 Zadanie Obie funkcje określone powyżej sa miarami. Kiedy są onemiarami probabilistycznymi, skończonymi, σ-skończonymi?

6 1. Całka w sensie Lebesgue’a

1.21 Definicja Trójkę (Ω, F , µ), gdzie (Ω, F) jest przestrzenią mierzalną,a µ jest miarą na (Ω, F), nazywamy przestrzenią z miarą.

1.22 Definicja Skończenie addytywną nazywamy funkcję µ : F → IR+

spełniającą następujące warunki.

FM0) µ(∅) = 0.

FM1) Jeżeli A, B ∈ F są rozłączne, to

µ(A ∪ B) = µ(A) + µ(B).

1.23 Fakt Funkcja addytywna µ na F ma następujące własności:

1. Jeżeli A, B ∈ F , A ⊂ B, to µ(A) ¬ µ(B).

2. Jeżeli A, B ∈ F , A ⊂ B i µ(A) < +∞, to µ(B \ A) = µ(B) − µ(A).

3. Jeżeli A1, A2, . . . , An ∈ F są parami rozłączne, to

µ(n∑

j=1

Aj) =n∑

j=1

µ(Aj).

4. Dla dowolnych A1, A2, . . . , An ∈ F

µ(n⋃

j=1

Aj) ¬n∑

j=1

µ(Aj).

(Własność subaddytywności).

5. Jeżeli µ(Ω) < +∞, to dla dowolnych A1, A2, . . . , An ∈ F

µ(n⋃

j=1

Aj) =n∑

j=1

µ(Aj)

−∑

1¬i<j¬n

µ(Ai ∩ Aj)

+∑

1¬i<j<k¬n

µ(Ai ∩ Aj ∩ Ak)

− . . . + (−1)n+1µ(A1 ∩ A2 ∩ . . . ∩ An).

6. Jeżeli A1, A2, . . . ∈ F są parami rozłączne, to

∞∑j=1

µ(Aj) ¬ µ(∞∑

j=1

Aj).

(Własność super-σ-addytywności).

Przestrzenie z miarą 7

Dowód.

1.24 Fakt Niech µ : F → IR+ będzie funkcją addytywną. Następujące wa-runki są równoważne:

(i) µ jest miarą.

(ii) µ jest sub-σ-addytywna, tzn. dla dowolnych A1, A2, . . . ∈ F

µ(∞⋃

j=1

Aj) ¬∞∑

j=1

µ(Aj).

(iii) µ jest ciągła z dołu, tzn. jeżeli zbiory A1, A2, . . . ∈ F są wstępujące:A1 ⊂ A2 ⊂ . . ., to

µ(∞⋃

j=1

Aj) = limj→∞

µ(Aj).

Dowód.

1.25 Fakt Niech µ : F → IR+ będzie miarą. Wówczas µ jest ciągła z góry,tzn. jeżeli zbiory A1, A2, . . . ∈ F są zstępujące: A1 ⊃ A2 ⊃ . . . i od pewnegomiejsca mają miary skończone (µ(Aj) < +∞ dla j ­ j0), to

µ(∞⋂

j=1

Aj) = limj→∞

µ(Aj).

Dowód.

1.26 Zadanie Podać przykład przestrzeni z miarą i zstępującego ciąguzbiorów Aj , dla którego limj→∞ µ(Aj) > µ(

⋂∞j=1 Aj).

1.27 Fakt Niech µ : F → IR+ będzie skończoną funkcją addytywną (µ(Ω) <+∞). Następujące warunki są równoważne:

(i) µ jest miarą.

(ii) µ jest ciągła z góry.

(iii) µ jest ciągła z góry na zbiorze pustym, tzn. jeżeli zbiory A1, A2, . . . ∈ Fsą zstępujące: A1 ⊂ A2 ⊂ . . . i

⋂∞j=1 Aj = ∅, to

limj→∞

µ(Aj) = 0.

Dowód.

8 1. Całka w sensie Lebesgue’a

Funkcje mierzalne

1.28 Definicja Funkcję f : (Ω, F) → IR1 nazywamy mierzalną, jeśli dlakażdego a ∈ IR1

f ¬ a = ω ; f(ω) ¬ a ∈ F .

1.29 Definicja Mierzalną funkcję f : (IR1, B1) → B1 nazywamy funkcjąborelowską.

1.30 Fakt Funkcja f : (Ω, F) → IR1 jest mierzalna wtedy, i tylko wtedy,gdy dla każdego B ∈ B1

f−1(B) ∈ F ,

tzn. f−1(B1) ⊂ F .

Dowód. A w dowodzie:

1.31 Lematf−1(σ(C)) = σ(f−1(C)).

1.32 Fakt Funkcja na (Ω, F) przyjmująca przeliczalny zbiór wartości jestmierzalna dokładnie wtedy, gdy dla każdego x ∈ IR1 f−1(x) ∈ F .

W szczególności, funkcja charakterystyczna zbioru A ⊂ Ω, określona wzo-rem

IA(ω) =

1 jeśli ω ∈ A;

0 jeśli ω 6∈ A,

jest mierzalna, wtedy i tylko wtedy, gdy A ∈ F .

Dowód.

1.33 Uwaga Często spotykane są również inne oznaczenia funkcji charak-terystycznej zbioru A, np. I(A), 1IA lub χA.

1.34 Zadanie Każda funkcja niemalejąca określona na IR1 jest borelowska.

1.35 Zadanie Każda funkcja ciągła określona na IR1 jest borelowska.

1.36 Zadanie Suma, różnica, iloczyn itp. funkcji mierzalnych jest funkcjąmierzalną.

1.37 Definicja Określamy prostą rozszerzoną

IR1 = IR1 ∪ −∞, +∞, B1 = σ(B1, −∞, +∞).

W rozszerzonej prostej określamy w naturalny sposób działania (np. 0 ·(−∞) = 0 · (+∞) = 0), z wyjątkiem operacji −∞ + (+∞) i +∞ + (−∞)itp., które pozostają symbolami nieoznaczonymi.

Funkcje mierzalne 9

1.38 Wniosek Odwzorowanie f : (Ω, F) → IR1 jest mierzalne dokładniewtedy, gdy f ¬ a ∈ F dla każdego a ∈ IR1. (Takie odwzorowanie nazywa-my funkcją mierzalną numeryczną.)

Dowód.

1.39 Wniosek Niech f1, f2, . . . będzie ciągiem mierzalnych funkcji nume-rycznych określonych na (Ω, F). Funkcje numeryczne

(supn

fn)(ω) := supfn(ω) ; n ∈ IN, (infn

fn)(ω) := inffn(ω) ; n ∈ IN,

są mierzalne.

Dowód.

1.40 Wniosek Funkcje numeryczne

(lim infn

fn)(ω) := lim infn→∞

fn(ω), (lim supn

fn)(ω) := lim supn→∞

fn(ω),

są mierzalne.

Dowód.

1.41 Wniosek Granica punktowa ciągu mierzalnych funkcji numerycznychjest mierzalną funkcją numeryczną.

Dowód.

1.42 Definicja Funkcję mierzalną nazywamy prostą, jeśli przyjmuje skoń-czenie wiele wartości.

1.43 Wniosek Funkcja f : (Ω, F) → (IR1, B1) jest prosta dokładnie wtedy,gdy istnieją liczby x1, x2, . . . , xm takie, że f−1(xj) ∈ F , j = 1, 2, . . . , m,oraz

f(ω) =m∑

j=1

xjIf−1(xj)(ω).

Dowód.

1.44 Wniosek Każda funkcja postaci∑m

j=1 ajIAj , gdzie Aj ∈ F i aj ∈ IR1

jest funkcja prostą.

Dowód.

1.45 Uwaga Rozważmy następujący przykład. Niech A, B ∈ F , A ∩ B 6= ∅i niech a 6= b, −b i a, b 6= 0. Wówczas

f = aIA + bIB = aIA\B + (a + b)IA∩B + bIB\A + 0I(A∪B)c .

Funkcja prosta może więc posiadać wiele reprezentacji postaci∑m

j=1 ajIAj .

10 1. Całka w sensie Lebesgue’a

1.46 Twierdzenie Jeżeli f : (Ω, F) → (IR1, B1) jest funkcja mierzalną, toistnieje ciąg fn funkcji prostych punktowo zbieżny do f .

Jeżeli f jest nieujemna, to istnieje monotoniczny ciąg nieujemnych funk-cji prostych punktowo zbieżny do f (0 ¬ fn f).

Jeżeli f jest ograniczona, to istnieje ciąg funkcji prostych jednostajniezbieżny do f .

Dowód.

Definicja całki według Lebesgue’a

1.47 Definicja Niech f : (Ω, F) → (IR1, B1) będzie funkcją numerycznąi niech µ będzie miarą na (Ω, F). Będziemy określać całkę w sensie Lebes-gue’a funkcji f względem miary µ stopniowo, w kolejnych krokach rozszerza-jąc definicje całki na coraz obszerniejsze klasy funkcji. Innymi słowy, całkębędziemy definiować przez indukcję mierzalną.

Krok 1. Jeżeli f jest funkcją charakterystyczną zbioru, tzn. f = IA, A ∈ F ,to ∫

f dµ := µ(A).

Krok 2. Jeżeli f jest nieujemną funkcją prostą, tzn. f =∑m

j=1 ajIAj , aj ­0, Aj ∈ F , j = 1, 2, . . . , m, to

∫f dµ :=

m∑j=1

ajµ(Aj).

Uwaga: trzeba pokazać, że definicja nie zależy od reprezentacji funkcjiprostej.

Krok 3. Jeżeli f jest nieujemną funkcja numeryczną, to∫f dµ := sup

∫s dµ ; 0 ¬ s ¬ f, s- funkcja prosta .

Krok 4. Niech f+(ω) = maxf(ω), 0 i f−(ω) = max−f(ω), 0. Jeżeli∫f+ dµ < +∞ lub

∫f− dµ < +∞, to∫

f dµ :=∫

f+ dµ −∫

f− dµ (∈ IR1).

1.48 Definicja Mówimy, że funkcja numeryczna f jest całkowalna, jeśli∫f+ dµ < +∞ i

∫f− dµ < +∞ (równoważnie:

∫|f | dµ < +∞). W takim

przypadku∫

f dµ ∈ IR1.

Definicja całki 11

1.49 Twierdzenie Całka z numerycznych funkcji nieujemnych ma nastę-pujące własności.

1. Jeżeli 0 ¬ f ¬ g, to∫

f dµ ¬∫

g dµ.

2. Jeżeli f ­ 0, to∫

f dµ = 0 wtedy i tylko wtedy, gdy µf > 0 = 0.

3. Jeżeli f, g ­ 0 i a, b ∈ IR+, to∫(af + bg) dµ = a

∫f dµ + b

∫g dµ.

4. Jeżeli f ­ 0, to funkcja zbioru

F 3 A 7→∫

Af dµ :=

∫fIA dµ

jest miarą na (Ω, F).

1.50 Twierdzenie Całka z numerycznych funkcji całkowalnych ma nastę-pujące własności.

1. Jeżeli f jest całkowalna, to µ|f | = +∞ = 0.

2. Jeżeli f, g są całkowalne i a, b ∈ IR1, to całkowalna jest funkcja af +bgi ma miejsce równość∫

(af + bg) dµ = a

∫f dµ + b

∫g dµ.

3. Jeżeli f jest całkowalna, to funkcja zbioru

F 3 A 7→∫

Af dµ :=

∫fIA dµ

jest σ-addytywna na F .

1.51 Uwaga O całkowaniu funkcji o wartościach zespolonych. Jeśli zauwa-żyć, że można utożsamić C z IR2, mierzalność funkcji f : (Ω, F) → (C, BC)oznacza jednoczesną mierzalność części rzeczywistej <f i części urojonej =f .Z definicji, f : (Ω, F) → (C, BC) jest całkowalna, jeśli całkowalne są <f i=f , i wtedy ∫

f dµ :=∫

<f dµ + i

∫=f dµ.

Można pokazać, że tak określona całka ma zwykłe własności, tzn. jest liniowai ∣∣∣∣∫ f dµ

∣∣∣∣ ¬∫

|f | dµ.

12 1. Całka w sensie Lebesgue’a

1.52 Uwaga Niech f i g będą funkcjami numerycznymi na (Ω, F). Oznacz-my Nf = ω ; |f(ω)| = +∞, Ng = ω ; |g(ω)| = +∞. Jeżeli f i g są cał-kowalne, to na mocy Twierdzenia 1.50, p. 1, µ(Nf ) = µ(Ng) = 0. Wynikastąd, że na zbiorze Nf ∩ Ng suma f + g może nie być określona (np. mo-że być postaci +∞ + (−∞)). Jest jednak określona µ-prawie wszędzie, tzn.wszędzie poza zbiorem miary µ zero.

1.53 Definicja Mówimy,że pewna własność (np. równość dwóch funkcji lubskończoność wartości funkcji) ma miejsce µ-prawie wszędzie, jeśli istniejezbiór N ∈ F , µ(N) = 0, taki że rozważana własność ma miejsce już dlawszystkich ω /∈ N . (Np. fn → f0 µ-prawie wszędzie, jeśli istnieje zbiórΩ0 ∈ F taki, że µ(Ωc

0) = 0 i dla każdego ω ∈ Ω0, fn(ω) → f0(ω)).

1.54 Fakt Jeżeli f = g µ-prawie wszędzie i f jest całkowalna, to g też jestfunkcją całkowalną i ∫

f dµ =∫

g dµ.

1.55 Wniosek Całka jest funkcją klasy funkcji równych prawie wszędzie.

1.56 Uwaga Określona wyżej całka∫

f dµ oznaczana będzie (w zależnościod potrzeb) również symbolami

∫Ω f(ω) µ(dω),

∫Ω f(ω) dµ(ω) itp. Podobnie

znaczenie symbolu∫

A f(ω) dµ(ω) itp. pokrywa się z∫

A f dµ.

Całkowanie ciągów funkcyjnych

Wszystkie ciągi funkcji numerycznych rozważane w tym paragrafie saokreślone na wspólnej przestrzeni z miarą (Ω, F , µ).

1.57 Twierdzenie (Lebesgue’a o zbieżności monotonicznej) Jeżeli0 ¬ f1 ¬ f2 ¬ . . ., to ∫

limn

fn dµ = limn→∞

∫fn dµ.

Dowód.

1.58 Twierdzenie (O całkowaniu szeregów o wyrazach nieujem-nych) Jeżeli f1, f2, . . . ­ 0, to

∫ ∞∑j=1

fj

dµ =∞∑

j=1

∫fj dµ.

W szczególności, szereg∑∞

j=1 fj jest całkowalny wtedy i tylko wtedy, gdyzbieżny jest szereg

∑∞j=1

∫fj dµ.

Całkowanie ciągów funkcyjnych 13

Dowód.

1.59 Wniosek Jeżeli∑∞

j=1∫

fj dµ < +∞, to szereg funkcyjny∑∞

j=1 fj jestzbieżny µ-prawie wszędzie.

Dowód.

1.60 Twierdzenie (Lemat Fatou) Jeżeli f1, f2, . . . ­ 0, to∫lim inf

nfn dµ ¬ lim inf

n→∞

∫fn dµ.

Dowód.

1.61 Twierdzenie (Lebesgue’a o zbieżności majoryzowanej) Przy-puśćmy, że fn → f0 µ-prawie wszędzie. Jeżeli istnieje funkcja g całkowalnai taka, że dla każdego n ∈ IN |fn| ¬ g µ-prawie wszędzie, to:

1. f0 jest całkowalna;

2.∫

fn dµ →∫

f0 dµ.

Dowód.

1.62 Zadanie Podać przykład ciągu funkcyjnego fn na [0, 1], który jestzbieżny wszędzie do f0 ≡ 0, ale dla którego limn→∞

∫ 10 fn(x) dx 6= 0. (całka

oznacza zwykłą całkę Riemanna)

1.63 Zadanie Niech dla każdego n ∈ IN będzie dany szereg zbieżny∑∞

k=1 an,k.Przypuśćmy, że dla każdego k ∈ IN , limn→∞ an,k = ak. Na podstawie twier-dzeń Lebesgue’a o zbieżności monotonicznej i majoryzowanej, podać dwakryteria dla zbieżności

limn→∞

∞∑k=1

an,k =∞∑

k=1

ak.

1.64 Fakt Niech f będzie mierzalna i całkowalna na (Ω, F , P ). Wówczasfunkcja zbioru

F 3 A 7→∫

Af dµ :=

∫fIA dµ =: µf (A),

jest σ-addytywna.

Dowód.

14 1. Całka w sensie Lebesgue’a

1.65 Uwaga Jeżeli f = f+ − f−, to µf (A) = µf+(A) − µf−(A), gdzie µf+

i µf− są już miarami skończonymi. Przy tym

µf+(A) = µf (A ∩ f ­ 0), µf−(A) = −µf (A ∩ f < 0).

Jest to przykład tzw. rozkładu Hahna.

1.66 Twierdzenie Jeżeli ν jest ograniczoną funkcją σ-addytywną na (Ω, F),to istnieje zbiór B ∈ F oraz miary skończone ν+ i ν−, takie że dla każdegoA ∈ F

ν(A) = ν+(A) − ν−(A), ν+(A) = ν(A ∩ B), ν−(A) = −ν(A ∩ Bc).

1.67 Twierdzenie (O różniczkowaniu pod znakiem całki) Niech(Ω, F , µ) będzie przestrzenią z miarą. Niech f : (a, b) × Ω → IR1 spełnianastępujące warunki.

1. Dla każdego t ∈ (a, b) funkcja f(t, ·) jest mierzalna na (Ω, F) i całko-walna względem miary µ, tak że określona jest funkcja

(a, b) 3 t 7→ F (t) =∫

f(t, ω) dµ(ω).

2. Dla prawie wszystkich ω ∈ Ω funkcja f(·, ω) jest różniczkowalna nacałym odcinku (a, b).

3. Istnieje funkcja całkowalna g : (Ω, F , µ) → (IR1, B1) spełniająca dlaµ-p.w. ω warunek

sups∈(a,b)

∣∣∣∣∂f

∂t(s, ω)

∣∣∣∣ ¬ g(ω).

Wówczas funkcja h jest różniczkowalna na (a, b) i dla t0 ∈ (a, b)

dh

dt(t0) =

∫∂f

∂t(t0, ω) dµ(ω).

Dowód.

1.68 Definicja Miarą Lebesgue’a nazywamy jedyną miarę ` na B1 spełnia-jącą warunek

`((a, b]) = b − a, ∀a < b, a, b ∈ IR1.

1.69 Twierdzenie (Całka Riemanna a całka Lebesgue’a) Niechf : [a, b] → IR1 będzie ograniczona i całkowalna w sensie Riemanna. Wów-czas istnieje funkcja borelowska f , prawie wszędzie na [a, b] (względem miaryLebesgue’a) równa f i całkowalna względem miary Lebesgue’a, przy czym∫

[a,b]f d` =

∫ b

af(x) dx.

Całkowanie ciągów funkcyjnych 15

(Po lewej stronie mamy całkę Lebesgue’a po zbiorze [a, b], a po prawej całkęRiemanna). Co więcej, f jest `-prawie wszędzie ciągła na [a, b], tzn.

`x ∈ [a, b] ; f nie jest ciągła w x = 0.

Dowód.

1.70 Zadanie Podać przykład funkcji całkowalnej w sensie Riemanna nazbiorze niezwartym, która nie jest całkowalna w sensie Lebesgue’a na tymzbiorze.

1.71 Zadanie Podać przykład, że twierdzenie Lebesgue’a o zbieżności ma-joryzowanej nie jest prawdziwe dla całki Riemanna.

1.72 Uwaga Jeżeli f jest ograniczona i całkowalna w sensie Riemanna na[a, b], to jest równa prawie wszędzie funkcji borelowskiej, i wydaje się natu-ralne, żeby przyjąć ∫

[a,b]f d` =

∫ b

af(x) dx.

Jednak f nie musi być mierzalna względem σ-algebry zbiorów borelowskich.Powstaje pytanie, czy potrafimy umiejscowić całkowanie takich funkcji wramach rozwiniętego formalizmu. Okazuje się, że tak. Pomocna okazuje sięobserwacja, że takie funkcje spełniają warunek z poniższego twierdzenia, sąwięc mierzalne względem pewnego naturalnego rozszerzenia σ-algebry B1.

1.73 Twierdzenie Niech (Ω, F , µ) będzie przestrzenią z miarą.Niech F będzie rodziną zbiorów postaci B ∪ N , gdzie B ∈ F , a N jest

zbiorem µ-zerowym, tzn. istnieje nadzbiór C zbioru N , który jest mierzalnyi ma miarę zero: N ⊂ C, C ∈ F , µ(C) = 0. Wówczas F jest σ-algebrą.

Co więcej, funkcja f jest mierzalna względem F dokładnie wtedy, gdyf = g + h, gdzie g jest funkcją F-mierzalną, a funkcja h ma następującąwłasność: istnieje zbiór C ∈ F taki, że µ(C) = 0 oraz

C ⊃ ω ; h(ω) 6= 0.

(tzn. zbiór h 6= 0 jest µ-zerowy).

1.74 Definicja Jeżeli (Ω, F , µ) jest przestrzenią z miarą, to przestrzeń(Ω, F , µ), gdzie F jest określona wyżej, a rozszerzenie miary µ jest zada-ne wzorem

µ(B ∪ N) := µ(B),

nazywamy uzupełnieniem przestrzeni (Ω, F , µ).Jeżeli F = F , to mówimy, że przestrzeń (Ω, F , µ) jest zupełna.

16 1. Całka w sensie Lebesgue’a

1.75 Definicja Rozważmy przestrzeń (IR1, B1, `) (która nie jest przestrze-nią zupełną). Elementy σ-algebry uzupełnionej B1 nazywamy zbiorami mie-rzalnymi w sensie Lebesgue’a i oznaczamy L1. Miarę rozszerzoną na L1 nadalbędziemy oznaczać ` = `1.

1.76 Uwaga Zbiorów lebegowskich jest 2c (bo istnieje zbiór borelowski mo-cy c, który ma miarę Lebesgue’a zero), ale przy założeniu pewnika wyborumożna pokazać istnienie zbioru niemierzalnego w sensie Lebesgue’a (zob.Rozdział 2, paragraf 2.33).

1.77 Wniosek Miara Lebesgue’a na IR1 jest jedyną miarą zupełną określo-ną na σ-algebrze podzbiorów IR1 i spełniającą związek:

`((a, b]) = b − a, ∀a < b, a, b ∈ IR1.

1.78 Wniosek Funkcja mierzalna i całkowalna w sensie Riemanna jestmierzalna w sensie Lebesgue’a.

2. Zagadnienie istnienia ijednoznaczności przedłużenia miar

Zagadnienie przedłużenia miary

2.1 Wprowadzenie Nasz schemat konstrukcji miar będzie następujący:

1. Na pewnej klasie (półpierścieniu) zbiorów R ⊂ 2Ω, mamy zadaną, naogół w naturalny sposób, funkcję µ0 : C → IR+, która jest σ-addytywnana R.

2. Za pomocą funkcji µ0 konstruujemy miarę zewnętrzną µ∗, określonąna wszystkich podzbiorach zbioru Ω.

3. Stosujemy konstrukcję Caratheodory’ego, która wyróżnia σ-algebręFµ∗ zbiorów µ∗-mierzalnych. Miara zewnętrzna µ∗ na Fµ∗ jest już σ-addytywna, tzn. jest już miarą.

4. Korzystając z σ-addytywności µ0 na R sprawdzamy, że

(a) R ⊂ Fµ∗ , a więc i σ(R) ⊂ Fµ∗ .

(b) µ∗ = µ0 na R, a więc µ = µ∗|σ(R) jest przedłużeniem funkcji µ0

do miary µ na σ(R).

5. Stosując lemat o λ- i π-układach uzyskujemy jednoznaczność przedłu-żenia µ0 do µ.

6. Korzystając z tw. o pokryciu mierzalnym wnioskujemy, że przestrzeń(Ω, Fµ∗ , µ∗) jest uzupełnieniem przestrzeni (Ω, σ(R), µ).

2.2 Definicja Półpierścieniem zbiorów nazywamy rodzinę R ⊂ 2Ω spełnia-jącą następujące warunki.

SR0) ∅ ∈ R.

SR1) Jeżeli A, B ∈ R, to A ∩ B ∈ R.

SR2) Jeżeli A, B ∈ R, A ⊂ B, to istnieją parami rozłączne elementyC1, C2, . . . , Cm ∈ R takie, że

B \ A =m∑

j=1

Cj .

17

18 2. Istnienie miar

2.3 Uwaga Może nie istnieć najmniejszy półpierścień zawierający danąklasę zbiorów C.

2.4 Przykład Rodzina

I1 = (a, b] ; a < b, a, b ∈ IR1

jest półpierścieniem generatorów B1.

2.5 Definicja Niech µ0 : R → IR+ będzie określona na półpierścieniu R.Mówimy, że µ0 jest addytywna, jeśli µ(∅) = 0 i dla każdego układu paramirozłącznych elementów A1, A2, . . . , Am ∈ R, takiego że

∑mj=1 Aj ∈ R, ma

miejsce równość

µ0(m∑

j=1

Aj) =m∑

j=1

µ0(Aj).

Mówimy, że funkcja µ0 jest σ-addytywna na R, jeśli µ(∅) = 0 i dlakażdego układu parami rozłącznych elementów A1, A2, . . . ∈ R, takiego że∑∞

j=1 Aj ∈ R, ma miejsce równość

µ0(∞∑

j=1

Aj) =∞∑

j=1

µ0(Aj).

2.6 Twierdzenie Niech µ0 : R → IR+ będzie σ-addytywna na półpierście-niu R. Wówczas istnieje miara µ określona na σ(R), taka że µ(A) = µ0(A),A ∈ R (tzn. funkcję µ0 można rozszerzyć z R do miary na σ(R)).

Konstrukcja Caratheodory’ego

2.7 Definicja Miarą zewnętrzną na Ω nazywamy funkcję µ∗ : 2Ω → IR+

spełniającą następujące warunki.

MZ0) µ∗(∅) = 0.

MZ1) Jeżeli A ⊂ B, to µ∗(A) ¬ µ∗(B).

MZ2) Jeżeli A1, A2, . . . ⊂ Ω, to

µ∗(∞⋃

j=1

Aj) ¬∞∑

j=1

µ∗(Aj).

2.8 Definicja Niech µ∗ będzie miara zewnętrzną na Ω. Zbiór A ⊂ Ω nazy-wamy µ∗-mierzalnym, jeśli dla każdego zbioru E ⊂ Ω

µ∗(E) = µ∗(E ∩ A) + µ∗(E ∩ Ac).

Rodzinę zbiorów µ∗-mierzalnych oznaczać będziemy symbolem Fµ∗ .

Jednoznaczność rozszerzenia 19

2.9 Twierdzenie (Caratheodory) Jeżeli µ∗ jest miarą zewnętrzną na Ω,to Fµ∗ jest σ-algebrą, a µ∗ obcięta do Fµ∗ jest miarą.

2.10 Fakt Niech C ⊂ 2Ω, ∅ ∈ C. Niech η : C → IR+ będzie takie, że η(∅) = 0.Określamy

µ∗(A) = inf∞∑

j=1

η(Cj) ; A ⊂∞⋃

j=1

Cj , Cj ∈ C.

(Kres dolny wzięty jest po wszystkich przeliczalnych pokryciach zbioru Aelementami klasy C. Jeżeli takie pokrycie zbioru A nie istnieje, to z definicjiµ∗(A) = +∞).

Funkcja µ∗ określona powyżej jest miarą zewnętrzną na Ω.

Dowód.

2.11 Uwaga Niech R będzie półpierścieniem. Niech µ0 : R → IR+ będzieσ-addytywna na R. Funkcja zbioru

µ∗(E) = inf∞∑

j=1

µ0(Aj) ; E ⊂∞⋃

j=1

Aj , Aj ∈ R

jest miarą zewnętrzną. W istocie, σ-addytywność funkcji µ0 pozwala ogra-niczyć się w powyższej definicji do przeliczalnych pokryć sumami paramirozłącznych elementów R:

µ∗(E) = inf∞∑

j=1

µ0(Aj) ; E ⊂∞∑

j=1

Aj , Aj ∈ R, Ai ∩ Aj = ∅, i, j ∈ IN.

Jednoznaczność rozszerzenia

2.12 Definicja π-układem nazywamy klasę podzbiorów zbioru Ω zamknię-tą ze względu na przekroje skończone.

2.13 Przykłady

1. Półpierścień jest π-układem. W szczególności rodzina I1 = (a, b] ; a <b, a, b ∈ IR1 jest π-układem generatorów σ-algebry B1.

2. Rodzina S1 = (−∞, a] ; a ∈ IR1 jest π-układem generatorów σ-algebry B1.

2.14 Definicja λ-układem nazywamy klasę podzbiorów Λ zbioru Ω speł-niającą następujące warunki.

LU0) ∅ ∈ Λ.

20 2. Istnienie miar

LU1) Jeżeli A, B ∈ Λ i A ⊂ B, to B \ A ∈ Λ.

LU2) Jeżeli A1, A2, . . . ∈ Λ są parami rozłączne, to∑∞

j=1 Aj ∈ Λ.

Najmniejszy λ-układ zawierający daną klasę zbiorów C oznaczać będziemyλ(C).

2.15 Przykłady

1. Niech µ i ν będą dwiema skończonymi miarami na (Ω, F). Wówczasrodzina

Λµ,ν = A ∈ F ; µ(A) = ν(A)

jest λ-układem.

2. Jeśli µ i ν są miarami probabilistycznymi, to Ω ∈ Λµ,ν .

2.16 Twierdzenie Jeżeli C jest π-układem, to λ(C) też jest π-układem.Jeżeli ponadto Ω ∈ C, to λ(C) = σ(C).

Dowód.

2.17 Uwaga Twierdzenie 2.16 zwykle nazywane jest lematem Dynkina oλ- i π-układach. W istocie udowodnione zostało ono przez Wacława Sierpiń-skiego już w latach dwudziestych.

2.18 Wniosek Jeżeli C jest π-układem generatorów σ-algebry F , a µ i νsa miarami probabilistycznymi równymi na C, to µ = ν na F .

Dowód.

2.19 Wniosek Jeżeli C jest π-układem generatorów σ-algebry F , a µ i νsa miarami skończonymi równymi na C, przy czym µ(Ω) = ν(Ω), to µ = νna F .

Dowód.

2.20 Zadanie Podać przykład dwóch miar nieskończonych, dla których niejest prawdziwy Wniosek 2.19.

2.21 Wniosek Niech σ-algebra F będzie generowana przez π-układ C. Niechµ i ν będą miarami na (Ω, F). Przypuśćmy, że miara µ jest σ-skończonawzględem C, tzn. istnieją zbiory C1, C2, . . . ∈ C, takie że Ω =

⋃∞j=1 Cj i

µ(Cj) < +∞, j = 1, 2, . . ..Jeżeli µ = ν na C, to µ = ν na F .

Dowód.

Struktura Fµ∗ 21

Struktura Fµ∗

2.22 Wprowadzenie Niech R będzie półpierścieniem. Niech µ0 : R → IR+

będzie σ-addytywna na R. Funkcja zbioru

µ∗(E) = inf∞∑

j=1

µ0(Aj) ; E ⊂∞∑

j=1

Aj , Aj ∈ R, Ai ∩ Aj = ∅, i, j ∈ IN.

jest miarą zewnętrzną. Wiemy już, że µ∗ jest przedłużeniem funkcji µ0 zpółpierścienia R do miary na σ-algebrze Fµ∗ ⊃ σ(R). Pytamy o strukturęelementów Fµ∗ .

2.23 Twierdzenie (O pokryciu mierzalnym) Niech µ∗(E) < +∞. Wów-czas istnieje zbiór F ∈ σ(R) (nazywany pokryciem mierzalnym E), taki żeE ⊂ F i µ∗(F ) = µ∗(E).

Dowód.

2.24 Wniosek Jeżeli E ∈ Fµ∗, µ∗(E) < +∞, to istnieją zbiory F, C ∈σ(R) oraz N ⊂ C, takie że E = F ∪ N i µ∗(C) = 0.

Dowód.

2.25 Wniosek Jeżeli µ0 : R → IR+ jest σ-skończona, to (Ω, Fµ∗ , µ∗) jestuzupełnieniem przestrzeni (Ω, σ(R), µ∗).

Miara Lebesgue’a na IR1

2.26 Wprowadzenie Możemy teraz jeszcze raz powrócić do zagadnień roz-działu 1, dyskutowanych w paragrafach 1.75-1.77.

2.27 Fakt Niech `0 : I1 → IR+ będzie długością odcinka:

`0((a, b]) = b − a.

Funkcja `0 jest σ-addytywna na I1.

Dowód.

2.28 Twierdzenie Istnieje dokładnie jedna miara ` określona na σ-algebrzeL1 podzbiorów IR1 o następujących własnościach:

(i) `((a, b]) = b − a, a < b, a, b ∈ IR1.

(ii) (IR1, L1, `) jest uzupełnieniem przestrzeni (IR1, B1, `).

22 2. Istnienie miar

Dowód. Proszę podać twierdzenia, z których korzysta się w konstrukcjimiary Lebesgue’a.

2.29 Definicja Miarę `, o której mowa w powyższym twierdzeniu, nazy-wamy miarą Lebesgue’a, a elementy σ-algebry L1 zbiorami mierzalnymi wsensie Lebesgue’a.

2.30 Zadanie Wskazać nieprzeliczalny zbiór o mierze Lebesgue’a zero. Wy-wnioskować stąd, że moc σ-algebry L1 zbiorów mierzalnych w sensie Lebes-gue’a wynosi 2c.

2.31 Umowa Dla liczby rzeczywistej r i podzbioru E ⊂ IR1 określamy:

E + r = x + r ; x ∈ e, r · E = r · x ; x ∈ E.

2.32 Fakt Niech E ∈ L1. Dla dowolnego r ∈ IR1, zbiory E + r i r · E sąmierzalne w sensie Lebesgue’a i maja miejsce równości

`(E + r) = `(E), `(r · E) = |r| · `(E).

Dowód.

2.33 Fakt Przy założeniu pewnika wyboru istnieje podzbiór IR1, który niejest mierzalny w sensie Lebesgue’a.

Dowód.

Produkt miar i miara Lebesgue’a na IRd

2.34 Definicja Niech (Ω1, F1) i (Ω2, F2) będą przestrzeniami mierzalnymi.

1. Prostokątem mierzalnym nazywamy zbiór postaci A1 ×A2, gdzie A1 ∈F1, A2 ∈ F2. Rodzinę prostokątów mierzalnych oznaczamy F1 × F2.

2. Produktem σ-algebr F1 i F2 nazywamy σ-algebrę podzbiorów Ω1 ×Ω2 generowaną przez prostokąty mierzalne. Oznaczamy tę σ-algebręsymbolem F1 ⊗ F2. Mamy więc z definicji:

F1 ⊗ F2 = σ(F1 × F2).

3. Produktem przestrzeni mierzalnych (Ω1, F1) i (Ω2, F2) nazywamy prze-strzeń (Ω1 × Ω2, F1 ⊗ F2).

2.35 Fakt Prostokąty mierzalne tworzą półpierścień (generatorów σ-algebryF1 ⊗ F2).

Produkt miar 23

2.36 Twierdzenie Niech (Ω1, F1, µ1) i (Ω2, F2, µ2) będą przestrzeniami zmiarą.

1. Istnieje miara ν na (Ω1 × Ω2, F1 ⊗ F2) spełniająca warunek

ν(A1 × A2) = µ1(A1) · µ2(A2), A1 ∈ F1, A2 ∈ F2.

2. Jeżeli µ1 i µ2 są σ-skończone, to miara ν jest jedyna.

Dowód.

2.37 Definicja Niech µ1 i µ2 będą σ-skończonymi miarami na przestrze-niach mierzalnych odpowiednio (Ω1, F1) i (Ω2, F2). Produktem miar µ1 i µ2

nazywamy jedyną miarę µ1 × µ2 na (Ω1 × Ω2, F1 ⊗ F2) zadaną wzorem

µ1 × µ2(A1 × A2) = µ1(A1) · µ2(A2), A1 ∈ F1, A2 ∈ F2.

Przestrzeń (Ω1 × Ω2, F1 ⊗ F2, µ1 × µ2) nazywamy produktem przestrzeni zmiarą (Ω1, F1, µ1) i (Ω2, F2, µ2).

2.38 Uwaga Produkt zupełnych przestrzeni z miarą nie musi być prze-strzenią zupełną.

2.39 Definicja Miarą Lebesgue’a na IRd nazywamy uzupełnienie miaryproduktowej `d = `1 × `1 × · · · × `1. Miara Lebesgue’a na IRd zadana jestna σ-algebrze Ld podzbiorów IRd mierzalnych w sensie Lebesgue’a, któraokreślona jest jako uzupełnienie σ-algebry produktowej L1 ⊗ L1 ⊗ · · · ⊗ L1

względem miary produktowej.

2.40 Uwagi

1. Miarę Lebesgue’a na IRd oznaczać będziemy tym samym symbolem `d,co produkt `1 × `1 × · · · × `1.

2. Można pokazać, że uzupełniając przestrzeń produktową (IRd, ⊗dB1, `d)również otrzymujemy miarę Lebesgue’a i zbiory mierzalne w sensie Le-besgue’a na IRd (tutaj punktem wyjściowym jest produkt — niezupeł-nych — przestrzeni z miarą (IR1, B1, `)).

3. σ-algebrę produktową ⊗dB1 = B1 ⊗ . . . ⊗ B1 oznaczać będziemy Bd.Można pokazać, że, podobnie jak w przypadku d = 1, Bd jest gene-rowana przez podzbiory otwarte IRd. Dlatego σ-algebrę Bd nazywamyσ-algebrą podzbiorów borelowskich IRd.

24 2. Istnienie miar

2.41 Zadanie Pokazać, że rodzina

Sd = (−∞, a1] × (−∞, a2] × · · · × (−∞, ad] ; aj ∈ IR1, j = 1, 2, . . . , d

jest π układem generatorów Bd.

2.42 Zadanie Pokazać, że rodzina

Id = (a1, b1] × (a2, b2] × · · · × (ad, bd] ; ai < bi, ai, bi ∈ IR1, i = 1, 2, . . . , d

jest półpierścieniem generatorów Bd.

2.43 Wniosek Miarę Lebesgue’a na IRd można skonstruować w sposób po-dobny jak `, bezpośrednio z twierdzeń tego rozdziału, rozpoczynając konstruk-cję od d-wymiarowej objętości

V d((a1, b1] × (a2, b2] × · · · × (ad, bd]) = Πdi=1(bi − ai).

Twierdzenie Fubiniego i twierdzenie o zmianie zmien-nych

2.44 Twierdzenie (Tonellego) Niech µ1 i µ2 będą σ-skończonymi miara-mi na przestrzeniach mierzalnych odpowiednio (Ω1, F1) i (Ω2, F2). Niech fbędzie nieujemną funkcją numeryczną na (Ω1 × Ω2, F1 ⊗ F2). Wówczas∫

Ω1×Ω2

f d(µ1 × µ2) =∫

Ω1

(∫Ω2

fω1(ω2) dµ2(ω2))

dµ1(ω1)

=∫

Ω2

(∫Ω1

fω2(ω1) dµ1(ω1))

dµ2(ω2),

gdzie

fω1(·) = f(ω1, ·) : (Ω2, F2) → (IR+, B+),

fω2(·) = f(·, ω2) : (Ω1, F1) → (IR+, B+).

2.45 Twierdzenie (Fubiniego) Niech µ1 i µ2 będą σ-skończonymi mia-rami na przestrzeniach mierzalnych odpowiednio (Ω1, F1) i (Ω2, F2). Niechf będzie funkcją numeryczną na (Ω1 × Ω2, F1 ⊗ F2). Jeżeli∫

|f | d(µ1 × µ2) < +∞,

to istnieją całki iterowane∫Ω1

(∫Ω2

fω1(ω2) dµ2(ω2))

dµ1(ω1),∫

Ω2

(∫Ω1

fω2(ω1) dµ1(ω1))

dµ2(ω2),

są one równe, i ich wspólna wartość wynosi∫

Ω1×Ω2f d(µ1 × µ2).

Twierdzenie Fubiniego 25

2.46 Uwaga W twierdzeniu Fubiniego założenie o całkowalności funkcji fmożna sprawdzić stosując twierdzenie Tonellego.

2.47 Umowa Podobnie, jak w przypadku d = 1, dwuwymiarowa całka wsensie Riemanna pokrywa się z całką w sensie Lebesgue’a, jeśli tylko funkcjai zbiór po którym całkujemy są dostatecznie regularne (np. gdy funkcja jestciągła i ograniczona). Dlatego będziemy używać standardowych oznaczeń∫

Vf d`d =

∫V

f(x) dx,

gdzie x = (x1, x2, . . . , xd) i dx = dx1 dx2 . . . dxd.

2.48 Twierdzenie (O zmianie zmiennych w całce Lebesgue’a) NiechV będzie zbiorem otwartym w IRd i niech f : V → IR1 będzie funkcją mie-rzalną.

Jeżeli T : U → TU = V jest dyfeomorfizmem zbiorów otwartych (tzn.odwzorowanie T jest klasy C1, jest różnowartościowe i det DT (x) 6= 0 dlax ∈ U), to całki

∫V f(y) dy i

∫U f(T (x))| det DT (x)| dx istnieją jednocze-

śnie, i jeśli istnieją, to są równe:∫V

f(y) dy =∫

Uf(T (x))| det DT (x)| dx.

2.49 Uwaga Z tzw. twierdzenia Sarda wynika, że twierdzenie o zmianiezmiennych pozostaje prawdziwe przy następujących słabszych założeniach.

1. T jest klasy C1.

2. T jest różnowartościowe na zbiorze x ; det DT (x) 6= 0.

2.50 Zadanie Jak zmieniają się całki wielokrotne przy liniowej odwracalnejzmianie zmiennych?

26 2. Istnienie miar

3. Przestrzenie funkcyjne i rodzajezbieżności funkcji mierzalnych

Przestrzenie funkcji całkowalnych

3.1 Definicja Niech (Ω, F , µ) będzie przestrzenią z miarą. Określamy prze-strzeń funkcji całkowalnych.

L1(Ω, F , µ) = L1(µ) = f : (Ω, F) → (IR1, B1) ;∫

|f | dµ < +∞.

Niech f ∼ g oznacza, że f = g µ-prawie wszędzie. Relacja ∼ jest relacją rów-noważności w L1(µ). Określamy przestrzeń L1(µ) jako przestrzeń ilorazowąL1(µ)/ ∼.

3.2 Lemat Niech ‖f‖1 =∫

|f | dµ. Nieujemna funkcja ‖ · ‖1 jest półnormąna przestrzeni L1(µ), tzn. spełnia następujące dwa warunki.

1. ‖f + g‖1 ¬ ‖f‖1 + ‖g‖1, f, g ∈ L1(µ).

2. ‖a · f‖1 = |a|‖f‖1, f ∈ L1(µ), a ∈ IR1.

Funkcja ‖ · ‖1 nie jest na ogół normą, gdyż ‖f‖1 = 0 pociąga jedynie f = 0µ-prawie wszędzie. Stąd jednak wynika, że określając funkcję ‖·‖1 : L1(µ) →IR+ wzorem ‖[f ]∼‖1 = ‖f‖1, definiujemy normę na L1(µ).

Dowód.

3.3 Twierdzenie Przestrzeń (L1(µ), ‖ · ‖1) jest zupełna (tzn. każdy ciągCauchy’ego w normie ‖ · ‖1 jest zbieżny). Przestrzeń ta jest więc tzw. prze-strzenią Banacha.

Dowód.

3.4 Definicja Niech (Ω, F , µ) będzie przestrzenią z miarą. Określamy prze-strzeń funkcji całkowalnych z kwadratem.

L2(Ω, F , µ) = L2(µ) = f : (Ω, F) → (IR1, B1) ;∫

|f |2 dµ < +∞.

Podobnie jak w przypadku przestrzeni L1, określamy L2(µ) jako przestrzeńilorazową L2(µ)/ ∼, gdzie f ∼ g dokładnie wtedy, gdy f = g µ-prawiewszędzie.

27

28 3. Przestrzenie funkcyjne

3.5 Lemat Niech 〈f, g〉 =∫

f · g dµ i ‖f‖2 =√∫

|f |2 dµ. Funkcja 〈f, g〉jest formą dwuliniową i symetryczną, a ‖ · ‖2 jest półnormą na przestrzeniL2(µ). Tak więc określając 〈[f ]∼, [g]∼〉 = 〈f, g〉 otrzymujemy iloczyn skalarnyna przestrzeni L2(µ).

Dowód.

3.6 Uwaga Dla funkcji całkowalnych z kwadratem o wartościach zespolo-nych iloczyn skalarny w L2(µ) zadajemy wzorem

〈f, g〉 =∫

fg dµ.

3.7 Twierdzenie Przestrzeń (L2(µ), ‖·‖2) jest zupełna (jest więc przestrze-nią Hilberta).

Dowód.

3.8 Przykład Jeżeli µ jest miarą Lebesgue’a na IRd, to odpowiednie prze-strzenie funkcyjne oznaczamy symbolami L1(IRd) i L2(IRd). Podobnie, jeślirozważamy miarę Lebesgue’a na podzbiorze A ⊂ IRd, piszemy L2(A), np.L2(0, 1), L2(0, 2π) itp.

3.9 Zadanie Pokazać (wskazując odpowiednie przykłady), że L1(IR1) 6⊂L2(IR1) i L2(IR1) 6⊂ L1(IR1).

3.10 Przykład Niech Λ będzie miarą liczącą na IN . Przestrzeń L1(Λ) =f : IN → IR1 ;

∑∞j=1 |f(j)| < +∞ oznaczamy przez l1. Podobnie, prze-

strzeń L2(Λ) = f : IN → IR1 ;∑∞

j=1 |f(j)|2 < +∞ oznaczamy przez l2.

3.11 Zadanie Pokazać, że l1 ⊂ l2, i że l2 6⊂ l1.

3.12 Zadanie Pokazać, że jeśli µ jest miarą skończoną, to L2(µ) ⊂ L1(µ).

3.13 Definicja Przestrzeń Lp(µ), 0 < p < +∞, dla przestrzeni z miarą(Ω, F , µ) określamy jako

Lp(µ) = f : (Ω, F) → (IR1, B1) ;∫

|f |p dµ < +∞.

Podobnie jak w przypadku przestrzeni L1 i L2, określamy Lp(µ) jako prze-strzeń ilorazową Lp(µ)/ ∼, gdzie f ∼ g wtedy, gdy f = g µ-prawie wszędzie.

3.14 Uwagi

1. Dla 0 < p < 1, przestrzenie Lp(µ) są zupełnymi przestrzeniami me-trycznymi z metryką dp(f, g) =

∫|f − g|p dµ.

Przestrzenie funkcji całkowalnych 29

2. Dla 1 ¬ p < +∞, przestrzenie Lp(µ) są zupełnymi przestrzeniamiunormowanymi (przestrzeniami Banacha) z normą określoną wzorem

‖f‖p =(∫

|f |p dµ

)1/p

.

Fakt, że tak określona funkcja spełnia nierówność trójkąta nie jestoczywisty.

3.15 Fakt (Nierówność Minkowskiego) Niech p ∈ [1, ∞). Jeżeli‖f‖p, ‖g‖p < +∞, to

‖f + g‖p ¬ ‖f‖p + ‖g‖p.

Dowód.

Nierówność Minkowskiego wynika z kolei z

3.16 Fakt (Nierówność Holdera) Niech p, q > 1 będą takie, że

1p

+1q

= 1.

Dla dowolnych funkcji numerycznych na (Ω, F , µ)∫|f | · |g| dµ ¬

(∫|f |p dµ

)1/p (∫|g|q dµ

)1/q

.

Dowód.

3.17 Wniosek Jeżeli f ∈ Lp(µ) i g ∈ Lq(µ), gdzie 1/p + 1/q = 1, tof · g ∈ L1(µ).

3.18 Uwaga Można pokazać, że nierówność Holdera wynika z nierównościJensena.

3.19 Fakt (Nierówność Jensena) Niech φ : IR1 → IR1 będzie funkcjąwypukłą. Niech µ będzie miarą probabilistyczną na (IR1, B1) taką, że∫

|x| dµ(x) < +∞.

Wówczasφ(∫

x dµ(x)) ¬∫

φ(x) dµ(x).

Dowód.

3.20 Wniosek Jeżeli µ jest miarą probabilistyczną na IR1 i 1 ¬ p ¬ r <+∞, to ∫

|x|p dµ(x) ¬∫

|x|r dµ(x).

Dowód.

30 3. Przestrzenie funkcyjne

Rodzaje zbieżności funkcji mierzalnych i relacjemiędzy nimi

Ciągi funkcji mierzalnych rozważane w niniejszym paragrafie są określonena wspólnej przestrzeni z miarą (Ω, F , µ).

3.21 Definicja Mówimy, że fn → f0 µ-prawie wszędzie, jeśli istnieje zbiórΩ0 ∈ F taki, że µ(Ωc

0) = 0 i dla każdego ω ∈ Ω0, fn(ω) → f0(ω) (zob.Definicję 1.53).

3.22 Definicja Ciąg fn jest zbieżny do f0 według miary, jeśli dla każdegoε > 0

µω ; |fn(ω) − f0(ω)| > ε → 0, gdy n → +∞.

Zapisujemy: fn −→µ f0.

3.23 Definicja Zbieżność w Lp, 0 < p < +∞, to zbieżność w przestrzeniLp(µ). Tak więc fn −→Lp f0 wtedy i tylko wtedy, gdy∫

|fn − f0|p dµ → 0, gdy n → +∞.

3.24 Fakt Jeżeli µ jest miarą skończoną, to zbieżność w Lr, r > 0 pociągazbieżność w Lp, 0 < p ¬ r.

3.25 Fakt Zbieżność w Lp pociąga zbieżność według miary.

Dowód.

3.26 Zadanie Podać przykład ciągu zbieżnego według miary, ale nie w L1.

3.27 Fakt Jeżeli miara µ jest skończona, to zbieżność µ-prawie wszędziepociąga zbieżność według miary µ.

Dowód.

3.28 Zadanie Podać przykład ciągu zbieżnego µ-prawie wszędzie, którynie jest zbieżny według miary µ.

3.29 Zadanie Podać przykład ciągu zbieżnego według miary, ale nie prawiewszędzie.

3.30 Twierdzenie (Riesza-Fischera) Ciąg zbieżny według miary zawierapodciąg zbieżny prawie wszędzie.

3.31 Wniosek Niech µ będzie miarą skończoną. Wówczas ciąg fn jestzbieżny według miary do f0 wtedy i tylko wtedy, gdy w każdym podciągu fnk

ciągu fn można znaleźć podciąg fnkl

zbieżny do f0 prawie wszędzie.

Dowód.

Gęstość funkcji gładkich w Lp(IRd) 31

Gęstość funkcji gładkich w Lp(IRd)

3.32 Twierdzenie W przestrzeniach Lp(IRd) funkcje gładkie (klasy C∞)są gęste, tzn. dla każdej funkcji f ∈ Lp(IRd) i każdego ε > 0 istnieje funkcjafε klasy C∞, całkowalna z p-tą potęgą, taka że∫

IRd|f(x) − fε(x)|p dx < ε.

3.33 Wniosek (Riemanna-Lebesgue’a) Niech f ∈ L1(a, b). Wówczas

lim|n|→∞

∫ b

af(x)e−2iπnx dx = 0.

Dowód.

32 3. Przestrzenie funkcyjne

4. Formalizm teoriiprawdopodobieństwa i częstościowainterpretacja prawdopodobieństwa

Charakterystyki zmiennych losowych

4.1 Definicja Przestrzenią probabilistyczną nazywamy przestrzeń (Ω, F , P )z miarą probabilistyczną (P (Ω) = 1).

Elementy przestrzeni Ω nazywamy zdarzeniami elementarnymi, elementyσ-algebry F nazywamy zdarzeniami, a miarę P nazywamy prawdopodobień-stwem.

4.2 Definicja Zmienną losową na przestrzeni probabilistycznej (Ω, F , P )nazywamy funkcję mierzalną

X : (Ω, F) → (IR1, B1).

4.3 Definicja Wartością oczekiwaną zmiennej losowej X, określonej na prze-strzeni (Ω, F , P ), nazywamy całkę X względem P (jeśli istnieje). Zachowująctradycję oznaczamy

EX :=∫

ΩX dP.

4.4 Definicja Momentem absolutnym rzędu p > 0 zmiennej losowej nazy-wamy liczbę

mp = mp(X) = E|X|p.

4.5 Definicja Wariancją całkowalnej z kwadratem zmiennej losowej X na-zywamy liczbę

D2(X) = Var (X) := E(X − EX)2 = EX2 − (EX)2.

4.6 Definicja Odchyleniem standardowym całkowalnej z kwadratem zmien-nej losowej X nazywamy liczbę

D(X) :=√

Var (X) =√

E(X − EX)2.

33

34 4. Formalizm teorii prawdopodobieństwa

4.7 Definicja Niech X będzie zmienną losową na (Ω, F , P ). Rozkłademzmiennej losowej X nazywamy miarę probabilistyczną PX na (IR1, B1) danąwzorem

PX(A) := P X−1(A) = P (X ∈ A).

4.8 Twierdzenie (O transporcie miary) Niech X : (Ω, F , P ) → (IR1, B1)będzie zmienną losową o rozkładzie PX .

Niech f : (IR1, B1) → (IR1, B1) będzie funkcją borelowską. Wartość ocze-kiwana E f(X) istnieje dokładnie wtedy, gdy istnieje całka

∫IR1 f(x) dPX(x).

Jeśli te całki istnieją, to są równe:

Ef(X) =∫

IR1f(x) dPX(x).

Dowód.

4.9 Wniosek Mają miejsce równości

EX =∫

x dPX(x),

mp(X) =∫

|x|p dPX(x),

Var (X) =∫

x2 dPX(x) − (∫

x dPX(x))2,

itp.

4.10 Zadanie Niech µ będzie miarą probabilistyczną na (IR1, B1). Wskazaćzmienną losową X o rozkładzie PX = µ.

4.11 Definicja Miary probabilistyczne na (IR1, B1) nazywamy rozkładamina IR1.

4.12 Uwaga Jeżeli µ jest rozkładem na IR1, to fakt, że zmienna losowa Xma rozkład µ zapisujemy często w postaci X ∼ µ.

4.13 Definicja

1. Dystrybuantą zmiennej losowej X nazywamy funkcję FX : IR1 → [0, 1]zadaną wzorem

FX(x) = P (X ¬ x), x ∈ IR1.

2. Dystrybuantą rozkładu µ na IR1 nazywamy funkcję Fµ : IR1 → [0, 1]zadaną wzorem

Fµ(x) = µ((−∞, x]), x ∈ IR1.

Klasyfikacja rozkładów na prostej 35

4.14 Uwaga Oczywiście dystrybuanta zmiennej losowej jest dystrybuantąrozkładu tej zmiennej, jest więc w istocie funkcją rozkładu zmiennej losowej.Dlatego wystarczy badać tylko dystrybuanty rozkładów na IR1.

4.15 Twierdzenie Niech µ i ν będą rozkładami na IR1. Jeżeli Fµ = Fν , toµ = ν.

Dowód.

4.16 Twierdzenie Niech µ będzie rozkładem na IR1. Dystrybuanta Fµ manastępujące własności:

1. Fµ jest funkcją niemalejącą;

2. Fµ jest prawostronnie ciągła;

3. limx→−∞ Fµ(x) = 0, limx→+∞ Fµ(x) = 1.

Dowód.

4.17 Definicja Dystrybuantą nazywamy funkcję F : IR1 → [0, 1] spełnia-jącą warunki 1.-3. z poprzedniego twierdzenia.

4.18 Twierdzenie Niech F będzie dystrybuantą. Istnieje dokładnie jedenrozkład µ na IR1 taki, że F = Fµ.

Dowód. Proszę podać kroki dowodu z odwołaniem się do odpowiednichtwierdzeń rozdziału 2.

4.19 Definicja Medianą zmiennej losowej X (właściwie: rozkładu zmiennejlosowej) nazywamy taką liczbę x1/2, że

P (X ¬ x1/2) ­ 1/2, P (X ­ x1/2) ­ 1/2.

4.20 Definicja Kwantylem rzędu p, p ∈ (0, 1), rozkładu zmiennej losowejX nazywamy taką liczbę xp, że

P (X ¬ xp) ­ p, P (X ­ xp) ­ 1 − xp.

4.21 Zadanie Przypuśćmy, że znamy dystrybuantę FX zmiennej losowejX. Jak znaleźć medianę i kwantyle tej zmiennej?

Klasyfikacja rozkładów na prostej

4.22 Definicja Zmienna losowa X ma rozkład dyskretny, jeśli istnieją licz-by x1, x2, . . . ∈ IR1 i prawdopodobieństwa p1, p2, . . . ­ 0,

∑∞j=1 pj = 1, takie,

że P (X = xj) = pj , j = 1, 2, . . ..

36 4. Formalizm teorii prawdopodobieństwa

4.23 Fakt Jeżeli X ma rozkład dyskretny, to dla dowolnej funkcji f : IR1 →IR1

Ef(X) =∫

f(x) PX(dx) =∞∑

i=1

f(xi)P (X = xi) =∞∑

i=1

f(xi)pi,

przy czym całka istnieje dokładnie wtedy, gdy∑∞

i=1 |f(xi)|pi < +∞.

4.24 Fakt PXx = P (X = x) > 0 wtedy i tylko wtedy, gdy dystrybuantaFX ma skok w punkcie x i FX(x) − FX(x−) = P (X = x).

Dowód.

4.25 Definicja Zmienna losowa X ma rozkład absolutnie ciągły o gęstościp(x), jeśli dla każdego A ∈ B1

P (X ∈ A) =∫

Ap(x) dx.

(Wtedy p(x) ­ 0 `-prawie wszędzie i∫

p(x) dx = 1).

4.26 Fakt Gęstość rozkładu absolutnie ciągłego jest wyznaczona jednoznacz-nie z dokładnością do równości `-prawie wszędzie.

Dowód.

4.27 Uwaga Można pokazać, że każda dystrybuanta F jest prawie wszędzieróżniczkowalna i pochodna F ′ (określona `-prawie wszędzie) spełnia warunek

F (x) ­∫

(−∞,x]F ′(x) dx.

Może się więc zdarzyć, że∫

IR1 F ′(x) dx < 1 (przykład!). Jeżeli∫

IR1 F ′(x) dx =1, to rozkład odpowiadający dystrybuancie F jest absolutnie ciągły z gęsto-ścią p(x) = F ′(x).

4.28 Fakt Jeżeli X ma rozkład absolutnie ciągły o gęstości p(x), to dladowolnej funkcji borelowskiej f : IR1 → IR1

Ef(X) =∫

f(x) PX(dx) =∫ +∞

−∞f(x)p(x) dx,

przy czym całka istnieje dokładnie wtedy, gdy∫+∞

−∞ |f(x)|p(x) dx < +∞.

4.29 Definicja Zmienna losowa X ma rozkład osobliwy, jeśli rozkład Xjest ciągły (tzn. P (X = x) = 0 dla każdego x ∈ IR1) oraz istnieje zbiórB ∈ B1 miary Lebesgue’a 0 taki, że P (X ∈ B) = 1.

Klasyfikacja rozkładów na prostej 37

4.30 Twierdzenie (Lebesgue’a o rozkładzie) Niech µ będzie rozkłademna IR1. Istnieją liczby α1, α2, α3 ­ 0, α1 + α2 + α3 = 1, oraz rozkłady µ1 -dyskretny, µ2 - absolutnie ciągły i µ3 - osobliwy, takie, że

µ = α1µ1 + α2µ2 + α3µ3.

4.31 Przykłady rozkładów dyskretnych.

1. Rozkład zdegenerowany w punkcie C ∈ IR1 albo miara delta DiracaδC :

P (X = C) = 1.

2. Rozkład 0 − 1 lub Bernoullego:

P (X = 1) = p = 1 − P (X = 0).

3. Rozkład dwumianowy:

P (X = k) =

(N

k

)pk(1 − p)N−k, k = 0, 1, 2, . . . , N.

4. Rozkład Poissona:

P (X = k) = e−λ λk

k!, k = 0, 1, 2, . . . .

5. Rozkład geometryczny:

P (X = k) = p(1 − p)k−1, k = 1, 2, . . . .

4.32 Przykłady rozkładów absolutnie ciągłych.

1. Rozkład jednostajny U(a, b) na odcinku (a, b):

p(x) =1

b − aI(a,b)(x).

2. Rozkład normalny N (m, σ2) z parametrami m ∈ IR1 i σ2 > 0:

p(x) =1√2πσ

e− (x−m)2

2σ2 .

3. Rozkład wykładniczy z parametrem λ > 0.

p(x) = λe−λxI(0,+∞)(x).

38 4. Formalizm teorii prawdopodobieństwa

4. Rozkłady gamma z parametrami α, λ > 0:

p(x) =αλ

Γ(λ)xλ−1e−αxI(0,+∞)(x).

5. Rozkład χ2 z n stopniami swobody (χ2n), to rozkład gamma z para-

metrami α = n/2, λ = 1/2.

4.33 Zadanie Pokazać, że jeśli X ∼ N (0, 1), to X2 ∼ χ21.

4.34 Zadanie Niech zmienna losowa X ma rozkład absolutnie ciągły o gę-stości p(x). Jakie warunki musi spełniać funkcja f : IR1 → IR1, aby zmiennalosowa f(X) miała rozkład absolutnie ciągły? Znaleźć postać gęstości.

4.35 Zadanie Znaleźć wartości oczekiwane i wariancje rozkładów wymie-nionych w przykładach 4.31 i 4.32.

Rozkłady wielowymiarowe i niezależność stocha-styczna

4.36 Definicja Wektorem losowym nazywamy odwzorowanie mierzalne

~X : (Ω, F , P ) → (IRd, Bd).

Rozkład P ~X wektora losowego, to miara P ~X−1 na (IRd, Bd).

4.37 Fakt ~X = (X1, X2, . . . , Xd)T jest wektorem losowym dokładnie wtedy,gdy jego składowe X1, X2, . . . , Xd są zmiennymi losowymi.

Dowód.

4.38 Uwagi

1. Produkt σ-algebr podzbiorów borelowskich IR1 ( czyli σ-algebra gene-rowana przez prostokąty mierzalne) pokrywa się z σ-algebrą podzbio-rów borelowskich przestrzeni IRd, (czyli σ-algebrą generowaną przezpodzbiory otwarte IRd):

Bd = BIRd .

2. Podobnie jak w przypadku jednowymiarowym, znajomość rozkładuwektora losowego pozwala obliczać całki z funkcji od wektora losowego:

Ef( ~X) =∫

IRdf(x) dP ~X(x).

Wystarczy w tym celu zauważyć, że twierdzenie 4.8 pozostaje praw-dziwe i dla wektorów losowych.

Niezależność stochastyczna 39

4.39 Definicja

1. Wektor losowy ~X ma rozkład dyskretny, jeśli istnieją x1, x2, . . . ∈ IRd

i prawdopodobieństwa p1, p2, . . . ­ 0,∑∞

j=1 pj = 1, takie, że P ( ~X =xj) = pj , j = 1, 2, . . ..

2. Wektor losowy ~X ma rozkład absolutnie ciągły o gęstości p(x), jeślidla każdego A ∈ Bd

P ( ~X ∈ A) =∫

Ap(x) dx.

(Wtedy p(x) ­ 0 `d-prawie wszędzie i∫

p(x) dx = 1).

3. Wektor losowy ~X ma rozkład osobliwy, jeśli rozkład ~X jest ciągły(tzn. P ( ~X = x

¯) = 0 dla każdego x ∈ IRd) oraz istnieje zbiór B ∈ Bd

d-wymiarowej miary Lebesgue’a 0 taki, że P ( ~X ∈ B) = 1.

4.40 Uwaga Twierdzenie 4.30 o rozkładzie miar na części dyskretną, abso-lutnie ciągłą i osobliwą przenosi się bez zmian z przypadku jednowymiarowe-go na przypadek IRd. Jedyna różnica polega tym, że w przypadku wielowy-miarowym dużo łatwiej o przykłady rozkładów osobliwych - każdy rozkładskoncentrowany na właściwej hiperpłaszczyźnie wymiaru d − 1 jest już oso-bliwy! (przykład!)

4.41 Definicja Rozkład P ~X wektora losowego ~X = (X1, X2, . . . , Xd)T na-zywamy rozkładem łącznym zmiennych losowych X1, X2, . . . , Xd. Rozkłady(jednowymiarowe) PX1 , PX2 , . . . , PXd

składowych wektora losowego nazywa-my rozkładami brzegowymi rozkładu P ~X .

4.42 Uwaga Na ogół rozkłady brzegowe nie determinują rozkładu łącz-nego, tzn. istnieje wiele rozkładów na (IRd, Bd) o tych samych rozkładachbrzegowych (przykład!).

4.43 Definicja Zmienne losowe X1, X2, . . . , Xd są niezależne (lub stocha-stycznie niezależne), jeśli ich rozkład łączny jest produktem rozkładów brze-gowych:

P(X1,X2,...,Xd) = PX1 × PX2 × · · · × PXd.

Rodzina zmiennych losowych Xii∈II jest niezależna, jeśli każda jej skoń-czona podrodzina składa się ze zmiennych losowych niezależnych.

4.44 Twierdzenie Niech X1, X2, . . . , Xd będą zmiennymi losowymi okre-ślonymi na tej samej przestrzeni probabilistycznej (Ω, F , P ). Następującewarunki są równoważne:

40 4. Formalizm teorii prawdopodobieństwa

(i) Zmienne X1, X2, . . . , Xd są niezależne.

(ii) Dla dowolnych zbiorów borelowskich A1, A2, . . . , Ad ma miejsce równość

P (X1 ∈ A1, X2 ∈ A2, . . . , Xd ∈ Ad)

= P (X1 ∈ A1)P (X2 ∈ A2) · · · P (Xd ∈ Ad).

(iii) Dla dowolnych liczb x1, x2, . . . , xd ma miejsce równość

P (X1 ¬ x1, X2 ¬ x2, . . . , Xd ¬ xd)

= P (X1 ¬ x1)P (X2 ¬ x2) · · · P (Xd ¬ xd).

Dowód.

4.45 Definicja Dystrybuantą wektora losowego ~X nazywamy funkcję

IRd 3 x = (x1, x2, . . . , xd)T 7→ F ~X(x) = P (X1 ¬ x1, X2 ¬ x2, . . . , Xd ¬ xd).

4.46 Uwaga Na mocy warunku (iii) twierdzenia 4.44, zmienne losowe sąniezależne dokładnie wtedy, gdy dystrybuanta ich rozkładu łącznego jest ilo-czynem dystrybuant rozkładów brzegowych. W dalszym ciągu nie będziemyjednak zajmować się dystrybuantami rozkładów na IRd, gdyż są one znaczniemniej wygodnym narzędziem niż dystrybuanty na IR1.

4.47 Fakt Jeżeli zmienne losowe X1, X2, . . . , Xd są niezależne, to dla do-wolnych funkcji borelowskich f1, f2, . . . , fd zmienne losowe

f1(X1), f2(X2), . . . , fd(Xd)

też są niezależne.

Dowód.

4.48 Twierdzenie Niech rozkłady zmiennych X1, X2, . . . , Xd będą dyskret-ne.

Zmienne losowe X1, X2, . . . , Xd są niezależne dokładnie wtedy, gdy dladowolnych x1, x2, . . . , xd ∈ IR1 ma miejsce związek

P (X1 = x1, X2 = x2, . . . , Xd = xd)

= P (X1 = x1)P (X2 = x2) · · · P (Xd = xd).

Dowód.

4.49 Twierdzenie Niech rozkłady zmiennych X1, X2, . . . , Xd będą absolut-nie ciągłe z gęstościami p1(x), p2(x), . . . , pd(x).

Zmienne losowe X1, X2, . . . , Xd są niezależne dokładnie wtedy, gdy roz-kład łączny tych zmiennych jest absolutnie ciągły i jego gęstość ma postać

p ~X(x1, x2, . . . , xd) = p1(x1)p2(x2) · · · pd(xd).

Niezależność stochastyczna 41

Dowód.

4.50 Definicja Rodzina zdarzeń Aii∈II jest niezależna, jeśli funkcje cha-rakterystyczne IAii∈II tych zdarzeń są niezależne.

4.51 Twierdzenie Zdarzenia Aii∈II są niezależne dokładnie wtedy, gdydla dowolnego skończonego podzbioru II0 ⊂ II

P

( ⋂i∈II0

Ai

)= Πi∈II0P (Ai).

Dowód.

4.52 Definicja Zmienne losowe Xii∈II są niezależne parami, jeśli dla każ-dych i, j ∈ II, i 6= j, zmienne Xi i Xj są niezależne. Podobnie, zdarzeniaAii∈II sa niezależne parami, jeśli każde dwa zdarzenia Ai i Aj , i 6= j sąniezależne.

4.53 Zadanie Podać przykład zdarzeń niezależnych parami, ale zależnychzespołowo (np. przykład Bernsteina).

4.54 Definicja Splotem rozkładów µ i ν nazywamy miarę probabilistycznąµ ∗ ν zadaną wzorem

(µ ∗ ν)(A) =∫

µ(A − y)ν(dy) =∫

ν(A − x)µ(dx).

Równoważnie: splot µ∗ν jest transportem miary produktowej µ×ν z IR1×IR1

na IR1 za pomocą funkcji h(x, y) = x + y.

4.55 Wniosek Jeżeli zmienne losowe X i Y są niezależne, to rozkład sumyX + Y jest splotem rozkładów zmiennych X i Y :

PX+Y = PX ∗ PY .

4.56 Twierdzenie Jeżeli p(x) i q(y) są gęstościami niezależnych zmien-nych losowych X i Y , to rozkład sumy X + Y jest splotem gęstości p i q.

pX+Y (z) =∫ +∞

−∞p(z − y)q(y) dy =

∫ +∞

−∞q(z − x)p(x) dx.

4.57 Zadanie Niech T : IR2 → IR2 spełnia założenia tw. o zmianie zmien-nych w całce Lebesgue’a. Niech rozkład wektora losowego (X, Y ) będzieabsolutnie ciągły o gęstości p(x, y). Znaleźć gęstość wektora T (X, Y ).

4.58 Zadanie Pokazać, że jeśli X i Y są niezależne i mają rozkład N (0, 1),to zmienne X+Y√

2i X−Y√

2mają też rozkład normalny N (0, 1) i są niezależne.

42 4. Formalizm teorii prawdopodobieństwa

4.59 Twierdzenie (O mnożeniu wartości oczekiwanych) Jeżeli zmien-ne losowe X i Y są niezależne i całkowalne, to iloczyn XY jest całkowalnązmienną losową i

EXY = EX · EY.

Dowód.

4.60 Uwaga Bez założenia o niezależności warunek dostateczny dla całko-walności iloczynu XY jest podany we Wniosku 3.17.

4.61 Wniosek Niech X1, X2, . . . , Xd będą niezależne. Jeżeli funkcje bore-lowskie fi sa takie, że

E|fi(Xi)| < +∞, i = 1, 2, . . . , d,

toEf1(X1)f2(X2) · · · fd(Xd) = Ef1(X1) · Ef2(X2) · · · · Efd(Xd).

Charakterystyki wektorów losowych

4.62 Definicja Kowariancją zmiennych losowych X i Y nazywamy liczbę

cov (X, Y ) := E(X − EX)(Y − EY ) = EXY − EX · EY.

4.63 Definicja Zmienne losowe X i Y są nieskorelowane, jeśli

cov (X, Y ) = 0.

4.64 Uwaga Kowariancja istnieje, jeśli X i Y są całkowalne z kwadratem.Jeżeli X i Y są całkowalne i niezależne, to kowariancja istnieje i jest równa0. Niezależne całkowalne zmienne losowe są więc nieskorelowane. Istniejąjednak nieskorelowane zmienne losowe, które są zależne (przykład!).

4.65 Fakt Niech całkowalne z kwadratem zmienne losowe X1, X2, . . . , Xn

będą nieskorelowane. Wówczas

Var (X1 + X2 + · · · + Xn) = Var (X1) + Var (X2) + · · · + Var (Xn).

W szczególności, powyższy wzór ma miejsce dla całkowalnych z kwadratem,parami niezależnych zmiennych losowych.

4.66 Definicja Niech ~X = (X1, X2, . . . , Xd)T będzie wektorem losowym.

1. Niech każda składowa wektora ~X będzie całkowalna (równoważnie:E‖ ~X‖ < +∞). Wartością oczekiwaną wektora ~X nazywamy wektorwartości oczekiwanych jego składowych:

E ~X = (EX1, EX2, . . . , EXd)T .

Charakterystyki wektorów losowych 43

2. Niech każda składowa wektora ~X będzie całkowalna z kwadratem (rów-noważnie: E‖ ~X‖2 < +∞). Macierzą kowariancji wektora ~X nazywamymacierz o współczynnikach

σjk = cov (Xj , Xk).

Macierz kowariancji oznaczać będziemy symbolem Cov ( ~X). Ten samsymbol używany będzie również dla oznaczenia operatora kowariancjizadawanego w oczywisty sposób przez macierz kowariancji. W napisie〈x, Cov ( ~X)y〉 mamy więc do czynienia z operatorem kowariancji, a wnapisie xT Cov ( ~X)y z macierzą kowariancji.

3. Wariancją wektora ~X nazywamy liczbę

Var ( ~X) := E‖ ~X − E ~X‖2 =d∑

j=1

Var (Xj).

4.67 Twierdzenie

1. Niech E‖ ~X‖ < +∞. Wartość oczekiwana wektora ~X to jedyny wektorm ∈ IRd taki, że

E〈x, ~X〉 = 〈x, m〉, x ∈ IRd.

2. Niech E‖ ~X‖2 < +∞. Macierz kowariancji wektora ~X jest jedyną sy-metryczną macierzą Σ wymiaru d × d wyznaczoną przez formę kwa-dratową

E〈x, ~X − E ~X〉2 = Var (〈x, ~X〉) = 〈x, Σ x〉, x ∈ IRd.

Cov ( ~X) jest więc jedyną macierzą Σ spełniającą związek

E〈x, ~X − E ~X〉〈y, ~X − E ~X〉 = cov (〈x, ~X〉, 〈y, ~X〉) = 〈x, Σ y〉, x, y ∈ IRd.

Dowód.

4.68 Twierdzenie Macierz kowariancji wektora losowego ~X jest symetrycz-na i nieujemnie określona. Na odwrót, dla dowolnej symetrycznej i nieujem-nie określonej macierzy Σ rozmiaru d×d istnieje d-wymiarowy wektor losowy~X taki, że

Cov ( ~X) = Σ.

Dowód.

44 4. Formalizm teorii prawdopodobieństwa

Prawa wielkich liczb

4.69 Definicja Mówimy,że ciąg zmiennych losowych X1, X2, . . . spełnia sła-be prawo wielkich liczb, jeśli istnieje stała C taka, że

X1 + X2 + · · · + Xn

n−→

PC, gdy n → +∞.

Mocne prawo wielkich liczb jest spełnione, jeśli dla pewnej stałej C

X1 + X2 + · · · + Xn

n→ C, P − prawie wszędzie.

4.70 Definicja Schematem Bernoullego z prawdopodobieństwem sukcesup ∈ (0, 1) nazywamy ciąg X1, X2, . . . niezależnych zmiennych losowych ojednakowym rozkładzie P (Xn = 1) = p = 1 − P (Xn = 0).

4.71 Twierdzenie (Słabe prawo wielkich liczb - Jakub Bernoulli,1713) Niech X1, X2, . . . będzie schematem Bernoullego z prawdopodobień-stwem sukcesu p. Wówczas

X1 + X2 + · · · + Xn

n−→L2

p, gdy n → +∞.

Dowód. A w dowodzie:

4.72 Lemat (Nierówność Czebyszewa) Jeżeli EX2 < +∞, to dla do-wolnego ε > 0 ma miejsce nierówność

P (|X − EX| ­ ε) ¬ Var (X)ε2 .

Dowód.

4.73 Twierdzenie (Mocne prawo wielkich liczb dla schematu Ber-nullego - Tw. Borela) Niech X1, X2, . . . będzie schematem Bernoullego zprawdopodobieństwem sukcesu p. Wówczas P -prawie wszędzie

X1 + X2 + · · · + Xn

n→ p, gdy n → +∞.

Dowód. A w dowodzie:

4.74 Lemat (Nierówność Markowa) Jeżeli f : IR+ → IR+ jest funk-cją niemalejącą, spełniającą warunek f(x) > 0 dla x > 0, to dla dowolnejzmiennej losowej X i dowolnego ε > 0 ma miejsce nierówność

P (|X| ­ ε) ¬ Ef(|X|)f(ε)

.

Prawa wielkich liczb 45

Dowód.

4.75 Lemat (I lemat Borela-Cantellego) Niech A1, A2, . . . będzie cią-giem zdarzeń z przestrzeni probabilistycznej (Ω, F , P ).

Jeżeli∑∞

n=1 P (An) < +∞, to P (lim supn An) = 0.

Dowód.

4.76 Uwaga Z definicji,

lim supn

An :=∞⋂

N=1

∞⋃n=N

An,

jest zbiorem tych wszystkich ω, które należą do nieskończenie wielu spośródzbiorów An.

Podobnie,

lim infn

An :=∞⋃

N=1

∞⋂n=N

An,

jest zbiorem tych ω, które należą do prawie wszystkich (tzn. wszystkich zwyjątkiem, być może, skończonej liczby) elementów ciągu An.

Warte uwagi są związki

Ilim supn An= lim sup

nIAn ,

Ilim infn An= lim inf

nIAn .

4.77 Zadanie Wyjaśnić związek mocnego prawa wielkich liczb dla schema-tu Bernoullego z interpretacją częstościową prawdopodobieństwa.

4.78 Wniosek (Tw. Borela o liczbach normalnych) Jeżeli Xj(ω) jestj-tą cyfrą rozwinięcia dziesiętnego liczby ω ∈ [0, 1], to dla prawie wszystkichω średnia częstość pojawiania się cyfry k zbiega do 1/10:

1n

n∑j=1

IXj = k → 110

, gdy n → +∞.

4.79 Twierdzenie (Mocne prawo wielkich liczb Chińczyna-Kołmo-gorowa-Etemadiego) Niech X1, X2, . . . będzie ciągiem parami niezależ-nych zmiennych losowych o jednakowych rozkładach.

Jeżeli E|X1| < +∞, to P -prawie wszędzie

X1 + X2 + · · · + Xn

n−→ EX1.

Na odwrót, jeśli

P(

lim supn

|X1 + X2 + · · · + Xn|n

< +∞)

> 0,

to E|X1| < +∞ i średnie są zbieżne prawie wszędzie do EX1.

46 4. Formalizm teorii prawdopodobieństwa

4.80 Zadanie Czy średnia z pomiarów jest lepszym przybliżeniem mierzo-nej wielkości od pojedynczego pomiaru?

4.81 Uwaga Łatwo jest skonstruować skończony schemat Bernoullego (niewykraczając poza dyskretne przestrzenie probabilistyczne). Nie jest jednakoczywiste, czy istnieją nieskończone schematy Bernoullego. Oto dwa kla-syczne przykłady dające twierdzącą odpowiedź na to pytanie.

4.82 Przykład Niech Niech Ω = [0, 1], F = B1 ∩ [0, 1] i niech P będziemiarą Lebesgue’a ` obciętą do [0, 1] (tzw. standardowa przestrzeń probabi-listyczna). Funkcje Rademachera określamy wzorem:

rn(ω) = sign (sin 2πnω), n = 1, 2, . . . .

Są one niezależne (jak to sprawdzić?). Wzór

Xn(ω) =12

(rn(ω) + 1)

zadaje schemat Bernoullego z prawdopodobieństwem sukcesu p = 1/2.

4.83 Przykład Niech (Ω, F , P ) będzie jak wyżej. Dla ω ∈ [0, 1] niechXn(ω) będzie n-tą cyfrą rozwinięcia dwójkowego liczby ω:

ω =∞∑

n=1

Xn(ω)2−n.

Dla poprawności definicji przyjmujemy dodatkowo umowę, że liczby dwój-kowowymierne zapisujemy z użyciem nieskończonej liczby jedynek, czyli∑∞

n=1 Xn(ω) = ∞ dla wszystkich ω prócz 0.Rysując wykresy kolejnych zmiennych Xn łatwo zauważamy, że Xn są

niezależne. Ponadto P (Xn = 1) = 1/2 = 1 − P (Xn = 0). Funkcje Xn

są więc modelem nieskończonego schematu Bernoullego z prawdopodobień-stwem sukcesu p = 1/2. Łatwo jest zmodyfikować podany przykład, tak abyuzyskać model schematu Bernoullego dla dowolnego p ∈ (0, 1).

Literatura

[1] P. Billingsley, Prawdopodobieństwo i miara, PWN, Warszawa 1987.

[2] A.A. Borowkow, Rachunek prawdopodobieństwa, PWN, Warszawa1975.

[3] L. Górniewicz, Analiza matematyczna dla fizyków, t. 2, Wydaw-nictwo UMK, Toruń 1995.

[4] J. Jakubowski i R. Sztencel, Wstęp do teorii prawdopodobieństwa,Wyd. II, Script 2001, www.script.com.pl

[5] A. Kłopotowski, Teoria prawdopodobieństwa, t. 1, TNOiK, Toruń1996.

[6] E. Lieb and M. Loss, Analysis, AMS, Providence 1996.

[7] R. Sikorski, Funkcje rzeczywiste, PWN, Warszawa, tom I - 1958,tom 2 - 1959.

47