1. ROZKŁADY PRAWDOPODOBIEŃSTWA

38
STATYSTYKA http://totto1.prv.pl Strona 1 Wykład 1 20.02.2008r. 1 1 1 1 1 1 . . . . . . R R R R R R O O O O O O Z Z Z Z Z Z K K K K K K Ł Ł Ł Ł Ł Ł A A A A A A D D D D D D Y Y Y Y Y Y P P P P P P R R R R R R A A A A A A W W W W W W D D D D D D O O O O O O P P P P P P O O O O O O D D D D D D O O O O O O B B B B B B I I I I I I E E E E E E Ń Ń Ń Ń Ń Ń S S S S S S T T T T T T W W W W W W A A A A A A 1.1 Rozkład dwumianowy Rozkład dwumianowy , 01 1 ; 1,2,…, Uwaga: 1, – rozkład zero – jedynkowy. Fakt: Niech ,…, będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie Wtedy: ~, 1.2 Rozkład Poissona Rozkład Poissona 0 ! 0,1,2,… Fakt: Niech ,…, będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie Wtedy: ~ 1.3 Rozkład wykładniczy Rozkład wykładniczy exp 0 exp , Fakt: Niech ,…, będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie wykładniczym exp Wtedy: ~ , 1.4 Rozkład normalny Rozkład normalny , ; 0 1 √2 exp 1 2 Własności: 1. Jeżeli zmienna losowa ~, to

Transcript of 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

Page 1: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 1

WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 11111111 2222222200000000........0000000022222222........22222222000000000000000088888888rrrrrrrr........ 11111111........ RRRRRRRROOOOOOOOZZZZZZZZKKKKKKKKŁŁŁŁŁŁŁŁAAAAAAAADDDDDDDDYYYYYYYY PPPPPPPPRRRRRRRRAAAAAAAAWWWWWWWWDDDDDDDDOOOOOOOOPPPPPPPPOOOOOOOODDDDDDDDOOOOOOOOBBBBBBBBIIIIIIIIEEEEEEEEŃŃŃŃŃŃŃŃSSSSSSSSTTTTTTTTWWWWWWWWAAAAAAAA 11111111........11111111 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd ddddddddwwwwwwwwuuuuuuuummmmmmmmiiiiiiiiaaaaaaaannnnnnnnoooooooowwwwwwwwyyyyyyyy Rozkład dwumianowy $%&, () 0 * ( * 1 (%+) , -&+. (/%1 0 ()12/ ; + , 1,2, … , & UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: $%1, () 8 $%() – rozkład zero – jedynkowy. FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: Niech AB, … , A1 będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie $%() Wtedy: I AJ

1JKB ~$%&, ()

11111111........22222222 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd PPPPPPPPooooooooiiiiiiiissssssssssssssssoooooooonnnnnnnnaaaaaaaa Rozkład Poissona M%N) N O 0 (%+) , P2QN/+! + , 0,1,2, … FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: Niech AB, … , A1 będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie M%N) Wtedy:

I AJ1

JKB ~M%&N) 11111111........33333333 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd wwwwwwwwyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaaddddddddnnnnnnnniiiiiiiicccccccczzzzzzzzyyyyyyyy Rozkład wykładniczy exp%N) N O 0 V%+) , N W exp%0N+) W X%Y,Z)%+) + [ \ FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: Niech AB, … , A1 będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie wykładniczym exp%N) Wtedy:

I AJ~1JKB ]^__^%N, &)

11111111........44444444 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd nnnnnnnnoooooooorrrrrrrrmmmmmmmmaaaaaaaallllllllnnnnnnnnyyyyyyyy Rozkład normalny a%b, cd) b [ \ ; c O 0 V%+) , 1√2M W c exp f0 12 W %+ 0 b)dcd g + [ \ WWłłaassnnoośśccii:: 1. Jeżeli zmienna losowa A~a%b, cd) to i%A) , b j^kA , cd

Page 2: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 2

2. Jeżeli l jest dystrybuantą zmiennej losowej A o rozkładzie a%b, cd) to: l%A) , m -+ 0 bc . gdzie m%n) , B√do p P2qrr stu2Z – dystrybuanta rozkładu a%0,1) 3. Jeżeli A~a%b, cd) oraz v , ^A w $ to v~a%^b w $, ^dcd) 4. Jeżeli AB, … , A1 są niezależnymi zmiennymi losowymi o rozkładach a%bJ, cJd) x ,1, … , & odpowiednio oraz zmienna losowa:

v , I ^JAJ1

JKB ^J y 0 Wtedy:

v~a zI ^JbJ1

JKB , I ^JdcJd1

JKB { PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 11111111:::::::: Niech AB, … , A1 będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie a%b, cd) Rozważmy zmienną losową: A , B1 ∑ AJ1JKB – średnia arytmetyczna Mamy:

A , I 1& AJ1

JKB Zatem na podstawie własności 4.:

A~a zI 1& b1JKB , I �1&�d cd 1

JKB { , a �b, cd& � Ponadto niech:

t , A 0 bc √& Wtedy: t , √&c · A 0 √&bc Stąd:

t~a �√&c b 0 √&bc , &cd · cd& � , a%0,1) DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Ciąg zmiennych losowych %A1) nazywamy asymptotycznie normalnym �a%^1, $1d) $1 O 0, gdy ciąg zmiennych losowych: �A1 0 ^1$1 � jest zbieżny według rozkładu do zmiennej losowej o rozkładzie normalnym a%0,1)

Page 3: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 3

TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 11111111 %%%%%%%%CCCCCCCCeeeeeeeennnnnnnnttttttttrrrrrrrraaaaaaaallllllllnnnnnnnneeeeeeee ttttttttwwwwwwww........ ggggggggrrrrrrrraaaaaaaannnnnnnniiiiiiiicccccccczzzzzzzznnnnnnnneeeeeeee LLLLLLLLiiiiiiiinnnnnnnnddddddddeeeeeeeerrrrrrrrbbbbbbbbeeeeeeeerrrrrrrrggggggggaaaaaaaa –––––––– LLLLLLLLeeeeeeeevvvvvvvvyyyyyyyy’’’’’’’’eeeeeeeeggggggggoooooooo)))))))):::::::: Niech AB, … , A1 będzie ciągiem niezależnych zmiennych losowych o jednakowym rozkładzie z wartością oczekiwaną b i skończoną dodatnią wariancją cd. Wtedy ciąg średnich %A1), gdzie A1 , B1 ∑ AJ1JKB jest asymptotycznie normalny �a -b, �rd . TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 22222222:::::::: Niech ciąg zmiennych losowych %A1) będzie asymptotycznie normalny �a%b, c1d) przy czym c1 � 0 gdy & � ∞ oraz niech �: \ � \ będzie funkcją różniczkowalną w punkcie b i ��%b) y 0 Wtedy ciąg zmiennych losowych ��%A1)� jest asymptotycznie normalny �a%�%b), ���%b)�dc1� ) PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 22222222:::::::: Niech %A1) będzie ciągiem niezależnych zmiennych losowych o rozkładzie M%N) Wtedy: A1~�a �N, N&� Niech w twierdzeniu 2: A1 8 A1 Mamy: c1d , Q1 � 0 & � ∞ Ponadto: �%+) , √+ ; ��%+) , Bd√/ Zatem:

��%N) , 12√N O 0 Stąd:

�%A1) 8 �A1~�a �√N , � 12√N�d N&� , �a �√N , 14&� 11111111........55555555 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd cccccccchhhhhhhhiiiiiiii –––––––– kkkkkkkkwwwwwwwwaaaaaaaaddddddddrrrrrrrraaaaaaaatttttttt Rozkład chi – kwadrat �d%&) ; & , 1,2, … DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Niech AB, … , A1 będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie a%0,1). Mówimy, że ABd w Add w � w A1d ma rozkład chi – kwadrat z & stopniami swobody. FFFFFFFFaaaaaaaakkkkkkkktttttttt::::::::

Page 4: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 4

V%+) , 121d� -&2. +1d2B · P2/d · X%Y,Z)%+) + [ \ TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 33333333 %%%%%%%%FFFFFFFFiiiiiiiisssssssshhhhhhhheeeeeeeerrrrrrrraaaaaaaa)))))))):::::::: Niech AB, Ad, … , A1) %& O 1) będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie a%b, cd). Wtedy zmienne losowe:

A , 1& I AJ1

JKB ; �d , 1& 0 1 I�AJ 0 AJ�d1JKB

są niezależne oraz: A~a �b , cd& � %& 0 1)�dcd ~�d%& 0 1) WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 22222222 2222222277777777........0000000022222222........22222222000000000000000088888888rrrrrrrr........ LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt:::::::: Niech A , %AB, Ad, … , A1)�, gdzie AB, Ad, … , A1 są niezależne i mają jednakowe rozkłady a%b, cd). Ponadto niech: v , %vB, … , v1)� , � A przy czym � , %^/�) jest macierzą ortogonalną rozmiaru & � & Wtedy vB, … , v1 są niezależne i mają rozkłady a�b, ∑ ^J� , cd1�KB �, x , 1,2, … , & DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 33333333:::::::: Konstruujemy macierz � w następujący sposób: 1) pierwszy wiersz - B√1 , … , B√1. 2) pozostałe wyznaczamy tak, aby otrzymać macierz ortogonalną v , %vB, … , v1)� , � A A , %AB, Ad, … , A1)� Mamy: 1. vB, … , v1 są niezależne 2. vB , B√1 AB w B√1 Ad w � w B√1 A1 , B√1 ∑ AJ , √& A1JKB i%vB) , b√& j^k%vB) , cd 3. Dla x , 2, … , & i%vJ) , b I ^J�

1�KB , b√& I 1√& ^J� , b√& I ^B�^J�

1�KB , 01

�KB j^k%vJ) , cd 4. ABd w Add w � w A1d , vBd w � w v1d Zatem

Page 5: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 5

%& 0 1)�d , I�AJ 0 A�d1JKB , I AJd 0 2A1

JKB I AJ1

JKB� ¡1¢&Ad

, I AJd 0 2&Ad w &Ad , I AJd 0 &Ad , I vJd 0 vBd , I vJd1

JKd1

JKB1

JKB1

JKB Stąd zmienna losowa A , B√1 �d , B12B ∑ vJd1JKd są niezależne/ Ponadto: A~a � 1√& b√&, 1& cd� , a �b, cd& �

%& 0 1)�dcd , ∑ vJd1JKBcd , I vJdcd1

JKd , I ¤Jd1

JKd Mamy: ¤J~a � 1cd · 0, 1cd cd� , a%0,1) x , 2, … , & ¤B, … ¤1 0 niezależne Czyli: %& 0 1)�dcd ~�d%& 0 1) FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: Niech zmienna losowa A~M%N) Wtedy l¢%x) , 1 0 l¥%2N) x , 1,2, … gdzie v~�d�2%x w 1)� DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd %%%%%%%%sssssssszzzzzzzzkkkkkkkkiiiiiiiicccccccc))))))))::::::::

1 0 l¥%2N) , 1 0 ¦ 12J§B �%x w 1)�̈  ̈̈ ¡̈J!dQ

Y +J exp -0 +2. s+ , © +2 , ns+ , 2sn© , 1 0 1x! ¦ nJP2usnQY

, I P2QNª«!JªKY , l¢%x)

11111111........66666666 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd ­­ 00 ssssssssttttttttuuuuuuuuddddddddeeeeeeeennnnnnnnttttttttaaaaaaaa Rozkład n 0 studenta n%&) & , 1,2, … DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Niech A~a%0,1) oraz v~�d%&) będą niezależnymi zmiennymi losowymi. Mówimy, że zmienna losowa

Page 6: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 6

A�1& v ma rozkład n 0 Studenta z & stopniami swobody. FFFFFFFFaaaaaaaakkkkkkkktttttttt::::::::

V%+) , � -& w 12 .√&M · � -&2. �1 w +d& �21§Bd + [ \ FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: Niech %V1) będzie ciągiem gęstości zmiennych losowych A1 o rozkładzie n%&) Wtedy: ®/[\: lim1�\ V1%+) , ¯%+) , 1√2M exp �0 +d2 � PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 33333333:::::::: Niech AB, … , A1 będą niezależnymi zmiennymi losowymi o jednakowym rozkładzie a%b, cd) %& O 1) wtedy:

° , A 0 bc √& ~ a%0,1) ± przykład 1 oraz %& 0 1)�dcd ~�d%& 0 1) ± tw. 3 Ponadto zmienne losowe °, v są niezależne Wtedy: °� 1& 0 1 v ~n%& 0 1) Mamy:

°� 1& 0 1 v , A 0 bc √&� 1& 0 1 · %& 0 1)�dcd

, A 0 b� √& 11111111........77777777 RRRRRRRRoooooooozzzzzzzzkkkkkkkkłłłłłłłłaaaaaaaadddddddd ²² 00 SSSSSSSSnnnnnnnneeeeeeeeddddddddeeeeeeeeccccccccoooooooorrrrrrrraaaaaaaa Rozkład l 0 Snedecora l%&, _) &, _ , 1,2, … DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Niech A~�d%&) oraz v~�d%_) będą niezależnymi zmiennymi losowymi. Mówimy, że zmienna losowa 1& A1_ v

Page 7: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 7

ma rozkład l 0 Snedecora z &, _ stopniami swobody. FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: V%+) , � -_ w &2 .� -&2. � -_2 . -_& .³d A1d2B

-A w _& .³§1d XY,Z %+) + [ \ PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 44444444:::::::: Niech AB, … , A1 vB, … , v1 będą niezależnymi zmiennymi losowymi o rozkładach odpowiednio równych a%b¢ , cd); a%b¥, cd) Wtedy: A , %& 0 1)�dcd ~�d%& 0 1) ± tw. 3

v , %_ 0 1)�dcd ~�d%_ 0 1) ± tw. 3 Ponadto zmienna losowa A, v są niezależne 1& 0 1 A1_ 0 1 v ~l%& 0 1, _ 0 1) Mamy: 1& 0 1 A1_ 0 1 v , 1& 0 1 %& 0 1)�¢dcd1_ 0 1 %_ 0 1)�¥dcd

, �¢d�¥d 22222222........ DDDDDDDDAAAAAAAANNNNNNNNEEEEEEEE SSSSSSSSTTTTTTTTAAAAAAAATTTTTTTTYYYYYYYYSSSSSSSSTTTTTTTTYYYYYYYYCCCCCCCCZZZZZZZZNNNNNNNNEEEEEEEE........ MMMMMMMMOOOOOOOODDDDDDDDEEEEEEEELLLLLLLL SSSSSSSSTTTTTTTTAAAAAAAATTTTTTTTYYYYYYYYSSSSSSSSTTTTTTTTYYYYYYYYCCCCCCCCZZZZZZZZNNNNNNNNYYYYYYYY PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 55555555:::::::: 1) Centrala telefoniczna W 200 losowo wybranych 5 0 sekundowych odcinkach czasowych, badano liczbę zgłoszeń. otrzymano wynik: 0,5,3, … ,2. 2) Auto – test Przeprowadzono 50 niezależnych eksperymentów polegających na hamowaniu badanego typu samochodu. Zaobserwowano długości drogi hamowania %w metrach) 18,13; 17,61; … ; 18,62 WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 33333333 0000000055555555........0000000033333333........22222222000000000000000088888888rrrrrrrr........ DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Populacja Populacja Populacja Populacja – zbiór obiektów Cecha %zmienna)Cecha %zmienna)Cecha %zmienna)Cecha %zmienna) – funkcja określona na obiektach populacji %ozn. A)

Page 8: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 8

Rozkład %rzeczywisty) populacjiRozkład %rzeczywisty) populacjiRozkład %rzeczywisty) populacjiRozkład %rzeczywisty) populacji – rozkład wartości tej cechy A na elementach populacji. PróbaPróbaPróbaPróba – podzbiór populacji złożony z obiektów podlegających badaniu statystycznemu Rozkład %empiryczny) z próbyRozkład %empiryczny) z próbyRozkład %empiryczny) z próbyRozkład %empiryczny) z próby – rozkład wartości cechy A na elementach próby. A , ´ABAdµA1

¶ 0 dane PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 55555555 %%%%%%%%CCCCCCCCdddddddd........)))))))):::::::: częstość częstość częstość częstość zgłoszeńzgłoszeńzgłoszeńzgłoszeń %%%% 0000 16% 1111 33,5% 2222 24,5% 3333 15,5% 4444 7,5% 5555 3% dyskretna cecha

długość długość długość długość drogi drogi drogi drogi hamohamohamohamowaniawaniawaniawania liczebnośćliczebnośćliczebnośćliczebność 17,6 17,6 17,6 17,6 –––– 17,817,817,817,8 4 17,8 17,8 17,8 17,8 –––– 18181818 5 18 18 18 18 –––– 18,218,218,218,2 6 18,2 18,2 18,2 18,2 –––– 18,418,418,418,4 8 18,4 18,4 18,4 18,4 –––– 18,618,618,618,6 11 18,6 18,6 18,6 18,6 –––– 18,818,818,818,8 12 18,8 18,8 18,8 18,8 –––– 19191919 4 ciągła cecha Konstruując model matematyczny eksperymentu statystycznego. Dane A , %AB, Ad, … , A1)� traktujemy jako realizację wektora losowego A , %AB, Ad, … , A1)� o rozkładzie ¹ należącej do pewnej rodziny rozkładu º » 0 przestrzeń próby ¼ 0 c 0 ciało podzbiorów zbioru » na którym określone są rozkłady ¹ w zbiorze ½ �», ¼, º� 0 przestrzeń statystyczna PPPPPPPPrrrrrrrróóóóóóóóbbbbbbbbyyyyyyyy pppppppprrrrrrrroooooooosssssssstttttttteeeeeeee

• częstość wartości cechy A w próbie %rozkład empiryczny) • funkcja prawdopodobieństwa rozkładu Poissona %rozkład tradycyjny)

• wielobok częstotliwości wartości cechy A w próbie %rozkład empiryczny) • gęstość rozkładu normalnego %rozkład teoretyczny)

Page 9: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 9

Budując model zakładamy, że cecha A jest zmienną losową o rozkładzie ¹ z rodziny º %jednowymiarowy). Indukuje ona przestrzeń statystyczną w taki sposób, że AB, … , A1 są niezależnymi zmiennymi losowymi o jednakowym rozkładzie ¹ [ º. » , » � » � … � »�¨̈ ¨̈  ¨̈ ¨̈ ¡1 ¼ , ¼ � ¼ � … � ¼�¨̈ ¨̈  ¨̈ ¨̈ ¡1 º , º � º � … � º�¨̈ ¨̈  ¨̈ ¨̈ ¡1 �», ¼, º� 8 %», ¼, º)1 ¹ 0 rozkład populacji º , ¾¹¿: À [ Á Á 0 przestrzeń populacji Á à \J 0 model parametryczny Á Ä \J 0 model nieparametryczny PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 55555555:::::::: 1) A 0 budujemy model Zakładamy A~M%N) N O 0 Zatem » , ¾0,1,2, …  0 zbiór potencjalnych wartości ¼ , 2» º , ¾M%N) N O 0 Model %», ¼, º)dYY UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: À , N Á , \§ à \ 0 przestrzeń parametru 2) A 0 długość drogi hamowania Zakładamy, że A~a%b, cd) b [ \; c O 0 » , \ ¼ , Å %borelowski) º , ¾Æ%b, cd): b [ \, cd O 0 zatem Model %», ¼, º)ÇY 0 przestrzeń statystyczna UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: À , %b, cd) 0 parametr Á , \ � \§ à \d 0 przestrzeń parametru

Page 10: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 10

Niech %», ¼, º) będzie przestrzenią statystyczną 8 Niech A , %AB, Ad, … , A1)� będzie próbą z populacji o rozkładzie ¹¿, gdzie À [ Á jest parametrem. WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 44444444 1111111122222222........0000000033333333........22222222000000000000000088888888rrrrrrrr........ 33333333........ SSSSSSSSTTTTTTTTAAAAAAAATTTTTTTTYYYYYYYYSSSSSSSSTTTTTTTTYYYYYYYYKKKKKKKKIIIIIIII DDDDDDDDOOOOOOOOSSSSSSSSTTTTTTTTAAAAAAAATTTTTTTTEEEEEEEECCCCCCCCZZZZZZZZNNNNNNNNEEEEEEEE IIIIIIII ZZZZZZZZUUUUUUUUPPPPPPPPEEEEEEEEŁŁŁŁŁŁŁŁNNNNNNNNEEEEEEEE Niech A , %AB, Ad, … , A1)� będzie próba z populacji o rozkładach ¹¿ gdzie À [ Á jest parametrem. Statystyką nazywamy każdą funkcję mierzalną È próby A. np. A , B1 ∑ AJ 01JKB średnia z próby. �d , B12B ∑ �AJ 0 A�d 0 wariancja z próby1JKB DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Statystyka È jest dostateczna dla rodziny rozkładów º , ¾¹¿: À [ Á gdy rozkład warunkowy: A|È , n nie zależy od parametru À PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 66666666:::::::: Niech A , %AB, Ad, … , A1)� będzie próbą z populacji o rozkładzie M%N), N O 0 0 parametr. rozważmy statystykę postaci: È�A� , I AJ

1JKB

Mamy È~M%&N) Zatem ¹�A , +ÊÈ 0 n� , ¹�A , +, È , n�¹%È , n)

ËÌÍÌÎ 0, I +J y n1

JKB¹�A , +�¹%È , n) , I +J , n1JKB

Ï ,ËÌÍÌÎ 0, I +J y n1

JKB∏ ¹%AJ , +J)1JKB¹%È , n) , I +J , n1JKB

Ï ,ËÌÌÍÌÌÎ 0, I +J y n1

JKB∏ P2QN/Ñ+J!1JKBP21Q%0N)un! , I +J , n1JKB

Ï

,ËÌÍÌÎ0, I +J y n1

JKBP21Q%0N)∑ /ÑÒÑÓÔ n!∏ +J! P2Q1&uNu1JKB , I +J , n1JKB

Ï ,ËÌÍÌÎ0, I +J y n1

JKBn!&u ∏ +J!1JKB , I +J , n1JKB

Ï

Page 11: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 11

Stąd rozkład warunkowy A|È , n nie zależy od N, czyli È�A� , ∑ AJ1JKB jest dostateczny od parametru N. TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 44444444 %%%%%%%%KKKKKKKKrrrrrrrryyyyyyyytttttttteeeeeeeerrrrrrrriiiiiiiiuuuuuuuummmmmmmm ffffffffaaaaaaaakkkkkkkkttttttttoooooooorrrrrrrryyyyyyyyzzzzzzzzaaaaaaaaccccccccjjjjjjjjiiiiiiii)))))))):::::::: Statystyka È jest dostateczna dla parametru À ⇔ funkcje prawdopodobieństwa %gęstość) próby A można przestawić w postaci: ¹¿�A� , �¿ -È�A�. Ö�A� gdzie funkcja Ö nie zależy od parametru À a funkcja � %zależna od À) zależy od A tylko poprzez wartości statystyki È. PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 77777777:::::::: Niech A , %AB, Ad, … , A1)� będzie próbą z populacji o rozkładzie a%b, cd), b [ \, cd O 0 Wtedy: V[,�r�A� , × VØ,�r%AJ)1

JKB , × Ù 1√2Mcd exp f0 12 %AJ 0 b)dcd gÚ1JKB, %2Mc)21d exp Û0 12cd I%AJ 0 b)1

JKB Ü, %2Mcd)21d exp Û0 12cd zI AJd 0 2b I AJ w &bd1

JKB1

JKB {Ü, %2Mcd)21d exp

ÝÞÞÞß0 &2cd I AJ

1JKB� ¡àÔ%¢)

0 12cd I AJd1

JKB� ¡àr%¢)0 &bd2cdáââ

âã�¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¨¡äå,ær%u)

· 1çè%/) , �Ø,�r%n)Ö�A� gdzie

n , %nB, nd); nB�A� , I AJ1

JKB ; nd�A� , I AJd1

JKB Zatem statystyka dostateczna dla parametru À , %b, cd) ma postać:

�A� , zI AJ1

JKB , I AJd1

JKB { DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Statystykę dostateczną È nazywamy minimalną statystyka dostateczną jeżeli dla każdej statystyki dostatecznej � istnieje funkcja Ö taka, że È , Ö%é) DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Statystyka È jest zupełna dla rodziny rozkładów º , ¾¹¿: À [ Á) %dla parametru Θ) gdy z warunku ®¿[ë: i¿�Ö%È)� , 0

Page 12: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 12

wynika, że: Ö 8 0 prawie wszędzie º PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 66666666 %%%%%%%%CCCCCCCCdddddddd........)))))))):::::::: È�A� , I AJ 0 statystyka dostateczna dla parametru N.1

JKB Niech:

iQ�Ö%È)� , ∑ Ö%x)P21Q%&N)JZJKY x! , P21QìíY I Ö%x) · &Jx!ZJKY NJ�¨̈ ¨̈  ¨̈ ¨̈ ¡ , 0îïðñðä òóuęäóôõ

Ö%x) · &Jx! , 0 x , 0,1,2, … Ö%x) , 0 x , 0,1,2, … Ö 8 0 Zatem statystyka È , ∑ AJ1JKB jest zupełna dla parametru N. TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 55555555:::::::: Jeżeli statystyka È jest dostateczna i zupełna dla rodziny rozkładów º, to È jest minimalną statystyką dostateczną dla rodziny º. DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Rodzinę rozkładów prawdopodobieństwa º , ¾¹¿: À [ Á nazywamy ö 0 parametrową rodziną wykładniczą jeżeli funkcje prawdopodobieństwa %lub gęstość) rozkładu ¹¿ można zapisać w postaci:

(¿%+) , Ö%+) exp ÷I øª%À)Ȫ%+) 0 ù%À)úªKB û

PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 88888888:::::::: º , ¾a%b, cd), b [ \, cd O 0 Zatem: VØ,�r , 1√2Mcd exp f0 12 %AJ 0 b)dcd g , 1√2Mcd exp ü0 12cd %+d 0 2b+ w bd)ý, 1√2Mcd exp f bcd + 0 12cd +d 0 bd2cdg, exp þ bcd��Ô

+çàÔ 0 12cd��r+d�àr 0 bd2cd 0 12 ln%2Mcd)�¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨¡�

� øB%b, cd) , bcd ÈB%+) , + ù%+) , 0 bd2cd w 12 ln%2Mcd)

ød%b, cd) , 12cd Èd%+) , +d Ö%+) , 1

Page 13: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 13

Zatem rodzina rozkładów º jest rodziną wykładniczą. WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 55555555 1111111199999999........0000000033333333........22222222000000000000000088888888rrrrrrrr........ TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 66666666 %%%%%%%%LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaannnnnnnnnnnnnnnnaaaaaaaa)))))))):::::::: Niech A , %AB, Ad, … , A1)� będzie próbą z populacji o rozkładzie z rodziną wykładniczą º dla której zbiór ¾�øB%À), … , øú%À)�: À [ Á zawiera niezdegerowany prostokąt w \d. Wtedy statystyka È�A� , zI ÈB%AJ), … ,1

JKB I Èú%AJ)1JKB {

jest dostateczna i zupełna dla rodziny rozkładów º. PPPPPPPPrrrrrrrrzzzzzzzzyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 88888888 %%%%%%%%CCCCCCCCdddddddd........)))))))):::::::: Rozważmy następujący zbiór: ��øB%b, cd), ød%b, cd)�: b [ \, cd O 0� , �� bcd , 0 12cd� : b [ \, cd O 0 , \ � \ – zawiera niezdegenerowany prostokąt w \d. zatem statystyka: È�A� , zI ÈB%AJ), I Èd%AJ)1

JKB1

JKB { , zI AJ, I AJ1

JKB1

JKB { jest dostateczna i zupełna dla rodziny rozkładów normalnych. 44444444........ EEEEEEEESSSSSSSSTTTTTTTTYYYYYYYYMMMMMMMMAAAAAAAACCCCCCCCJJJJJJJJAAAAAAAA PPPPPPPPUUUUUUUUNNNNNNNNKKKKKKKKTTTTTTTTOOOOOOOOWWWWWWWWAAAAAAAA %%%%%%%%SSSSSSSSZZZZZZZZAAAAAAAACCCCCCCCOOOOOOOOWWWWWWWWAAAAAAAANNNNNNNNIIIIIIIIEEEEEEEE)))))))) Niech A , %AB, Ad, … , A1)� będzie próbą z populacji z rozkładem prawdopodobieństwa o rozkładzie ¹¿, gdzie À [ Á jest parametrem. Ponadto niech �%À) będzie funkcją parametryczną. DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Statystykę È�A� o wartościach w zbiorze �%À) %skonstruowana w ten sposób, aby jej wartości szacowały prawdziwą wartość funkcji parametrycznej �%À)) nazywamy estymatorem funkcji parametrycznej �%À). Oznaczamy ��A�. PPrrzzyykkłłaadd 99:: Załóżmy, że badamy cechę A o której to cesze zakładamy, że A~M%N), N O 0 0 (^k. Poszukamy estymatorów funkcji parametrycznej.

a) �B%N) , iQ%A) , N b) �d%N) , ¹Q%A , 0) , P2Q Przykładowe estymatory:

Page 14: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 14

a) �B�A� , A b) �d�A� , P2¢

PPrrzzyykkłłaadd 1100:: Badamy cechę A. Model: A~a%b, cd), b, cd 0 parametry. Poszukujemy estymatorów funkcji parametrycznej: a) �B%b, cd) , iØ,�r%A) , b b) �d%b, cd) , j^kØ,�r%A) , cd Przykłady estymatorów: a) �B�A� , A b) �d�A� , �d DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Statystykę ��A� nazywamy estymatorem nieobciążonym funkcji par �%Á), gdy ®¿[ë� i¿���A� , �%À)

PPrrzzyykkłłaadd 1111:: Zakładamy, że cecha A ma dowolny rozkład Estymujemy prawdopodobieństwo ( , ¹%A [ �), gdzie � jest zbiorem borelowskim. Rozważmy „estymator częściowy” postaci: (̂�A� , #¾x: AJ [ �Â& Mamy #¾x: AJ [ � ~ $%&, () Zatem i -(̂�A�. , 1& i%#¾x: AJ [ � , 1& &( , ( Czyli estymator (̂ jest estymatorem nieobciążonym dla (. UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: Niech l będzie dystrybuantą rozkładu zmiennej losowej A, tzn. l%+) , ¹%A � +). Wtedy dystrybuanta empiryczna l1%+) , #¾x: AJ � +Â&

jest nieobciążonym estymatorem dystrybuanty l w punkcie +.

PPrrzzyykkłłaadd 1122::

Zakładamy, że badana cecha A populacji ma rozkład o wartości oczekiwanej b.

Ponieważ

Page 15: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 15

i�A� , i z1& I AJ1

JKB { , 1& I i%AJ)1JKB , 1& W b W & , b

Zatem A jest estymatorem nieobciążonym dla b.

UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: Niech ^B, … , ^1 będą liczbami takimi, że ∑ ^J , 11JKB

Wtedy statystyka b̂�A� , ∑ ^JAJ1JKB jest nieobciążonym estymatorem parametru b.

Mamy

i -b̂�A�. , I ^J1

JKB i%AJ) , b I ^J1

JKB , b

PPrrzzyykkłłaadd 1122 ((ccdd..))::

Zakładamy dodatkowo, że cecha A ma skończoną wariancję cd oraz, że & O 1. Wtedy:

i%�d) , i z 1& 0 1 I�AJ 0 A�d1JKB { , i

������� 1& 0 1 I AJd

1JKB 0 2A& 0 1 I AJ

1JKB� ¡1¢�¨̈¨ ¨̈¨¡

2d¢r112B

w && 0 1 Ad

�������

, i z 1& 0 1 I AJd1

JKB 0 && 0 1 Ad{ , 1& 0 1 I i%AJd)1JKB 0 && 0 1 i -Ad.

Ponadto: i%AJd) , j^k%AJ)�¨ ¨¡�r w id%AJ)�̈  ̈ ¡Ør , cd w bd

i -Ad. , j^k�A� w id�A� , cd& w bd

j^k�A� , j^k z1& I AJ1

JKB { , 1&d j^k zI AJ1

JKB { , 1&d I j^k%AJ)1JKB , 1&d cd& , cd&

Zatem:

i%�d) , 1& 0 1 I%cd w bd)1JKB 0 && 0 1 �cd& w bd�

, && 0 1 cd w && 0 1 bd 0 1& 0 1 cd 0 && 0 1 bd , cd � && 0 1 0 1& 0 1� , cd

czyli statystyka �d jest estymatorem nieobciążonym dla cd.

WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 66666666 2222222266666666........0000000033333333........22222222000000000000000088888888rrrrrrrr........ �%À) 0 funkcja parametryczna A , %AB, … , A1)� 0 próba �%A) 0 estymator dla �%À)

Page 16: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 16

� 0 estymator nieobciążony ®¿[ë� i¿ -��A�. , �%À)

DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Ciąg estymatorów -�1�A�. funkcji parametrycznej �%À) nazywamy (słabo) zgodnym,

gdy ciąg -�1�A�. jest zbieżny według prawdopodobieństwa do �%À) tzn.: ®¿[ë ®�íY lim1�Z ¹¿ %|�1%A) 0 �%À)| � �) , 0 PPrrzzyykkłłaadd 1122 ((ccdd..))::

Z prawa wielkich liczb Chińczyna wynika, że b̂1�A� , A

jest zgodnym estymatorem dla b.

Ponadto �d 0 112B -B1 ∑ AJd 0 Ad1JKB .

Zastosujemy prawo wielkich liczb Chińczyna do ciągu ABd, Add

Wtedy 1& I AJd 1�Z���� i%Ad) , cd w bd1JKB

Zatem �d 1�Z���� cd

Czyli �d jest zgodnym estymatorem parametru cd

TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 77777777:::::::: Niech �1�A� będzie nieobciążonym estymatorem funkcji parametrycznej �%À), dla

której: ®¿[ë� j^k¿��1�A� 1[Z��� 0

Wtedy �1�A� jest zgodnym estymatorem dla �%À).

LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt %%%%%%%%NNNNNNNNiiiiiiiieeeeeeeerrrrrrrróóóóóóóówwwwwwwwnnnnnnnnoooooooośśśśśśśśćććććććć CCCCCCCCzzzzzzzzyyyyyyyybbbbbbbbyyyyyyyysssssssszzzzzzzzeeeeeeeewwwwwwwwaaaaaaaa)))))))):::::::: Jeżeli A jest zmienną losową o wartości oczekiwanej b i skończonej wariancji cd, to

prawdziwe jest: ®QíY: ¹%|A 0 b| � Nc) � 1Nd DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 77777777:::::::: Obieramy dowolne À [ Á; � O 0

Mamy: ®¿[ë: i¿��1�A� , �%À)

Niech: N , ��j^k¿��1�A� Zatem:

Page 17: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 17

¹¿ z �1�A�� ¡¢ 0 �%À)ìØ � �çQ�{ � j^k¿��1�A� �d

Ponieważ: j^k��1�A� �d 1�Z���� 0

Zatem: ¹¿%|�1�A� 0 �%À)| � �) 1�Z���� 0

Czyli �1�A� jest zgodnym estymatorem dla �%À). 44..11 EEssttyymmaattoorryy nniieeoobbcciiąążżoonnee oo mmiinniimmaallnneejj wwaarriiaannccjjii

Niech ! będzie rodziną estymatorów nieobciążonych posiadających skończoną

wariancję dla każdego À [ Á dla �%À).

Statystykę �Y�A� nazywamy estymatorem nieobciążonym o minimalnej wariancji

(ENMW) funkcji parametrycznej �%À), gdy: ®ä�¢�[" ®¿[ë� j^k¿��Y�A� � j^k¿���A� TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 88888888:::::::: ENMW funkcji parametrycznej �%À) jest wyznaczony jednoznacznie z dokładnością do

zbioru miary zero.

LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt 11111111:::::::: Niech È będzie ENMW funkcji parametrycznej �%À), � statystyką taką, że: ®¿[ë: i¿%�) , 0. Wtedy ®¿[ë: i¿%È�) , 0

DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd lllllllleeeeeeeemmmmmmmmaaaaaaaattttttttuuuuuuuu 11111111:::::::: Niech ° , È w #�; # [ \

Mamy i%°) , i%È)ìä%¿) w #i%�)� ¡KY , �%À)

Zatem U jest estymatorem nieobciążonym dla �%À). j^k%°) , j^k%È) w #dj^k%�) w 2# $%&%È, é)�¨̈ ¨̈¡'��à2ä%¿)�( Ponieważ È jest ENMW dla �%À), to: j^k%È) � j^k%°) , j^k%È) w #dj^k%�) w 2#i -�È 0 �%À)��. #djk%�) w 2#i -�È 0 �%À)��. � 0

Stąd ) � 0 ) , 4i��È 0 �%À)�� d � 0 i -�È 0 �%À)��. , 0 i%È�) 0 �%À)i%�) , 0 i%È�) , 0 LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt 22222222::::::::

Page 18: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 18

Niech A, v będą zmiennymi losowymi takimi, że |*%A, v)| , 1

Wtedy istnieją, liczby ^ y 0 i $ y 0 takie, że ¹%v , ^A w $) , 1

Ponadto ^ , +ó,%¢,¥)-.ñ%/) ; $ , i%v) 0 ^i%A) DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 88888888:::::::: Niech È, � będą ENMW dla �%À).

Zatem i%È) , i%�) , �%À); j^k%È) , j^k%�)

Ponadto: $%&%È, �) , i��È 0 �%À)��� 0 �%À)� , i%È�) 0 �%À) i%È)ìä%¿) 0 �%À) i%�)ìä%¿) w �d%À), i%È�) 0 �d%À) , i%Èd) 0 �d%À) , j^k%È)

Mamy i%È 0 �) , 0

Czyli È 0 � 0 ia dla 0

Zatem (z lematu 1) mamy i�È%È 0 �)� , 0

i%Èd) 0 i%È�) , 0

i%È�) , i%Èd)

Stąd: *%È, �) , $%&%È, �)/&^k%È)j^k%�) , j^k%È)j^k%È) , 1

Zatem (z lematu 2) mamy:

Istnieją stałe # y 0 i 0 takie, że: È , #� w 0 (. 1. Ponadto: # , $%&%È, �)j^k%�) , j^k%È)j^k%È) , 1 0 , i%È) 0 i%�) , 0

Stąd È , � (. 1. TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 99999999 %%%%%%%%RRRRRRRRaaaaaaaaoooooooo ―――――――― BBBBBBBBllllllllaaaaaaaacccccccckkkkkkkkwwwwwwwweeeeeeeellllllllllllllllaaaaaaaa)))))))):::::::: Niech ��A� będzie estymatorem nieobciążonym funkcji parametrycznej �%À), È

statystyką dostateczną dla parametru À. Wtedy:

1. i%�|È) 0 estymator nieobciążony funkcji parametrycznej �%À)

2. ®¿[ë: j^k¿�i%�|È)� � j^k¿���A� LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt:::::::: Jeżeli odpowiednie wartości oczekiwane istnieją, to:

1. i�i%A|v)� , i%A)

2. j^k�i%A|v)� � j^k%A)

DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd :::::::: Mamy, że A|È , n nie zależy od parametru θ, bo È jest statystyką dostateczną. Zatem ��A�|È , n nie zależy od parametru θ.

Page 19: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 19

WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 77777777 0000000022222222........0000000044444444........22222222000000000000000088888888rrrrrrrr........ TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 99999999:::::::: ��A� ― Estymator nieobciążony dla �%À) È 0 statystyka dostateczna dla À i���A�|È�

1. Estymator nieobciążony dla �%À)

2. j^k� -i -��A�. |È. � j^k� -��A�.

Stąd: i���A�ÊÈ� nie zależy od parametru À, czyli jest statystyką.

Ponadto: i¿%i���A�ÊÈ� , i¿ -��A�. , �%À)

czyli i���A�ÊÈ� jest Estymatorem nieobciążonym dla �%À)

dodatkowo: j^k� -i���A�ÊÈ�. � j^k� -��A�.

TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 1111111100000000 %%%%%%%%LLLLLLLLeeeeeeeehhhhhhhhmmmmmmmmaaaaaaaannnnnnnnnnnnnnnnaaaaaaaa ―――――――― SSSSSSSScccccccchhhhhhhheeeeeeeeffffffffffffffffeeeeeeeeggggggggoooooooo)))))))):::::::: Niech � będzie nieobciążonym estymatorem funkcji parametrycznej �%À), È statystyką

dostateczną i zupełną dla parametru À.

Wtedy i���A�ÊÈ� jest Estymatorem nieobciążonym o minimalnej wariancji funkcji

parametrycznej �%À). DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 1111111100000000:::::::: Niech �%È) , i���A�ÊÈ�

Mamy i¿��%È)� , �%À)

j^k�%�%È)) � j^k� -��A�.

Niech ��A� będzie dowolnym estymatorem nieobciążonym dla funkcji parametrycznej �%À). �%È) , i���A�ÊÈ�

Zatem dla każdego c [ Á i¿ -�%È). , �%À) j^k� -�%È). � j^k� -��A�.

Rozważmy statystykę: �� 0 ��%È)

mamy: l¿ -�� 0 ��%È). , l���%È)� 0 i� -�%È). , 0

Zatem z zupełności statystyki È

Page 20: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 20

� 0 � 8 0 (. 1. � 8 � (. 1. Stąd ®�[ë j^k���%È)� , j^k� -�%È). � j^k -��A�.

czyli �%È) , i���A�ÊÈ� jest Estymatorem nieobciążonym o minimalnej wariancji funkcji

parametrycznej �%À).

PPrrzzyykkłłaadd 99 ((ccdd..))::

Niech A , %AB, … , A1)4 będzie próbą z populacji o rozkładzie M%N), N O 0 0 parametr

oraz niech �d%N) , P2Q.

Niech �d�A� , #¾J:¢ÑKYÂ1 , B1 ∑ XY%AJ)1JKB

Wiemy, że �d�A� 0 Estymator nieobciążony dla �d%N) 0 przykład 11

Poznadto È�A� , ∑ AJ1JKB ― statystyka dostateczna i zupełna dla parametru N %przykład 6) Zatem: i��d�A�ÊÈ , n� , i z1& I XY%AJ)1

JKB I Aª , n1ªKB

Ï { , 1& I i zXY%AJ) I Aª , n1ªKB

Ï{ 1JKB

, i zXY%AB) I Aª , n1ªKB

Ï{ , ¹ zAB , 0 I AJ , n1JKB {

, ¹%AB , 0, ∑ AJ , n1JKB )¹%∑ AJ , n1JKB ) , ¹%AB , 0) W ¹%∑ AJ , n1JKB )¹%∑ AJ , n1JKB ), P2Q �%& 0 1)N�uP2%12B)Qn! %&N)uP21Qn! , %& 0 1)u&n , �1 0 1&�u

�d�A� , �1 0 1&�à TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 1111111111111111::::::::

Niech È będzie statystyką dostateczną i zupełną dla parametru À oraz niech �%È) będzie

Estymatorem nieobciążonym funkcji parametrycznej �%À). Wtedy �%È) jest

Estymatorem nieobciążonym o minimalnej wariancji funkcji parametrycznej �%À).

LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt:::::::: Jeżeli A , Ö%v) oraz istnieje i%A|v), to i%A|v) , A

DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 1111111111111111:::::::: Z twierdzenia 10 i%�%È)|È) 0 ENMW funkcji parametrycznej �%À)

Z lematu i%�%È)|È) , �%È)

czyli �%È) jest ENMW funkcji parametrycznej �%À).

Page 21: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 21

PPrrzzyykkłłaadd 1100 ((ccdd..))::

Niech A , %AB, … , A1)�%& O 1) będzie próbą z populacji o rozkładzie a%b, cd); b [ \; c O 0

Estymujemy funkcję parametryczną �B%b, cd) , b, �d%b, cd) , cd

Wiemy, że statystyka

�A� , zI AJ1

JKB , I AJd1

JKB {

jest dostateczna i zupełna dla %b, cd)

Mamy: �B�A� , A ― Estymator nieobciążony dla parametru b �d�A� , �d 0 Estymator nieobciążony dla parametru cd

Zatem

�B�A� , A , 1& I AJ1

JKB , 1& ÈB�A�

�d�A� , �d , 1& 0 1 I AJd1

JKB 0 1&%& 0 1) zI AJ1

JKB {d , 1& 0 1 Èd�A� 0 1&%& 0 1) -ÈB�A�.d

Zatem A i �d są ENMW dla b i cd odpowiednio.

Mówimy, że rodzina rozkładów º , ¾¹¿: À [ Á à \ na przestrzeni próby » à \1

spełnia warunki regularności Cramera – Rao , gdy dla funkcji prawdopodobieństwa (lub

gęstości) rozkładu ¹¿ mamy:

Zbiór � , �A , »: ¹¿�A� O 0� nie zależy od parametru À. Dla dowolnych + [ � i À [ Á

istnieje skończona pochodna 5 ln (¿%+)5À Jeżeli È jest dowolną statystyką taką, że i¿%È) * ∞ dla dowolnych À [ Á, to 55À ¦ È�A�¹¿�A�s+» , ¦ È�A� 55À ¹¿�A�s+»

Do końca rozdziału zakładamy, że rodzina º , ¾¹¿: À [ Á rozkładów

prawdopodobieństwa spełnia warunki regularności Cramera – Rao.

Funkcję X1%À) , i¿ 6 78¿ ln (¿�A�9d nazywamy ilością informacji Fishera o parametrze À z

próby A.

WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 88888888 0000000099999999........0000000044444444........22222222000000000000000088888888rrrrrrrr........

WWłłaassnnoośśćć 11:: X1%À) , &XB%À) DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd::::::::

Page 22: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 22

X1%À) , i¿ Û 55À ln z× (¿%AJ)1JKB {Üd , i¿ Û 55À I ln (¿%AJ)1

JKB Üd , i¿ ÛI 55À1JKB ln (¿ %AJ)Üd

, i¿ :I � 55À ln (¿%AJ)�d1JKB w 2 I � 55À ln (¿%Aª) 55À ln (¿�A���ª;� <

, I i¿ ü 55À ln (¿%AJ)ýd1JKB w 2 I üi¿ � 55À ln (¿%Aª)� W i¿ � 55À ln (¿�A���ýª;�, & i¿ ü 55À ln (¿ %AB)ýd�¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨¡=Ô%¿)

, &XB%À)

%>) , ¦ 55À ln (¿%Aª)(¿%Aª) s+ª» , ¦ 1(¿%Aª) W 55À (¿%Aª) W (¿%Aª)s+ª» , ¦ 55À (¿%Aª)s+ª», 55À ¦ (¿%Aª)s+ª»�¨̈ ¨ ¨̈ ¨¡B, 0

WWłłaassnnoośśćć 22::

Jeżeli dla dowolnych + [ � i À [ Á istnieje skończona pochodna 7r7¿r ln (¿�A� oraz 5d5Àd ¦ (¿�A�s+» , ¦ 5d5Àd (¿�A�s+»

to X1%À) , i¿ 60 7r7¿r ln (¿�A�9 DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd:::::::: i¿ ü0 55À � 5sÀ ln (¿�A��ý , i¿ :0 55À ? 1(¿�A� W 55À (¿�A�@<

, i¿ ´0 þ0 1(¿�A�d z 55À (¿�A�{d w 1(¿�A� 5d5Àd (¿�A��¶, i¿ f 1(¿�A� W 55À (¿�A�g�¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨¡77¿ AB òC�¢�

d

�¨̈ ¨̈ ¨̈  ¨̈ ¨̈ ¨̈ ¡'Cü 77¿ AB òC�¢�ý�¨¨̈ ¨ ¨̈ ¨¨¡DÒ%C)

0 i¿ f 1(¿�A� W 5d5Àd (¿�A�g�¨̈ ¨̈ ¨̈  ¨̈ ¨̈ ¨̈ ¡%>)KY, X1%À)

%>) ¦ 1(¿�A� W 5d5Àd (¿�A� W (¿�A� W (¿�A�s+» , ¦ 5d5Àd (¿» �A�s+ , 5d5Àd ¦ (¿�A�s+»�¨̈  ¨̈ ¡B, 0

PPrrzzyykkłłaadd1133::

Niech A , %AB, … , A1)� będzie próbą z populacji o rozkładzie M%N), gdzie N O 0

Mamy:

Page 23: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 23

(Q , P2QN/+! ; + , 1,2, … ln (Q%+) , 0N w + ln N 0 ln +! 55N ln (Q%+) , 01 w +N 5d5Nd ln (Q %+) , 0 +Nd

Zatem: X1%N) , &XB%N) , & W iQ - +Nd. , & W 1Nd iQ%A)� ¡Q , &N

TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 1111111122222222 %%%%%%%%NNNNNNNNiiiiiiiieeeeeeeerrrrrrrróóóóóóóówwwwwwwwnnnnnnnnoooooooośśśśśśśśćććććććć CCCCCCCCrrrrrrrraaaaaaaammmmmmmmeeeeeeeerrrrrrrraaaaaaaa ―――――――― RRRRRRRRaaaaaaaaoooooooo)))))))):::::::: Niech ��A� będzie estymatorem nieobciążonym o skończonej wariancji funkcji

parametrycznej �%À) oraz niech 0 * X1%À) * ∞. Wtedy: ®¿[ë: j^k¿���A� � ���%À)�dX1%À)

oraz równość zachodzi ⇔ gdy 77¿ ln (¿ �A� , x%À)���A� 0 �%À)

DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd:::::::: LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt %%%%%%%%NNNNNNNNiiiiiiiieeeeeeeerrrrrrrróóóóóóóówwwwwwwwnnnnnnnnoooooooośśśśśśśśćććććććć CCCCCCCCaaaaaaaauuuuuuuucccccccchhhhhhhhyyyyyyyy’’’’’’’’eeeeeeeeggggggggoooooooo ―――――――― SSSSSSSScccccccchhhhhhhhwwwwwwwwaaaaaaaarrrrrrrrzzzzzzzzaaaaaaaa)))))))):::::::: Jeżeli odpowiednie wartości oczekiwane istnieją, to �$%&%A, v)�d � j^k%A)j^k%v), przy

czym równość zachodzi ⇔ gdy ¹%v , ^A w $) , 1, gdzie ^ , $%&%A, v)j^k%A) ; $ , i%v) 0 ^i%A) DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 1111111122222222:::::::: Niech A , 77¿ ln (¿�A� v , ��A� Zatem EF%G) , i¿ ü 55À ln (¿�A�ý , ¦ 55À ln (¿�A�(¿�A� s+» , ¦ 1(¿�A� W 55À (¿%A) W (¿�A�s+», ¦ 55À (¿�A�s+» , 55À ¦ (¿�A�s+»�¨̈¨ ¨̈¨¡KB, 0

i¿%A) , 0

HIJF%G) , i¿�Ad� 0 �i¿%A)�d , i¿ ü 55À ln (¿�A�ýd , X³%À) EF%K) , i¿���A� , �%À) HIJF%K) , j^k¿ -��A�.

Page 24: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 24

$%&¿%A, v) , i¿ ü 55À ln (¿�A� -��A� 0 �%À).ý, i¿ ü 55À ln (¿�A� ��A�ý 0 �%À) i¿ : 55À ln (¿�A��¨̈  ¨̈ ¡¢

<�¨̈ ¨̈  ¨̈ ¨̈ ¡KY, ¦ 55À ln (¿�A� ��A�(¿�A�s+» , ¦ 1(¿�A� W 55À (¿%A) W ��A� W (¿�A�s+», ¦ ��A� 55À (¿�A�s+» , 55À ¦ ��A�(¿�A�s+»�¨̈ ¨̈  ¨̈ ¨̈ ¡'C�ä�¢� �¨̈  ¨̈ ¡L%C)

, �4%À)

Stąd: ���%À)�d � X1%À) W j^k¿���A� czyli: j^k¿���A� � ���%À)�dX1%À)

Ponadto: 55À ln (¿�A� , #��A� w 0, gdzie

# , $%&¿%v, A)j^k%v) , ��%À)j^k¿���A� , x%À) 0 , i¿�A� 0 #i¿%v) , i¿ ü 55À ln (¿�A�ý�¨̈ ¨̈  ¨̈ ¨̈ ¡KY

0 # i¿���A� �¨̈ ¨̈¡ä%¿) , 0#�%À)

Zatem: 55À ln (¿�A� , x%À)��A� 0 x%À)�%À) , x%À)���A� 0 �%À) WWnniioosseekk::

Estymator nieobciążony ��A� funkcji parametrycznej �%À) dla którego

®¿[ë� j^k¿���A� , ���%À)�dX1%À)

jest Estymatorem nieobciążonym o minimalnej wariancji funkcji parametrycznej �%À).

Estymatory nieobciążone, dla których spełniona jest powyższa równość nazywamy

efektywnymi w sensie Cramera – Rao.

PPrrzzyykkłłaadd 99 ((ccdd..))::

Niech A , %AB, … , A1)� będzie próbą z populacji o rozkładzie M%N), gdzie N O 0

Ponadto niech �B%N) , N

Niech �B�A� , A 0 Estymator nieobciążony dla �B%N) , N %przykład 12)

Mamy: X1%N) , &N %przykład 13)

Page 25: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 25

j^kQ�A� , j^kQ%A)& , N&

Stąd: j^kQ�A� , N& , ��B� %N)�dX1%N)

czyli �B�A� , A jest ENMW (efektywnym w sensie Cramera – Rao) parametru N.

44..22.. EEssttyymmaattoorryy nnaajjwwiięękksszzeejj wwiiaarryyggooddnnoośśccii

Niech A , %AB, … , A1)� będzie próbą z populacji o rozkładzie ¹¿ z rodziny º , ¾¹¿: À [ Á à \8Â

Ponadto niech rozkłady ¹¿ opisane będą za pomocą funkcji prawdopodobieństwa (lub

gęstości).

Funkcję ö określoną wzorem: ö�À, +� , (¿�A�

nazywamy funkcją wiarygodności.

Estymatorem największej wiarygodności parametru À (ENW) nazywamy statystykę ÀM�+�, której wartość ÀM�+� spełnia warunek: ®/[»: ö�ÀM�+�, +� , sup¿[ë ö�À, +� UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: Dla dowolnego parametru À, ENW może istnieć albo być wyznaczony niejednoznacznie.

Przyjmujemy, że funkcja parametryczna �%À) jest statystyką � -ÀM�+�., gdzie ÀM�+� ENW

parametru À.

Zazwyczaj wygodnie jest operować funkcją ln ö niż funkcją ö.

PPrrzzyykkłłaadd 99 ((ccdd..))::

Mamy A~M%N) N O 0 �B%N) , N; �d%N) , P2Q

Zatem: (Q%+) , P2QN/+! ; + , 0,1,2, …

ö�N, A� , × (Q%AJ)1JKB , × P2QN¢ÑAJ!1

JKB , P21Q N1¢∏ AJ!1JKB

ö , ln�ö%N, A)� , 0&N w &A ln N 0 ln × AJ! 1JKB

5ö5N , 0& w &AN

Page 26: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 26

0& w &AN , 0 ⇔ N , A 5dö5Nd , 0 &ANd ; 5dö5Nd �A� , 0 &A * 0

Zatem ENW dla parametru N jest NN�A� , A

Stąd ENW dla �B%N) jest �B�A� , A

�d%N) jest �d�A� , P2¢

55.. EESSTTYYMMAACCJJAA PPRRZZEEDDZZIIAAŁŁOOWWAA WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 99999999 1111111166666666........0000000044444444........22222222000000000000000088888888rrrrrrrr........ Niech A , %AB, … , A1)4 będzie próbą z populacji o rozkładzie ¹¿, gdzie À [ Á jest

parametrem.

Ponadto niech �%À) [ \ będzie funkcją parametryczną.

DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Przedział -ÈB�A�, nd�A�. określony parą statystyk ÈB, Èd takich, że ¹¿%ÈB � Èd) , 1 dla

każdego À [ Á, nazywamy przedziałem ufności dla �%À) na poziomie ufności 1 0 # %0 * # * 1), gdy:

®¿[ë: ¹¿ -ÈB�A� * �%À) * Èd�A�. � 1 0 #

PPrrzzyykkłłaadd1144::

Niech A , %AB, … , A1)4 będzie próbą z populacji o rozkładzie z wartością oczekiwaną b i

skończoną wariancją cd.

Zakładamy, że b [ \ jest parametrem, a cd jest znane.

Mamy:

¹Ø ��OA 0 i�A�� ¡Ø O � N P�A�� ¡�√1 �� � 1Nd 0 z nierówności Czebyszewa

¹Ø �ÊA 0 bÊc √& � N� � 1Nd

¹Ø �ÊA 0 bÊc √& * N� � 1 0 1Nd

Page 27: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 27

¹Ø �0N * A 0 bc √& * N� � 1 0 1Nd

¹Ø �0 Nc√& * A 0 b * Nc√&� � 1 0 1Nd

¹Ø �A 0 Nc√& * b * A w Nc√&� � 1 0 1Nd

1 0 # , 1 0 1Nd Q N , √#

¹Ø���A 0 c√#&�̈  ̈̈ ¡̈àÔ�¢�

* b * A w c√#&�̈  ̈̈ ¡̈àr�¢� ��� � 1 0 #

Zatem %1 0 #) W 100% przedział ufności dla parametru b ma postać:

�A 0 c√#& ; A w c√#&�

KKoonnssttrruukkccjjaa pprrzzeeddzziiaałłóóww uuffnnoośśccii zzaa ppoommooccąą ffuunnkkccjjii cceennttrraallnneejj.. DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Funkcję R -A, �%À). nazywamy funkcją centralną dla �%À), gdy rozkład

prawdopodobieństwa R -A, �%À). jest absolutnie ciągły i nie zależy od parametru À. R -A, �%À). jest funkcją ciągłą i ściśle monotoniczną względem �%À).

KKoonnssttrruukkccjjaa::

Obieramy funkcję centralną R -A, �%À).

Wybieramy stałe ^ i $ tak, aby ®¿[ë: ¹¿ -^ * R -A, �%À). * $. , 1 0 #

Stałe ^, $ można dobrać na wiele sposobów. Zazwyczaj dobieramy je tak, aby ¹¿%R � ^) , ¹%R � $) , #2

Page 28: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 28

Rozwiązujemy nierówność ^ * R -A, �%À). * $ względem �%À) otrzymując przedział -ÈB�A�, Èd�A�..

PPrrzzyykkłłaadd 1100 ((ccdd..)):: A~a%b, cd) ; b, cd 0 parametry �B%b, cd) , b ; �d%b, cd) , cd

a) Dla �B: R�A, b� , A 0 b� √& ; R�A, b�~n%& 0 1) 0 przykład 3

¹Ø,�r%R � n#) , #2

¹Ø,�r%R * n#) , 1 0 #2

lS%n#) , 1 0 #2 n# , n%1 0 #2 , & 0 1)

0n# * A 0 b� √& * n#

0 n#�√& * A 0 b√& * n#�√&

A 0 n#�√& * b√& * A w n#�√&

zatem %1 0 #) W 100% przedział ufności dla b:

%>) zA 0 �√& n -1 0 #2 , & 0 1. , A w �√& n -1 0 #2 , & 0 1.{

b) Dla �d: R�A, cd� , %& 0 1)�dcd R�A, cd�~�d%& 0 1) 0 tw. 3

Page 29: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 29

¹Ø,�r%R � ^) , #2

lS%^) , #2

^ , �d -#2 , & 0 1. ^ * %& 0 1)�dcd * $

¹Ø,�r%R � $) , #2 %& 0 1)�d$ * cd * %& 0 1)�d^

¹Ø,�r%R * $) , 1 0 #2

lS%$) , 1 0 #2

$ , �d -1 0 #2 , & 0 1.

Zatem %1 0 #) W 100% przedział ufności dla cd ma postać

? %& 0 1)�d�d -1 0 #2 , & 0 1. , %& 0 1)�d�d -#2 , & 0 1.@

PPrrzzyykkłłaadd 99 ((ccdd..)):: A~M%N) N O 0 0 parametr �B%N) , N ; �d%N) , P2Q ^) Dla �B: %& � 100) A~�a -N, Q1. 0 z centralnego twierdzenia granicznego

R�A, N� , A 0 N√N √& R�A, N�~�a%0,1)

szukamy stałych ^ i $:

¹Q%R � tT) , #2

Page 30: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 30

¹Q%R * tT) , 1 0 #2 lS%°T) , 1 0 #2 m%tT) , 1 0 #2 tT , t -1 0 #2.

0tT * A 0 N√N √& * tT ÊA 0 NÊ√N √& * tT /d bo tT O 0

�A 0 N�dN & * tTd &Ad 0 2&NA w &Nd 0 NtTd * 0 &Nd 0 �2&A w tTd �N w &Ad * 0 ) , �2&A w tTd �d 0 4&dAd , 4&dAd w tTU w 4&AtTd 0 4&dAd , tTd �4&A w tTd � O 0

ÈB�A� , 2&A w tTd 0 tT�4&A w tTd2& , A w 4#d2& 0 tTVA& w tTd4&d W A 0 t -1 0 #2. VA&

Èd�A� , A w tTd2& w tTVA& w tTd4&d W A w t -1 0 #2. VA&

Zatem %1 0 #)100% przedział ufności dla par N %& � 100): %>>) ?max XA 0 t -1 0 #2. VA&Y , XA w t -1 0 #2. VA&Y@

Porównajmy %>) i %>>) A Z �√& n -1 0 #2 , & 0 1.

A Z /A√& t -1 0 #2. FFFFFFFFaaaaaaaakkkkkkkktttttttt:::::::: %1 0 #)100% przedział ufności dla parametru N: z 12& �d -#2 , 2&A. , 12& �d �1 0 #2 , 2�&A w 1��{

PPrrzzyykkłłaadd 55 ((ccdd..)):: ^) A 0 liczba zgłoszeń

Model: A~M%N) N O 0 0 parametr

Funkcja parametryczna Estymator punktowy [\% przedział ufności ]^%_) , _ 1,74 %1,59; 1,89) ]`%_) , a2_ 0,17 %0,15; 0,20)

Page 31: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 31

$) A 0 długość drogi hamowania

Model: a%b, cd) b, cd 0 parametry

Funkcja parametryczna Estymator punktowy [\% przedział ufności ]^�b, c`� , _ 18,38 %18,28; 18,48) ]`�b, c`� , c` 0,13 %0,09; 0,20)

66.. WWEERRYYFFIIKKAACCJJAA HHIIPPOOTTEEZZ SSTTAATTYYSSTTYYCCZZNNYYCCHH

Niech A , %AB, … , A1)4 będzie próbą z populacji o rozkładzie ( [ ¹ , ¾¹¿: À [ ÁÂ

gdzie À jest parametrem.

HHiippootteezzaa ssttaattyyssttyycczznnaa:: ―――― hipoteza zerowa:hipoteza zerowa:hipoteza zerowa:hipoteza zerowa: dY: ¹ [ ºY e º %À [ ÁY e Á) ―――― hipoteza alternatywna: dB: ¹ [ ºB e º %À [ ÁB e Á) ºY f ºB , g %ÁY f ÁB , g)

DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Testem statystycznym nazywamy statystykę: ¯: » � ¾0,1Â

określoną następująco: ¯�+� , X��A� , Ù1, A [ ù0, A [ ùÏ gdzie: 1 oznacza decyzję „odrzucamy hipotezę zerową dY”

0 oznacza decyzję „nie ma podstaw do odrzucenia dY”

Typowa postać obszaru krytycznego ù: ù , ¾A [ »: È�A�� ¡ô.ñuóść îu.uõîuõJª uðîuóôð�� xçô.ñuóśćJñõuõ�ï1.

 Błąd I rodzaju:

Odrzucamy dY, gdy jest ona prawdziwa

Błąd II rodzaju:

Przyjmujemy dY, gdy jest ona fałszywa

DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Funkcję 0: Á � �0,1� taką, że 0%À) , ¹¿%A [ ù) nazywamy funkcją mocy testu.

UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa::::::::

Page 32: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 32

0%À) ,ËÌÍÌι¿%A [ ùhiijiik , À [ ÁY1 0 ¹¿�A [ ù��¨̈  ¨̈ ¡òñ.ô8. lłę8m == ñïę8m

, À [ ÁBòñ.ô8. lłę8m = ñó8ï.�m

Ï RYSUNEK!!!

UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: Zmniejszenie prawdopodobieństwa błędu I rodzaju powoduje zwiększenie

prawdopodobieństwa błędu II rodzaju (i na odwrót).

konstrukcja „optymalnego” (jednostajnie najmocniejszego) testu na poziomie istotności # %0 * # * 1):

1. Ustalamy poziom istotności # i wyznaczamy wszystkie testy, dla których: %>) À [ ÁY: 0%À) � #

2. Wśród testów spełniających %>) wybieramy ten, dla którego: ®¿[ëÔ: 0%À) , max

66..11.. TTeessttyy jjeeddnnoossttaajjnniiee nnaajjmmooccnniieejjsszzee..

Zakładamy, że rozkłady ¹¿: À [ Á badanych cech A są absolutnie ciągłe z funkcją gęstości V¿. TTTTTTTTwwwwwwwwiiiiiiiieeeeeeeerrrrrrrrddddddddzzzzzzzzeeeeeeeennnnnnnniiiiiiiieeeeeeee 1111111144444444 %%%%%%%%LLLLLLLLeeeeeeeemmmmmmmmaaaaaaaatttttttt NNNNNNNNeeeeeeeeyyyyyyyymmmmmmmmaaaaaaaannnnnnnnaaaaaaaa ―――――――― PPPPPPPPeeeeeeeeaaaaaaaarrrrrrrrssssssssoooooooonnnnnnnnaaaaaaaa)))))))):::::::: Niech ù , �A [ »: nCÔ�¢�nCr�¢� � xT będzie obszarem krytycznym dla testu hipotezy zerowej dY: À [ Á, przeciwko hipotezie alternatywnej dB: À [ Á, przy czym xT O 0 wyznaczamy z

równości: 0�%ÀY) , #

gdzie # jest zadanym poziomem istotności.

Jeżeli ù> jest dowolnym obszarem krytycznym testu powyższej hipotezy na poziomie

istotności #, to 0�%ÀB) � 0�>%ÀB)

czyli test z obszarem krytycznym ù jest najmocniejszy.

©0�%ÀY) , ¹¿o�A [ ù� , ¹¿o �V¿�A�V¿�A� � xT� , #© ? ? ?

DDDDDDDDoooooooowwwwwwwwóóóóóóóódddddddd ttttttttwwwwwwww........ 1111111144444444:::::::: Mamy:

Page 33: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 33

0�%ÀB) 0 0�>%ÀB) q ¹¿Ô�A [ ù� 0 ¹¿Ô�A [ ù>� , ¦ V¿Ô�+�s+� 0 ¦ V¿Ô�+�s+�>, ¦ V¿Ô�+�s+�f�> w ¦ V¿Ô�+�s+�f�> 0 ¦ V¿Ô�+�s+ �f�> 0 ¦ V¿Ô�+�s+�>2�, ¦ V¿Ô�+�s+�f�> 0 ¦ V¿Ô�+�s+�>2� � ¦ xTV¿o�+�s+�f�> 0 ¦ xTV¿o�+�s+�>2�, xT f¦ V¿o�+�s+�f�> 0 ¦ V¿o�+�s+�>2� g, xT ÝÞÞ

Þߦ V¿o�+�s+�f�> w ¦ V¿o�+�s+�f�>�¨̈ ¨̈ ¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨̈ ¨̈ ¨¡p nCo�/�8/r0 �¦ V¿o�+�s+�f�> w ¦ V¿o�+�s+�>f� ��¨̈ ¨̈ ¨̈ ¨̈ ¨̈  ¨̈ ¨̈ ¨̈ ¨̈ ¨̈ ¡p nCo�/�8/r> áââ

âã

, xT�¹¿o�+ [ ù� 0 ¹¿o�+ [ ù>� , xT�sY Û0�%ÀY)�̈  ̈ ¡KT 0 0�>%ÀY)�̈  ̈ ¡tT Ü�¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨¡sY� 0

PPrrzzyykkłłaadd 1155::

Niech A , %AB, … , A1)� będzie próbą z populacji o rozkładzie a%b, cd), gdzie b jest

parametrem a cd jest znane. Weryfikujemy hipotezę dY: b , bY przeciwko hipotezie dB: b O bY

Niech dB� : b , bB O bY Q bY 0 bB * 0

Zatem:

VØÔ�+� , × VØÔ%+J)1JKB , × 1√2Mcd exp Ù0 12 %+J 0 bB)dcd Ú1

JKB , %2Mcd)21d exp ÷0 12cd I%+J 0 bB)d1JKB û

VØo�+� , %2Mcd)21d exp ÷0 12cd I%+J 0 bY)d1JKB û

stąd:

Page 34: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 34

ù , X+ [ \1: exp u0 12cd ∑ %+J 0 bB)d1JKB vexp u0 12cd ∑ %+J 0 bY)d1JKB v � xTY, ÷+ [ \1: exp ÷0 12cd zI%+J 0 bB)d1

JKB 0 I%+J 0 bY)1JKB {û � xTû

, ÷+ [ \1: I%+J 0 bB)d1JKB 0 I%xJ 0 bY)d1

JKB � 02cd ln%xT)û, ÷+ [ \1: I +Jd 0 2bB&+ w &bBd 0 I +Jd w 2bY&+ 0 &bYd

1JKB

1JKB � 02cd ln xTû

, �+ [ \1: 2&+%bY 0 bB) w &%bBd 0 bYd) � 02cd ln xT�, �+ [ \1: 2&+%bY 0 bB) � 02cd ln xT 0 &%bBd 0 bYd)�, ËÍ

Î+ [ \1: + � 02cd ln xT 0 &%bBd 0 bYd)2&%bY 0 bB)�¨̈ ¨̈ ¨̈ ¨ ¨̈ ¨̈ ¨̈ ¨¡Jwx yz{ , �+ [ \1: + � xT� �

Ponadto: 0�%bY) , # ¹Øo�+ [ ù� , # ¹Øo�A � xT� � , # ¹Øo�A * xT� � , 1 0 # l¢||o%xT� ) , 1 0 #

Ponieważ: A|dY~a �bY, cd& �

Zatem: m �xT� 0 bYc √&� , 1 0 # xT� 0 bYc √& , t%1 0 #)

xT� , bY w c√& t%1 0 #)

Stąd: ù , u+ [ \1: + � bY w cM& t%1 0 #)v

Ponieważ obszar krytyczny ù nie zależy od wyboru wartości bB, zatem skonstruowany test jest

jednostajnie najmocniejszy przy hipotezie alternatywnej dB: b O bY UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: 1. Równoważna postać obszaru krytycznego:

Page 35: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 35

ù , Ù+ [ \1: + 0 bYc √& � t%1 0 #)Ú

2. Dla hipotezy alternatywnej dB: b * bY jednostajnie najmocniejszy test ma postać: ù , Ù+ [ \1: + 0 bYc √& � t%#)Ú

3. Dla hipotezy alternatywnej dB: b y bY jednostajnie najmocniejszy test nie istnieje!!

66..22.. TTeessttyy iilloorraazzuu wwiiaarryyggooddnnoośśccii

Niech A , %AB, … , A1)4 będzie próbą z populacji o rozkładzie z rodziny º , ¾¹¿: À [ Á à \TÂ

Ponadto niech rozkłady ¹¿ z rodziny º opisane będą za pomocą funkcji

prawdopodobieństwa (lub gęstości) (¿.

Testujemy hipotezę dY: À [ ÁY przeciwko hipotezie alternatywnej dB: À [ ÁB

DDDDDDDDeeeeeeeeffffffffiiiiiiiinnnnnnnniiiiiiiiccccccccjjjjjjjjaaaaaaaa:::::::: Testem ilorazu wiarygodności nazywamy test z obszarem krytycznym

ù , X+ [ »: sup¿[ëÔ ö�À, +�sup¿[ëo ö�À, +� � xTY

gdzie xT jest najmniejszą stałą taką, że ®¿[ëo: 0%À) � #.

UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: Jeżeli dY i dB są hipotezami prostymi, to test ilorazu wiarygodności pokrywa się z testem

lematu Neymana – Pearsona, czyli jest najmocniejszy.

Wyznaczając test używamy równoważnego obszaru krytycznego postaci:

ù , X+ [ »: sup¿[ëÔ ö�À, +�sup¿[ëo ö�À, +� � xTY

Supremum funkcji wiarygodności osiągane jest dla À , ÀM�+�, gdzie ÀM�+� jest ENW

parametru À.

PPrrzzyykkłłaadd1166 ((TTeesstt tt –– SSttuuddeennttaa ddllaa jjeeddnneejj pprróóbbyy))::

Niech A , %AB, … , A1)� będzie próbą z populacji o rozkładzie a%b, cd),

gdzie b, cd ― parametry. Wyznaczamy test ilorazu wiarygodności hipotezy zerowej dY: b , bY przeciwko hipotezie alternatywnej dB: b y bY

Mamy: Á , ¾%b, cd): b [ \, cd O 0Â

ö�b, cd, +� , %2M)21d%cd)21d exp ÷0 12cd I%+J 0 b)d1JKB û

Ponadto ENW parametrów b, cd mają postać:

Page 36: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 36

b̂�+� , + c}d , 1& I%+J 0 b)d1JKB �przykład 10 %4.2)�

Zatem

sup%Ø,�r)[ë ö�b, cd, +� , %2M)21d%c}d)21d expËÌÍÌÎ0 12�~d I%+J 0 +)d1

JKB�¨̈ ¨ ¨̈ ¨¡1(~r yÌzÌ{ , %2M)21d��~d�1d exp -0 &2.

ÁY , ¾%b, cd): b , bY, c O 0Â

Zatem: sup%Ø,�r)[ë ö�b, cd+� , sup�íY ö�bY, cd, +�

Zatem:

� , ln ö�bY, cd, +� , 0 &2 ln%2M) 0 &2 ln%cd) 0 12cd I%+J 0 bY)d1JKB

5�5cd , 0 &2cd w 12cU I%+J 0 bY)d1JKB

5�5cd , 0 � &cd , I%+J 0 bY)d1JKB

cd , 1& I%+J 0 bY)d1JKB , �~Yd

sup�r ö�bY, cd, +� , %2M)21d��~Yd�21d expÝÞÞÞß0 12�~Yd I%+J 0 bY)d1

JKB�¨̈ ¨ ¨̈ ¨¡1(~or áâââã , %2M)21d��~Yd�21d exp -0 &2.

ù , �+ [ \1: %2M)21d��~d�21d exp -0 &2.%2M)21d��~Yd�21d exp -0 &2. � xT� , X+ [ \1: ��~Yd�~d �1d � xTY , Ù+ [ \1: �~Yd�~d � %xT)d1Ú , %>)

�~Yd , 1& I%+J 0 bY)d1JKB , 1& I%+J 0 + w + 0 bY)d1

JKB, 1& I%+J 0 +)d1

JKB�¨¨̈  ¨¨¨¡(~rw 2& %+ 0 bY) I%+J 0 +)1

JKB�¨̈¨ ¨̈¨¡∑ /ÑìÒ� 21/�¨̈ ¨̈¡Óo

w %+ 0 bY)d , �~d w %+ 0 bY)d

Page 37: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 37

%>) , Ù+ [ \1: �~d w %+ 0 bY)d�~d � %xT)d1Ú , Ù+ [ \1: 1 w %+ 0 bY)d�~d � %xT)d1Ú, Ù+ [ \1: %+ 0 bY)d�~d � %xT)d1 0 1Ú , ÷+ [ \1: |+ 0 bY|�~ � �%xT)d1 0 1û , %>>)

�~d , 1& I%+J 0 +)d1JKB , & 0 1& W 1& 0 1 I%+J 0 +)d1

JKB , & 0 1& �d

%>>) , ÷+ [ \1: |+ 0 bY|√& 0 1 W � √& � �%xT)d1 0 1û ,ËÌÍÌÎ+ [ \1: |+ 0 bY|� √& � V%& 0 1) �%xT)d1 0 1� �¨̈ ¨̈ ¨̈  ¨̈ ¨̈ ¨̈ ¡Jwx yÌz

Ì{

ù , Ù+ [ \1: |+ 0 bY|� √& � xT� Ú

Ï+ 0 bY� √&�¨̈  ¨̈ ¡óï1. àO|o

~n%& 0 1) %przykład 3)

0%bY) � # ¹Øo�ÊÈ�+�Ê � xT� � � # ¹Øo�ÊÈ�+�Ê * xT� � � 1 0 # ¹Øo�0xT� * È�+� * xT� � � 1 0 # là||o%xT� ) 0 là||o%0xT� ) � 1 0 # là||o%xT� ) 0 1 w là||o%xT� ) � 1 0 # 2là||o%xT� ) � 2 0 # là||o%xT) � 1 0 Td xT� � n%1 0 Td , & 0 1)

Zatem: ù , Ù+ [ \1: |+ 0 bY|� √& � n -1 0 #2 , & 0 1.Ú UUUUUUUUwwwwwwwwaaaaaaaaggggggggaaaaaaaa:::::::: Dla hipotezy alternatywnej dB: b O bY obszar krytyczny ma postać: ù , Ù+ [ \1: + 0 bY� √& � n%1 0 #, & 0 1)Ú

Dla hipotezy alternatywnej dB: b * bY obszar krytyczny ma postać: ù , Ù+ [ \1: + 0 bY� √& � n%#, & 0 1)Ú

PPrrzzyykkłłaadd 55bb ((ccdd..))::

Na poziomie istotności # , 0,05 zweryfikujmy hipotezę głoszącą, że średnia długość

hamowania dla samochodu wyposażonego w nowy typ układu hamulcowego jest

istotnie krótsza niż w poprzednio stosowanym typie (wynosiła ona wtedy 18,6 [m]). A 0 długość drogi hamowania

Page 38: 1. ROZKŁADY PRAWDOPODOBIEŃSTWA

STATYSTYKA

http://totto1.prv.pl

Strona 38

Model: A~a%b, cd); µ, σd 0 parametry

Formułujemy hipotezy: �dY: b , 18,6dB: b * 18,6Ï & , 50 ; A , 18,38

Wartość statystyki testowej: A 0 bY� √& , 18,38 0 18,6√0,13 W √50 W 04,32

Wartość krytyczna: n%#, & 0 1) , n%0,05,49) , 0n%0,95,49) , 01,677

Decyzja:

Odrzucamy hipotezę dY.

PPrrzzyykkłłaadd 1177 TTeesstt ��`̀ ddllaa wwaarriiaannccjjii ww jjeeddnneejj pprróóbbiiee::

Niech A , %AB, … , A1)� %& O 1) będzie próbą z populacji o rozkładzie a%b, cd), gdzie b, cd ― parametry. Weryfikujemy hipotezę zerową dY: cd , cYd

Statystyka testowa: �d , %12B)(r�or

Rozkład statystyki testowej �d||Y~�d%& 0 1) Obszary krytyczne:

1. dB: cd y cYd ù , u+ [ \1: �d�+� � �d -1 0 #2 , & 0 1. lub �d�+� � -#2 , & 0 1.v

2. dB: cd * cYd ù , ¾+ [ \1: �d�+� � �d%1 0 #, & 0 1)

3. dB: cd * cYd ù , �+ [ \1: �d�+� � �d%#, & 0 1)�

WWWWWWWWyyyyyyyykkkkkkkkłłłłłłłłaaaaaaaadddddddd 1111111111111111 2222222266666666........0000000033333333........22222222000000000000000088888888rrrrrrrr........

PPrrzzyykkłłaadd 1188 ((TTeesstt tt –– SSttuuddeennttaa ddllaa ddwwóócchh pprróóbb))::

Niech AB , %ABB, … , AB³)�; Ad , %AdB, … , Ad1)� %_, & O 1) będą niezależnymi próbami z

populacji o rozkładach a%bB, cd); a%bd, cd) odpowiednio, gdzie bB, bd, cd 0 parametry

Weryfikujemy hipotezę zerową: dY: bB , bd przeciwko hipotezie alternatywnej dB: bB y bd