ANALIZA KORELACJI I REGRESJI

Zaleznosci korelacyjneRegresja liniowa

ANALIZA KORELACJI I REGRESJI

Agnieszka Rossa

Agnieszka Rossa ANALIZA KORELACJI I REGRESJI


Szkic wykładu

1 Zaleznosci korelacyjne

2 Regresja liniowa



Zaleznosci korelacyjnePrzykłady

Badajac róznego rodzaju zjawiska, np. społeczne,ekonomiczne, psychologiczne, przyrodniczne itp.stwierdzamy niemal zawsze, ze kazde z nich jestuwarunkowane działaniem innych zjawisk.

Istnienie zwiazków pomiedzy zjawiskamicharakteryzujacymi badane zbiorowosci bywa czestoprzedmiotem dociekan i eksperymentów naukowych.

Przykład: David Buss w publikacji z 2001 roku pt.”Psychologia ewolucyjna. Jak wytłumaczyc społecznezachowania człowieka?”, opisał badanie, w którymsprawdzał, czy istnieje zwiazek miedzy szybkosciachodzenia a pozycja społeczna. Okazało sie, ze zwiazekten jest dosc wyrazny wsród mezczyzn, natomiast wmniejszym stopniu wsród kobiet.




Inny przykład: Allison i Cicchetti w pracy ”Sleep in mammals”(Science, 194, 1976) opisali badania przeprowadzone wsródprzedstawicieli 62 gatunkach ssaków. Przedmiotem obserwacji(pomiarów) były m.in. nastepujace charakterystyki:

długosc snu w ciagu doby (godz/dobe),maksymalna długosci zycia (lata),masa ciała (kg),masa mózgu (g),czas trwania ciazy (dni).

Cel badania: Ustalenie, czy istnieja jakiekolwiek zaleznoscipomiedzy wymienionymi charakterystykami, a jesli tak, to jakajest siła tych zaleznosci.

Wyniki badan: Beda przedstawione dalej.





długosc snu w ciagu doby (godz/dobe),

maksymalna długosci zycia (lata),masa ciała (kg),masa mózgu (g),czas trwania ciazy (dni).







długosc snu w ciagu doby (godz/dobe),maksymalna długosci zycia (lata),

masa ciała (kg),masa mózgu (g),czas trwania ciazy (dni).







długosc snu w ciagu doby (godz/dobe),maksymalna długosci zycia (lata),masa ciała (kg),

masa mózgu (g),czas trwania ciazy (dni).







długosc snu w ciagu doby (godz/dobe),maksymalna długosci zycia (lata),masa ciała (kg),masa mózgu (g),

czas trwania ciazy (dni).









Wyniki badan: Beda przedstawione dalej.Agnieszka Rossa ANALIZA KORELACJI I REGRESJI



Kolejny przykład:Zwiazek pomiedzy waga a wzrostem człowieka próbuje siewyrazic za pomoca tzw. wskaznika BMI (Body MassIndex):

BMI =waga

(wzrost w metrach)2

Przyjmuje sie, ze wartosc BMI dla osób z prawidłowamasa ciała zawiera sie mniej wiecej w przedziale18,5 ≤ BMI < 25. Jednak BMI kształtuje sie na poziomieindywidualnym dla konkretnych osób i moze znacznieprzekraczac wartosc 25.

Przykład ten wskazuje, ze zaleznosc miedzy waga awzrostem nie jest scisle funkcyjna. Podana formułaopisuje tylko w przyblizeniu te zaleznosci.



Zaleznosc korelacyjna

Przy analizie współzaleznosci pomiedzy wzrostem i waga,nie oczekujemy, aby zaleznosc ta była scisle funkcyjna,tzn. aby istniała jednoznacznie okreslona funkcjamatematyczna y = f (x), podajaca wage y konkretnejosoby z ustalonym wzrostem x .

Mimo tego wydaje sie, ze ”jakas” zaleznosc pomiedzywaga i wzrostem istnieje.Obserwujac obie cechy w duzej zbiorowosci osób,dojdziemy do przekonania, ze srednia waga jest wiekszaw grupie osób wyzszych i na odwrót.Zwiazek miedzy waga i wzrostem jest przykładem tzw.zwiazku korelacyjnego, w skrócie – korelacji.Z korelacja mamy do czynienia wtedy, gdy wraz zezmiana wartosci jednej cechy zmienia sie srednia wartoscdrugiej cechy.




Przy analizie współzaleznosci pomiedzy wzrostem i waga,nie oczekujemy, aby zaleznosc ta była scisle funkcyjna,tzn. aby istniała jednoznacznie okreslona funkcjamatematyczna y = f (x), podajaca wage y konkretnejosoby z ustalonym wzrostem x .Mimo tego wydaje sie, ze ”jakas” zaleznosc pomiedzywaga i wzrostem istnieje.

Obserwujac obie cechy w duzej zbiorowosci osób,dojdziemy do przekonania, ze srednia waga jest wiekszaw grupie osób wyzszych i na odwrót.Zwiazek miedzy waga i wzrostem jest przykładem tzw.zwiazku korelacyjnego, w skrócie – korelacji.Z korelacja mamy do czynienia wtedy, gdy wraz zezmiana wartosci jednej cechy zmienia sie srednia wartoscdrugiej cechy.




Przy analizie współzaleznosci pomiedzy wzrostem i waga,nie oczekujemy, aby zaleznosc ta była scisle funkcyjna,tzn. aby istniała jednoznacznie okreslona funkcjamatematyczna y = f (x), podajaca wage y konkretnejosoby z ustalonym wzrostem x .Mimo tego wydaje sie, ze ”jakas” zaleznosc pomiedzywaga i wzrostem istnieje.Obserwujac obie cechy w duzej zbiorowosci osób,dojdziemy do przekonania, ze srednia waga jest wiekszaw grupie osób wyzszych i na odwrót.

Zwiazek miedzy waga i wzrostem jest przykładem tzw.zwiazku korelacyjnego, w skrócie – korelacji.Z korelacja mamy do czynienia wtedy, gdy wraz zezmiana wartosci jednej cechy zmienia sie srednia wartoscdrugiej cechy.




Przy analizie współzaleznosci pomiedzy wzrostem i waga,nie oczekujemy, aby zaleznosc ta była scisle funkcyjna,tzn. aby istniała jednoznacznie okreslona funkcjamatematyczna y = f (x), podajaca wage y konkretnejosoby z ustalonym wzrostem x .Mimo tego wydaje sie, ze ”jakas” zaleznosc pomiedzywaga i wzrostem istnieje.Obserwujac obie cechy w duzej zbiorowosci osób,dojdziemy do przekonania, ze srednia waga jest wiekszaw grupie osób wyzszych i na odwrót.Zwiazek miedzy waga i wzrostem jest przykładem tzw.zwiazku korelacyjnego, w skrócie – korelacji.

Z korelacja mamy do czynienia wtedy, gdy wraz zezmiana wartosci jednej cechy zmienia sie srednia wartoscdrugiej cechy.




Przy analizie współzaleznosci pomiedzy wzrostem i waga,nie oczekujemy, aby zaleznosc ta była scisle funkcyjna,tzn. aby istniała jednoznacznie okreslona funkcjamatematyczna y = f (x), podajaca wage y konkretnejosoby z ustalonym wzrostem x .Mimo tego wydaje sie, ze ”jakas” zaleznosc pomiedzywaga i wzrostem istnieje.Obserwujac obie cechy w duzej zbiorowosci osób,dojdziemy do przekonania, ze srednia waga jest wiekszaw grupie osób wyzszych i na odwrót.Zwiazek miedzy waga i wzrostem jest przykładem tzw.zwiazku korelacyjnego, w skrócie – korelacji.Z korelacja mamy do czynienia wtedy, gdy wraz zezmiana wartosci jednej cechy zmienia sie srednia wartoscdrugiej cechy.



Zaleznosc korelacyjnaPrzykład korelacji wagi i wzrostu

Copyright Giorgio Krenkel and Alex Sandri, GNU Free Documentation License, Low ResolutionAgnieszka Rossa ANALIZA KORELACJI I REGRESJI


Współczynnik korelacji PearsonaPrzykład korelacji wagi i wzrostu – c.d.



Zaleznosc korelacyjnaInne przykłady

Copyright Giorgio Krenkel and Alex Sandri, GNU Free Documentation License, Low Resolution



Zaleznosc korelacyjnaWstepne wnioski z przedstawionych przykładów

Zwiazek korelacyjny mozna odkryc obserwujac duza liczbeprzypadków. Nie ujawnia sie w pojedycznychobserwacjach.

Zaleznosc korelacyjna moze byc prostoliniowa (w skrócie –liniowa) lub krzywoliniowa, silna lub słaba.

Na podstawie obserwacji wykresu rozproszenia mozemy wprzyblizeniu ocenic charakter zaleznosci i jej siłe.

Potrzebujemy miary, która pomógłaby wyrazic siłezaleznosci w sposób liczbowy.



Pomiar siły korelacji liniowejWspółczynnik korelacji liniowej Pearsona

Załózmy, ze miedzy cechami X i Y wystepuje zaleznosckorelacyjna o charakterze liniowym.

Współczynnikiem słuzacym do pomiaru siły tego zwiazkujest współczynnik korelacji liniowej Pearsona okreslonywzorem

r =1n∑n

i=1(xi − x)(yi − y)

sx · sy,

gdzie x , y oznaczaja srednie arytmetyczne, natomiastsx , sy – odchylenia standardowe zmiennych odpowiednioX i Y .



Pomiar siły korelacji liniowejSrednie arytmetyczne i odchylenia standardowe – przypomnienie

Srednie arytmetyczne:

x =1n

n∑i=1

xi , y =1n

n∑i=1

yi .

Odchylenia standardowe:

sx =

√√√√1n

n∑i=1

(xi − x)2, sy =

√√√√1n

n∑i=1

(yi − y)2.



Współczynnik korelacji liniowej PearsonaWłasnosci

Współczynnik r korelacji liniowej Pearsona przyjmujezawsze wartosci z przedziału [−1,1].

Znak współczynnika informuje o kierunku korelacji (liniowaujemna lub liniowa dodatnia).

Wartosc bezwzgledna |r | informuje o sile korelacji liniowej.

W szczególnym przypadku, gdy |r | = 1, wówczas mamydo czynienia z korelacja funkcyjna (tzn. zaleznosc Y od Xmozna wyrazic za pomoca funkcji Y = aX + b, gdzie a,bsa pewnymi stałymi).

Współczynnik r mierzy tylko korelacje o charakterzeprostoliniowym.

Gdy r = 0, wówczas mówimy, ze nie ma korelacji liniowej(ale moze byc krzywoliniowa).



Współczynniki korelacji liniowej PearsonaAllison i Cicchetti – Wyniki badan ssaków

macierz współczynników masa masa czas snu maks. długosc czaskorelacji liniowej Pearsona ciała (kg) mózgu (g) (godz/dobe) zycia (lata) ciazy (dni)

masa ciała (kg) 1 0,93 -0,31 0,30 0,65

masa mózgu (g) 0,93 1 -0,36 0,51 0,75

czas snu (godz/dobe) -0,31 -0,36 1 -0,41 -0,63

maks. długosc zycia (lata) 0,30 0,51 -0,41 1 0,61

czas ciazy (dni) 0,65 0,75 -0,63 0,61 1

Kilka wybranych uwag podsumowania:

wszystkie cechy sa ze soba wzajemnie powiazane (w mniejszym lub wiekszym stopniu),mozna zauwazyc silna, dodatnia korelacje liniowa miedzy masa mózgu i ciała,umiarkowana, ujemna korelacja liniowa miedzy czasem snu a czasem zycia,dosc silna korelacja (dodatnia lub ujemna) czasu ciazy z innymi zmiennymi,Pytanie: Jak opisac zaleznosc np. czasu ciazy od wszystkich pozostałych zmiennych jednoczesnie?Odpowiedzi dostarcza analiza regresji.





masa ciała (kg) 1 0,93 -0,31 0,30 0,65

masa mózgu (g) 0,93 1 -0,36 0,51 0,75



czas ciazy (dni) 0,65 0,75 -0,63 0,61 1


wszystkie cechy sa ze soba wzajemnie powiazane (w mniejszym lub wiekszym stopniu),

mozna zauwazyc silna, dodatnia korelacje liniowa miedzy masa mózgu i ciała,umiarkowana, ujemna korelacja liniowa miedzy czasem snu a czasem zycia,dosc silna korelacja (dodatnia lub ujemna) czasu ciazy z innymi zmiennymi,Pytanie: Jak opisac zaleznosc np. czasu ciazy od wszystkich pozostałych zmiennych jednoczesnie?Odpowiedzi dostarcza analiza regresji.





masa ciała (kg) 1 0,93 -0,31 0,30 0,65

masa mózgu (g) 0,93 1 -0,36 0,51 0,75



czas ciazy (dni) 0,65 0,75 -0,63 0,61 1


wszystkie cechy sa ze soba wzajemnie powiazane (w mniejszym lub wiekszym stopniu),mozna zauwazyc silna, dodatnia korelacje liniowa miedzy masa mózgu i ciała,

umiarkowana, ujemna korelacja liniowa miedzy czasem snu a czasem zycia,dosc silna korelacja (dodatnia lub ujemna) czasu ciazy z innymi zmiennymi,Pytanie: Jak opisac zaleznosc np. czasu ciazy od wszystkich pozostałych zmiennych jednoczesnie?Odpowiedzi dostarcza analiza regresji.





masa ciała (kg) 1 0,93 -0,31 0,30 0,65

masa mózgu (g) 0,93 1 -0,36 0,51 0,75



czas ciazy (dni) 0,65 0,75 -0,63 0,61 1


wszystkie cechy sa ze soba wzajemnie powiazane (w mniejszym lub wiekszym stopniu),mozna zauwazyc silna, dodatnia korelacje liniowa miedzy masa mózgu i ciała,umiarkowana, ujemna korelacja liniowa miedzy czasem snu a czasem zycia,

dosc silna korelacja (dodatnia lub ujemna) czasu ciazy z innymi zmiennymi,Pytanie: Jak opisac zaleznosc np. czasu ciazy od wszystkich pozostałych zmiennych jednoczesnie?Odpowiedzi dostarcza analiza regresji.





masa ciała (kg) 1 0,93 -0,31 0,30 0,65

masa mózgu (g) 0,93 1 -0,36 0,51 0,75



czas ciazy (dni) 0,65 0,75 -0,63 0,61 1


wszystkie cechy sa ze soba wzajemnie powiazane (w mniejszym lub wiekszym stopniu),mozna zauwazyc silna, dodatnia korelacje liniowa miedzy masa mózgu i ciała,umiarkowana, ujemna korelacja liniowa miedzy czasem snu a czasem zycia,dosc silna korelacja (dodatnia lub ujemna) czasu ciazy z innymi zmiennymi,

Pytanie: Jak opisac zaleznosc np. czasu ciazy od wszystkich pozostałych zmiennych jednoczesnie?Odpowiedzi dostarcza analiza regresji.





masa ciała (kg) 1 0,93 -0,31 0,30 0,65

masa mózgu (g) 0,93 1 -0,36 0,51 0,75



czas ciazy (dni) 0,65 0,75 -0,63 0,61 1


wszystkie cechy sa ze soba wzajemnie powiazane (w mniejszym lub wiekszym stopniu),mozna zauwazyc silna, dodatnia korelacje liniowa miedzy masa mózgu i ciała,umiarkowana, ujemna korelacja liniowa miedzy czasem snu a czasem zycia,dosc silna korelacja (dodatnia lub ujemna) czasu ciazy z innymi zmiennymi,Pytanie: Jak opisac zaleznosc np. czasu ciazy od wszystkich pozostałych zmiennych jednoczesnie?Odpowiedzi dostarcza analiza regresji.



Korelacja a zaleznosci pozorne – PrzykładCzy w krajach, w których jest wiecej bocianów rodzi sie wiecej dzieci?

Wyniki analizy korelacji liniowej dla 17 krajów europejskich(dane z 1990 roku) pomiedzy powierzchnia, liczbamieszkanców, liczba urodzen oraz liczba bocianów (!):

macierz współczynników powierzchnia liczba bocianów liczba mieszkanców liczba urodzenkorelacji liniowej Pearsona

powierzchnia 1 0,579 0,812 0,923

liczba bocianów 0,579 1 0,354 0,620

liczba mieszkanców 0,812 0,354 1 0,851

liczba urodzen 0,923 0,620 0,851 1

Zaskoczeniem moze byc dosc wysoka wartosc współczynnika korelacji liniowej dla liczby bocianów i liczby urodzen.Pytania:

Czy w krajach, w których jest wiecej bocianów rodzi sie, srednio rzecz biorac, wiecej dzieci? Odpowiedzbrzmi – tak, potwierdzaja to uzyskane wyniki.Czy na tej podstawie mozemy sadzic, ze liczba bocianów oddziałuje na liczbe noworodków (lub odwrotnie)?Odpowiedz brzmi – nie, poniewaz pomiedzy badanymi zmiennymi nie ma bezposredniej zaleznosciprzyczynowo-skutkowej. Jest to przykład zaleznosci pozornej.






powierzchnia 1 0,579 0,812 0,923



liczba urodzen 0,923 0,620 0,851 1

Zaskoczeniem moze byc dosc wysoka wartosc współczynnika korelacji liniowej dla liczby bocianów i liczby urodzen.

Pytania:Czy w krajach, w których jest wiecej bocianów rodzi sie, srednio rzecz biorac, wiecej dzieci? Odpowiedzbrzmi – tak, potwierdzaja to uzyskane wyniki.Czy na tej podstawie mozemy sadzic, ze liczba bocianów oddziałuje na liczbe noworodków (lub odwrotnie)?Odpowiedz brzmi – nie, poniewaz pomiedzy badanymi zmiennymi nie ma bezposredniej zaleznosciprzyczynowo-skutkowej. Jest to przykład zaleznosci pozornej.






powierzchnia 1 0,579 0,812 0,923



liczba urodzen 0,923 0,620 0,851 1

Zaskoczeniem moze byc dosc wysoka wartosc współczynnika korelacji liniowej dla liczby bocianów i liczby urodzen.Pytania:

Czy w krajach, w których jest wiecej bocianów rodzi sie, srednio rzecz biorac, wiecej dzieci? Odpowiedzbrzmi – tak, potwierdzaja to uzyskane wyniki.Czy na tej podstawie mozemy sadzic, ze liczba bocianów oddziałuje na liczbe noworodków (lub odwrotnie)?Odpowiedz brzmi – nie, poniewaz pomiedzy badanymi zmiennymi nie ma bezposredniej zaleznosciprzyczynowo-skutkowej. Jest to przykład zaleznosci pozornej.



Korelacja a zaleznosci pozorne – Przykład c.d.

Zaleznosc przyczynowo-skutkowa pomiedzy liczbaurodzen i liczba bocianów jest pozorna, gdyz ma tumiejsce jedynie współwystepowanie obu zjawisk (wiekszejliczbie bocianów towarzyszy na ogół wieksza liczbaurodzen i na odwrót).

Pozorna zaleznosc ma miejsce takze miedzy liczbaurodzen i powierzchnia kraju.Układ zaleznosci przyczynowo-skutkowych w tymprzykładzie mozna zilustrowac graficznie:





Zaleznosc przyczynowo-skutkowa pomiedzy liczbaurodzen i liczba bocianów jest pozorna, gdyz ma tumiejsce jedynie współwystepowanie obu zjawisk (wiekszejliczbie bocianów towarzyszy na ogół wieksza liczbaurodzen i na odwrót).Pozorna zaleznosc ma miejsce takze miedzy liczbaurodzen i powierzchnia kraju.

Układ zaleznosci przyczynowo-skutkowych w tymprzykładzie mozna zilustrowac graficznie:





Zaleznosc przyczynowo-skutkowa pomiedzy liczbaurodzen i liczba bocianów jest pozorna, gdyz ma tumiejsce jedynie współwystepowanie obu zjawisk (wiekszejliczbie bocianów towarzyszy na ogół wieksza liczbaurodzen i na odwrót).Pozorna zaleznosc ma miejsce takze miedzy liczbaurodzen i powierzchnia kraju.Układ zaleznosci przyczynowo-skutkowych w tymprzykładzie mozna zilustrowac graficznie:



Inne miary korelacji – współczynnik korelacji rang SpearmanaPrzykład

Przypuscmy, ze porzadkujemy 4 studentów w zaleznosciod stopnia ich zdolnosci matematycznych, zaczynajac odstudenta najlepszego, któremu przydzielamy numer 1,a konczac na studencie najsłabszym, któremuprzydzielamy numer 4 (ocene zdolnosci powierzamy np.ekspertowi).

Mówimy wówczas, ze studenci zostali uporzadkowani wkolejnosci rang, a numer studenta jest jego ranga.

Oznaczmy rangi poszczególnych studentów przez ai .Przykładowo, niech: a1 = 4,a2 = 2,a3 = 3,a4 = 1, cooznacza, iz w badanej grupie, ustawionej w kolejnoscialfabetycznej, pierwszy student (oznaczmy go umownielitera A) jest najsłabszy, student B – dobry, student C –słaby, a student D – najlepszy.




Załózmy, ze w podobny sposób uporzadkowalismy tychsamych studentów z punktu widzenia ich zdolnoscimuzycznych. Niech bi beda rangami poszczególnychstudentów:

b1 = 2,b2 = 1,b3 = 3,b4 = 4

W ten sposób kazdemu studentowi przyporzadkowalismypo dwie rangi ai oraz bi .Pytanie: Jak na tej podstawie mozemy ocenic, czy istniejezaleznosc miedzy zdolnosciami matematycznymi orazmuzycznymi w badanej grupie. Innymi słowy, jak ocenicstopien zgodnosci (lub niezgodnosci) rang ai ,bi?Uwaga: W przypadku danych rangowych nie mozemyzastosowac współczynnika korelacji Pearsona.





b1 = 2,b2 = 1,b3 = 3,b4 = 4

W ten sposób kazdemu studentowi przyporzadkowalismypo dwie rangi ai oraz bi .

Pytanie: Jak na tej podstawie mozemy ocenic, czy istniejezaleznosc miedzy zdolnosciami matematycznymi orazmuzycznymi w badanej grupie. Innymi słowy, jak ocenicstopien zgodnosci (lub niezgodnosci) rang ai ,bi?Uwaga: W przypadku danych rangowych nie mozemyzastosowac współczynnika korelacji Pearsona.





b1 = 2,b2 = 1,b3 = 3,b4 = 4

W ten sposób kazdemu studentowi przyporzadkowalismypo dwie rangi ai oraz bi .Pytanie: Jak na tej podstawie mozemy ocenic, czy istniejezaleznosc miedzy zdolnosciami matematycznymi orazmuzycznymi w badanej grupie. Innymi słowy, jak ocenicstopien zgodnosci (lub niezgodnosci) rang ai ,bi?

Uwaga: W przypadku danych rangowych nie mozemyzastosowac współczynnika korelacji Pearsona.





b1 = 2,b2 = 1,b3 = 3,b4 = 4

W ten sposób kazdemu studentowi przyporzadkowalismypo dwie rangi ai oraz bi .Pytanie: Jak na tej podstawie mozemy ocenic, czy istniejezaleznosc miedzy zdolnosciami matematycznymi orazmuzycznymi w badanej grupie. Innymi słowy, jak ocenicstopien zgodnosci (lub niezgodnosci) rang ai ,bi?Uwaga: W przypadku danych rangowych nie mozemyzastosowac współczynnika korelacji Pearsona.



Inne miary korelacji – współczynnik korelacji rang Spearmana

Jednym ze współczynników korelacji obliczanych dladanych rangowych jest współczynnik korelacji rangSpearmana, okreslony wzorem

rS = 1−6∑n

i=1 d2i

n(n2 − 1),

gdzie di = ai − bi .

Własnosci:Współczynnik rS przymuje wartosci z przedziału [−1,1].

Wartosc rS = 1 oznacza, ze istnieje całkowita zgodnoscuporzadkowan wg rang ai i bi .

Wartosc rS = −1 oznacza z kolei pełna przeciwstawnoscuporzadkowan miedzy rangami.

Wartosc rS = 0 oznacza brak korelacji rang.





rS = 1−6∑n

i=1 d2i

n(n2 − 1),


Własnosci:

Współczynnik rS przymuje wartosci z przedziału [−1,1].








rS = 1−6∑n

i=1 d2i

n(n2 − 1),










rS = 1−6∑n

i=1 d2i

n(n2 − 1),





Wartosc rS = 0 oznacza brak korelacji rang.Agnieszka Rossa ANALIZA KORELACJI I REGRESJI



Student rangi ai rangi bi róznice rang di d2i

A 4 2 2 4B 2 1 1 1C 3 3 0 0D 1 4 -3 9

Razem × × × 14Zródło: Dane umowne.

Wartosc współczynnika korelacji rang Spearmana w tymprzykładzie wynosi:

rS = 1− 6 · 144(16− 1)

= −0,4

co swiadczy o stosunkowo słabej korelacji miedzyzdolnosciami matematycznymi i muzycznymi badanychstudentów.



Inne miary korelacji – współczynnik korelacji rangowej Kendalla

Innym współczynnikiem zaliczanym do mierników korelacjirangowej jest współczynnik Kendalla.

Zalózmy, ze obserwujemy dwie cechy ilosciowe X i Yw pewnej n-elementowej zbiorowosci.

Jednostki zbiorowosci łaczymy w dwuelementowepodzbiory.

Dla n-elementowej zbiorowosci mozna utworzyc łacznieN = n·(n−1) takich podzbiorów (tj. uporzadkowanych par).

Współczynnik korelacji Kendalla obliczamy na podstawiezbiorowosci dwuelementowych podzbiorów, utworzonych zelementów zbioru wyjsciowego.



Inne miary korelacji – współczynnik korelacji rangowej Kendalla

Niech Uj dla j = 1,2, . . . ,N beda zmiennymi przyjmujacymiwartosci 1 lub -1, zgodnie z nastepujacymi zasadami:

Uj = 1, gdy wartosc cechy X dla pierwszego elementuw j-tej parze jest wieksza niz dla drugiego elementu.Uj = −1, gdy wartosc cechy X dla pierwszego elementuw j-tej parze jest mniejsza niz dla drugiego elementu.

W podobny sposób zdefiniujmy zmienne Vj dlaj = 1,2, . . . ,N, odwołujac sie do analogicznego sposobuuporzadkowan wartosci cechy Y w poszczególnychparach.

Uwaga: Dalej zakładac bedziemy, ze zarówno wartoscicechy X , jak i cechy Y nie powtarzaja sie w badanejzbiorowosci (w przeciwnym przypadku trzeba skorzystac zpewnej skorygowanej formuły na współczynnik Kendalla,która tutaj nie bedzie przytoczona).



Inne miary korelacji – współczynnik korelacji rangowej KendallaPrzykład

Niech P oznacza liczbe przypadków (par) zgodnieuporzadkowanych, tj. liczbe par, dla których wartosci Ujsa równe Vj .

Podobnie, niech Q oznacza liczbe przypadków (par)niezgodnie uporzadkowanych, tj. liczbe par, dla którychwartosci Uj oraz Vj sa przeciwnego znaku.Przy tych oznaczeniach współczynniki korelacji Kendallawyraza sie wzorem:

τ =P −Q

n(n − 1).

Podobnie, jak współczynnik korelacji Spearmanna,współczynnik τ (tau) przyjmuje zawsze wartosci zprzedziału [−1,1]. Jest równiez podobnie interpretowany.




Niech P oznacza liczbe przypadków (par) zgodnieuporzadkowanych, tj. liczbe par, dla których wartosci Ujsa równe Vj .Podobnie, niech Q oznacza liczbe przypadków (par)niezgodnie uporzadkowanych, tj. liczbe par, dla którychwartosci Uj oraz Vj sa przeciwnego znaku.

Przy tych oznaczeniach współczynniki korelacji Kendallawyraza sie wzorem:

τ =P −Q

n(n − 1).





Niech P oznacza liczbe przypadków (par) zgodnieuporzadkowanych, tj. liczbe par, dla których wartosci Ujsa równe Vj .Podobnie, niech Q oznacza liczbe przypadków (par)niezgodnie uporzadkowanych, tj. liczbe par, dla którychwartosci Uj oraz Vj sa przeciwnego znaku.Przy tych oznaczeniach współczynniki korelacji Kendallawyraza sie wzorem:

τ =P −Q

n(n − 1).





Wrócmy do przykładu dotyczacego zdolnosci matematycznychi muzycznych grupy studentów (A,B,C,D). W tym przykładziemozna utworzyc łacznie 4·(4− 1)=12 dwuelementowychpodzbiorów ze zbioru 4-elementowego (por. pierwsza kolumnatablicy).Dalsze kolumny prezentuja uporzadkowane w parach wartoscicech, w tym przypadku rang ai oraz bi , a takze wartosci Uj ,Vj .

Pary ai dla pierwszej uporzadkowanie Uj bi dla pierwszej uporzadkowanie Vjstudentów i drugiej osoby w parze i drugiej osoby w parze

(A,B) 4; 2 1 2; 1 1(A,C) 4; 3 1 2; 3 -1(A,D) 4; 1 1 2; 4 -1(B,A) 2; 4 -1 1; 2 -1(B,C) 2; 3 -1 1; 3 -1(B,D) 2; 1 1 1; 4 -1(C,A) 3; 4 -1 3; 2 1(C,B) 3; 2 1 3; 1 1(C,D) 3; 1 1 3; 4 -1(D,A) 1; 4 -1 4; 2 1(D,B) 1; 2 -1 4; 1 1(D,C) 1; 3 -1 4; 3 1




Liczba P przypadków (par) zgodnie uporzadkowanych wnaszym przykładzie wynosi P = 4 (oznaczone w tablicykolorem niebieskim).

Z kolei liczba Q przypadków (par) niezgodnieuporzadkowanych wynosi Q = 8 (oznaczone w tablicykolorem czerwonym).

Współczynniki Kendalla dla n = 4, P = 4, Q = 8 wynosi:

τ = − 412≈ −0,33

co wskazuje na słaba korelacje miedzy zdolnosciamimatematycznymi i muzycznymi w badanej grupiestudentów (podobna wartosc, jak współczynnika rS).



Inne miary korelacji – współczynnik korelacji rangowej KendallaUwagi

Zauwazymy, ze jesli dla pewnej pary elementów, np. (A,B)wartosc Uj wynosi 1, to dla pary (B,A) musi byc Uj = −1.

Oznacza to, ze zamiast badac zbiorowosc wszystkichpodzbiorów dwuelementowych, wsród których niektórepary składaja sie z tych samych elementów, a róznia siejedynie ich kolejnoscia (np. (A,B) i (B,A) lub (A,C)i (C,A) itd.), mozna ograniczyc rozwazania do mniejszejzbiorowosci par, w której podzbiór o okreslonychelementach wystepuje tylko raz.Jednak w takiej zbiorowosci liczba wszystkich mozliwychpar byłaby równa n(n−1)

2 , a wartosci P i Q byłyby o połowemniejsze, a wiec wzór na współczynnik τ przyjałby postac:

τ =2(P ′ −Q′)n(n − 1)

, gdzie P ′ =12

P,Q′ =12

Q.




Zauwazymy, ze jesli dla pewnej pary elementów, np. (A,B)wartosc Uj wynosi 1, to dla pary (B,A) musi byc Uj = −1.Oznacza to, ze zamiast badac zbiorowosc wszystkichpodzbiorów dwuelementowych, wsród których niektórepary składaja sie z tych samych elementów, a róznia siejedynie ich kolejnoscia (np. (A,B) i (B,A) lub (A,C)i (C,A) itd.), mozna ograniczyc rozwazania do mniejszejzbiorowosci par, w której podzbiór o okreslonychelementach wystepuje tylko raz.

Jednak w takiej zbiorowosci liczba wszystkich mozliwychpar byłaby równa n(n−1)


τ =2(P ′ −Q′)n(n − 1)

, gdzie P ′ =12

P,Q′ =12

Q.




Zauwazymy, ze jesli dla pewnej pary elementów, np. (A,B)wartosc Uj wynosi 1, to dla pary (B,A) musi byc Uj = −1.Oznacza to, ze zamiast badac zbiorowosc wszystkichpodzbiorów dwuelementowych, wsród których niektórepary składaja sie z tych samych elementów, a róznia siejedynie ich kolejnoscia (np. (A,B) i (B,A) lub (A,C)i (C,A) itd.), mozna ograniczyc rozwazania do mniejszejzbiorowosci par, w której podzbiór o okreslonychelementach wystepuje tylko raz.Jednak w takiej zbiorowosci liczba wszystkich mozliwychpar byłaby równa n(n−1)


τ =2(P ′ −Q′)n(n − 1)

, gdzie P ′ =12

P,Q′ =12

Q.



Analiza regresjiWprowadzenie

Jak juz wczesniej wspomniano, na ogół powiazaniapomiedzy cechami (zmiennymi) nie maja charakterumatematycznego, który dałoby sie zapisac jednoznaczniew postaci:

Y = f (X1,X2, . . . ,Xs),

gdzie f oznacza pewna funkcje opisujaca zaleznosczmiennej Y od zmiennych X1,X2, . . . ,Xs.

Zapis taki oznaczałby, ze zaleznosc pomiedzy Y apozostałymi cechamy jest scisle funkcyjna, tj. konkretnymwartosciom obserwowanych cech X1,X2, . . . ,Xsodpowiada dokładnie jedna wartosc cechy Y .W przypadku zjawisk społecznych, ekonomicznych,przyrodniczych itp. zaleznosci funkcyjne rzadko wystepuja,czesciej natomiast wystepuja zaleznosci korelacyjne.





Y = f (X1,X2, . . . ,Xs),

gdzie f oznacza pewna funkcje opisujaca zaleznosczmiennej Y od zmiennych X1,X2, . . . ,Xs.Zapis taki oznaczałby, ze zaleznosc pomiedzy Y apozostałymi cechamy jest scisle funkcyjna, tj. konkretnymwartosciom obserwowanych cech X1,X2, . . . ,Xsodpowiada dokładnie jedna wartosc cechy Y .

W przypadku zjawisk społecznych, ekonomicznych,przyrodniczych itp. zaleznosci funkcyjne rzadko wystepuja,czesciej natomiast wystepuja zaleznosci korelacyjne.





Y = f (X1,X2, . . . ,Xs),

gdzie f oznacza pewna funkcje opisujaca zaleznosczmiennej Y od zmiennych X1,X2, . . . ,Xs.Zapis taki oznaczałby, ze zaleznosc pomiedzy Y apozostałymi cechamy jest scisle funkcyjna, tj. konkretnymwartosciom obserwowanych cech X1,X2, . . . ,Xsodpowiada dokładnie jedna wartosc cechy Y .W przypadku zjawisk społecznych, ekonomicznych,przyrodniczych itp. zaleznosci funkcyjne rzadko wystepuja,czesciej natomiast wystepuja zaleznosci korelacyjne.




W statystyce zaleznosci o charakterze korelacyjnympomiedzy zmienna Y a pewnym zespołem zmiennychX1,X2, . . . ,Xs wyraza sie czesto w postaci zblizonej doprzedstawionej powyzej, ale z pewna istotna zmiana.Mianowicie:

Y = f (x1, x2, . . . , xs) + ε

x1, x2, . . . , xs reprezentuja tu konkretne (ustalone) wartoscizmiennych X1,X2, . . . ,Xs;ε jest składnikiem losowym reprezentujacym sumaryczny(nieobserwowany) wpływ innych czynników;Dołaczenie składnika losowego ε powoduje, ze konkretnymwartosciom x1, x2, . . . , xs moga odpowiadac nie takiesame, ale rózne wartosci zmiennej Y .





Y = f (x1, x2, . . . , xs) + ε

x1, x2, . . . , xs reprezentuja tu konkretne (ustalone) wartoscizmiennych X1,X2, . . . ,Xs;

ε jest składnikiem losowym reprezentujacym sumaryczny(nieobserwowany) wpływ innych czynników;Dołaczenie składnika losowego ε powoduje, ze konkretnymwartosciom x1, x2, . . . , xs moga odpowiadac nie takiesame, ale rózne wartosci zmiennej Y .





Y = f (x1, x2, . . . , xs) + ε

x1, x2, . . . , xs reprezentuja tu konkretne (ustalone) wartoscizmiennych X1,X2, . . . ,Xs;ε jest składnikiem losowym reprezentujacym sumaryczny(nieobserwowany) wpływ innych czynników;

Dołaczenie składnika losowego ε powoduje, ze konkretnymwartosciom x1, x2, . . . , xs moga odpowiadac nie takiesame, ale rózne wartosci zmiennej Y .





Y = f (x1, x2, . . . , xs) + ε

x1, x2, . . . , xs reprezentuja tu konkretne (ustalone) wartoscizmiennych X1,X2, . . . ,Xs;ε jest składnikiem losowym reprezentujacym sumaryczny(nieobserwowany) wpływ innych czynników;Dołaczenie składnika losowego ε powoduje, ze konkretnymwartosciom x1, x2, . . . , xs moga odpowiadac nie takiesame, ale rózne wartosci zmiennej Y .



Analiza regresjiTerminologia

Zmienna objasniana (zmienna zalezna) – zmiennabedaca przedmiotem badania. Na ogół oznaczamy jasymbolem Y .

Zmienne objasniajace (zmienne niezalezne) – zmienne,za pomoca których chcemy objasnic zmiany zmiennejzaleznej. Na ogół oznaczamy je symbolami X1,X2, . . ..

Funkcja regresji – funkcja odwzorowujaca zaleznoscpomiedzy zmienna objasniana Y a zmiennymiobjasniajacymi.

W przypadku wielu zmiennych objasniajacych mówimy oregresji wielorakiej, natomiast w przypadku jednejzmiennej objasniajacej – o regresji jednej zmiennej.



Regresja liniowa jednej zmiennej

Dalej przyjmiemy nastepujace załozenia:Składnik losowy ε ma wartosc srednia równa 0 i pewnadodatnia wariancje oznaczana symbolem σ2.

Mamy tylko jedna zmienna objasniajaca X .

Funkcja f nalezy do klasy funkcji liniowych.

Model regresji liniowej:Przy podanych załozeniach, zaleznosc pomiedzy cechamiY i X mozemy zapisac w postaci

Y = a + bx + ε,

gdzie a i b sa pewnymi parametrami.

Model ten nazywamy modelem regresji liniowej jednejzmiennej. Parametry a i b nazywamy odpowiedniowyrazem wolnym i współczynnikiem regresji.







Model regresji liniowej:

Przy podanych załozeniach, zaleznosc pomiedzy cechamiY i X mozemy zapisac w postaci

Y = a + bx + ε,









Model regresji liniowej:Przy podanych załozeniach, zaleznosc pomiedzy cechamiY i X mozemy zapisac w postaci

Y = a + bx + ε,






Funkcjef (x) = a + bx

nazywamy prosta regresji.

Podstawowym problemem, jaki pojawia sie przywyznaczaniu równania prostej regresji, która opisywałabymozliwie wiernie zaleznosc pomiedzy konkretnymizmiennymi Y i X , jest okreslenie liczbowych wartosciparametrów a i b.

Dokonujemy tego na podstawie obserwacji wartosci cechY i X w badanej zbiorowosci, stosujac tzw. metodenajmniejszych kwadratów MNK.



Regresja liniowa jednej zmiennejPrzykład



Regresja liniowa jednej zmiennejPrzykład – jak wyznaczyc prosta regresji?

W tym przykładzie chcielibysmy, zeby prosta najlepiejprzyblizała dana chmure punktów, czyli by wartosci róznicyi − yi (tzw. wartosci resztowe lub inaczej – wartosciskładnika losowego) były jak najmniejsze dla wszystkichbadanych jednostek.

Jak łatwo zauwazyc, przesuniecie prostej w kierunkujednego z punktów moze spowodowac odsuniecie odinnych punktów. Tak wiec postulat, aby jednoczesnieminimalizowac wszystkie wartosci resztowe nie jestmozliwy do realizacji.

Jako kryterium dopasowania prostej regresji do danychempirycznych przyjmuje sie minimalizacje sumykwadratów wartosci resztowych.



Metoda najmniejszych kwadratów

Niech (y1, x1), (y2, x2), . . . , (yn, xn),bedzie n-elementowym zbiorem wartosci zmiennych Y i X .

Rozwazmy sume kwadratów wartosci resztowychn∑

i=1

(yi − yi)2 ,

lub równowaznien∑

i=1

(yi − (a + bxi))2 ,

która oznaczymy symbolem S(a,b).Funkcje regresji, dla której wartosci parametrów a,bwyznaczone zostały w drodze minimalizacji sumy S(a,b)nazywamy prosta regresji MNK i oznaczamy przez y .




Niech (y1, x1), (y2, x2), . . . , (yn, xn),bedzie n-elementowym zbiorem wartosci zmiennych Y i X .Rozwazmy sume kwadratów wartosci resztowych

n∑i=1

(yi − yi)2 ,


i=1

(yi − (a + bxi))2 ,

która oznaczymy symbolem S(a,b).

Funkcje regresji, dla której wartosci parametrów a,bwyznaczone zostały w drodze minimalizacji sumy S(a,b)nazywamy prosta regresji MNK i oznaczamy przez y .




Niech (y1, x1), (y2, x2), . . . , (yn, xn),bedzie n-elementowym zbiorem wartosci zmiennych Y i X .Rozwazmy sume kwadratów wartosci resztowych

n∑i=1

(yi − yi)2 ,


i=1

(yi − (a + bxi))2 ,

która oznaczymy symbolem S(a,b).Funkcje regresji, dla której wartosci parametrów a,bwyznaczone zostały w drodze minimalizacji sumy S(a,b)nazywamy prosta regresji MNK i oznaczamy przez y .



Metoda najmniejszych kwadratówTroche matematyki, czyli jak obliczyc a i b

Po zrozniczkowaniu sumy S(a,b) wzgledem a i bi przyrównaniu obu pochodnych czastkowych do 0, mamy

∂S(a,b)

∂a= −2

n∑i=1

(yi − (a + bxi)) = 0,

∂S(a,b)

∂b= −2

n∑i=1

xi(yi − (a + bxi)) = 0.

Zapisujac inaczej, mamy układ dwóch równann∑

i=1

yi − na− bn∑

i=1

xi = 0,

n∑i=1

xiyi − an∑

i=1

xi − bn∑

i=1

x2i = 0.



Metoda najmniejszych kwadratówTroche matematyki

Z pierwszego równania natychmiast otrzymujemy, ze

a =1n

(n∑

i=1

yi − bn∑

i=1

xi

)= y − bx .

Po wstawieniu powyzszego wyrazenia do drugiegorównania mamy takze

n∑i=1

xiyi − (y − bx)n∑

i=1

xi − bn∑

i=1

x2i = 0,

co po przekształceniach daje

b =

∑ni=1(xi − x)(yi − y)∑n

i=1(xi − x)2 .



Metoda najmniejszych kwadratówPodsumowanie

Równanie prostej regresji MNK y = a + bx znajdziemy,obliczajac wyraz wolny a oraz współczynnik regresji b,które sa okreslone nastepujacymi wzorami

a = y − bx ,

b =

∑ni=1(xi − x)(yi − y)∑n

i=1(xi − x)2 ,

lub równowaznie

b =1n∑n

i=1(xi − x)(yi − y)

s2x

,

gdzie(y1, x1), (y2, x2), . . . , (yn, xn),

sa wartosciami zmiennych Y i X w badanej zbiorowosci.



Relacja łaczaca współczynnik regresji i współczynnik korelacjiliniowej Pearsona

Porównajmy wzory na współczynnik regresji b orazwspółczynnik korelacji liniowej Pearsona r :

b =1n∑n

i=1(xi − x)(yi − y)

s2x

, r =1n∑n

i=1(xi − x)(yi − y)

sx · sy.

Wniosek 1: Pomiedzy współczynnikami b i r zachodzirównosc

b = r ·sy

sx

Wniosek 2: Współczynniki b i r maja zawsze ten samznak, przy czym współczynnik b nie musi nalezec doprzedziału [−1,1], w przeciwienstwie do współczynnika rkorelacji liniowej Pearsona.



Regresja liniowa jednej zmiennejPrzykład c.d.




Ocena ”dobroci” dopasowania prostej regresji MNK

Jak wiemy, zmiennosc kazdej cechy ilosciowej, a wiecrówniez zmiennej objasnianej Y , mozemy oceniac np. zapomoca wariancji s2

y :

s2y =

1n

n∑i=1

(yi − y)2,

gdzie y1, y2, . . . , yn jest n-elementowym zbioremzaobserowanych wartosci tej zmiennej.

Pomijajac składnik 1/n w powyzszym wyrazeniu,otrzymujemy wzór na tzw. całkowita sume kwadratów

SST =n∑

i=1

(yi − y)2.

Mozna pokazac, ze SST daje sie rozbic na dwie sumy,które takze interpretujemy w kategoriach zmiennosci.




Jak wiemy, zmiennosc kazdej cechy ilosciowej, a wiecrówniez zmiennej objasnianej Y , mozemy oceniac np. zapomoca wariancji s2

y :

s2y =

1n

n∑i=1

(yi − y)2,

gdzie y1, y2, . . . , yn jest n-elementowym zbioremzaobserowanych wartosci tej zmiennej.Pomijajac składnik 1/n w powyzszym wyrazeniu,otrzymujemy wzór na tzw. całkowita sume kwadratów

SST =n∑

i=1

(yi − y)2.

Mozna pokazac, ze SST daje sie rozbic na dwie sumy,które takze interpretujemy w kategoriach zmiennosci.




Mianowicie

SST =n∑

i=1

(yi − yi)2 +

n∑i=1

(yi − y)2,

gdzie yi = a + bxi .

Pierwszy ze składników nosi nazwe sumy kwadratówbłedów, poniewaz jest suma kwadratów wartosciresztowych. Jest oznaczany przez SSE . Drugi składniknosi miano regresyjnej sumy kwadratów i jest oznaczanysymbolem SSR.Suma SSR jest czescia zmiennosci całkowitej SST , któramozna objasnic za pomoca regresji miedzy zmiennaobjasniana Y i zmienna objasniajaca X .Z kolei sume SSE traktujemy jako te czesc zmiennosciSST , która nie jest wyjasniona przez model regresji.




Mianowicie

SST =n∑

i=1

(yi − yi)2 +

n∑i=1

(yi − y)2,

gdzie yi = a + bxi .Pierwszy ze składników nosi nazwe sumy kwadratówbłedów, poniewaz jest suma kwadratów wartosciresztowych. Jest oznaczany przez SSE . Drugi składniknosi miano regresyjnej sumy kwadratów i jest oznaczanysymbolem SSR.

Suma SSR jest czescia zmiennosci całkowitej SST , któramozna objasnic za pomoca regresji miedzy zmiennaobjasniana Y i zmienna objasniajaca X .Z kolei sume SSE traktujemy jako te czesc zmiennosciSST , która nie jest wyjasniona przez model regresji.




Mianowicie

SST =n∑

i=1

(yi − yi)2 +

n∑i=1

(yi − y)2,

gdzie yi = a + bxi .Pierwszy ze składników nosi nazwe sumy kwadratówbłedów, poniewaz jest suma kwadratów wartosciresztowych. Jest oznaczany przez SSE . Drugi składniknosi miano regresyjnej sumy kwadratów i jest oznaczanysymbolem SSR.Suma SSR jest czescia zmiennosci całkowitej SST , któramozna objasnic za pomoca regresji miedzy zmiennaobjasniana Y i zmienna objasniajaca X .

Z kolei sume SSE traktujemy jako te czesc zmiennosciSST , która nie jest wyjasniona przez model regresji.




Mianowicie

SST =n∑

i=1

(yi − yi)2 +

n∑i=1

(yi − y)2,

gdzie yi = a + bxi .Pierwszy ze składników nosi nazwe sumy kwadratówbłedów, poniewaz jest suma kwadratów wartosciresztowych. Jest oznaczany przez SSE . Drugi składniknosi miano regresyjnej sumy kwadratów i jest oznaczanysymbolem SSR.Suma SSR jest czescia zmiennosci całkowitej SST , któramozna objasnic za pomoca regresji miedzy zmiennaobjasniana Y i zmienna objasniajaca X .Z kolei sume SSE traktujemy jako te czesc zmiennosciSST , która nie jest wyjasniona przez model regresji.




Iloraz

R2 =SSRSST

=

∑ni=1(yi − y)2∑ni=1(yi − y)2 ,

jest nazwany współczynnikiem determinacji.

R2 jest miara stopnia dopasowania funkcji regresji dodanych empirycznych.

W przypadku regresji liniowej jednej zmiennejwspółczynnik determinacji R2 równy jest kwadratowiwspółczynnika korelacji liniowej Pearsona.



Ocena ”dobroci” dopasowania prostej regresji MNKPrzykład c.d.




Przewidywanie na podstawie funkcji regresji

Funkcje regresji mozna wykorzystac do przewidywaniawartosci zmiennej objasnianej Y na podstawie znanychwartosci zmiennej objasniajacych (ekstrapolacja).

Tego rodzaju przewidywanie ma sens przy załozeniu, zecharakter zaleznosci i oddziaływania czynników nieuwzglednionych w modelu sa podobne do zaobserwo-wanych w badanej zbiorowosci.W naszym przykładzie otrzymalismy prosta regresji:y = 5,17 + 1,76 · x Na tej podstawie mozemy ocenic np.oczekiwany wynik z egzaminu dla osoby, która otrzymałabyz kolokwium 18 punktów. Mamy:y(x=18) = 5,17 + 1,76 · 18 = 36,85 ≈ 37 pktNalezy jednak pamietac, ze przy tego rodzaju przewidywa-niach mozemy sie mylic o pewna wartosc. W celu ocenyskali błedu obliczamy tzw. sredni bład przewidywania.




Funkcje regresji mozna wykorzystac do przewidywaniawartosci zmiennej objasnianej Y na podstawie znanychwartosci zmiennej objasniajacych (ekstrapolacja).Tego rodzaju przewidywanie ma sens przy załozeniu, zecharakter zaleznosci i oddziaływania czynników nieuwzglednionych w modelu sa podobne do zaobserwo-wanych w badanej zbiorowosci.

W naszym przykładzie otrzymalismy prosta regresji:y = 5,17 + 1,76 · x Na tej podstawie mozemy ocenic np.oczekiwany wynik z egzaminu dla osoby, która otrzymałabyz kolokwium 18 punktów. Mamy:y(x=18) = 5,17 + 1,76 · 18 = 36,85 ≈ 37 pktNalezy jednak pamietac, ze przy tego rodzaju przewidywa-niach mozemy sie mylic o pewna wartosc. W celu ocenyskali błedu obliczamy tzw. sredni bład przewidywania.




Funkcje regresji mozna wykorzystac do przewidywaniawartosci zmiennej objasnianej Y na podstawie znanychwartosci zmiennej objasniajacych (ekstrapolacja).Tego rodzaju przewidywanie ma sens przy załozeniu, zecharakter zaleznosci i oddziaływania czynników nieuwzglednionych w modelu sa podobne do zaobserwo-wanych w badanej zbiorowosci.W naszym przykładzie otrzymalismy prosta regresji:y = 5,17 + 1,76 · x Na tej podstawie mozemy ocenic np.oczekiwany wynik z egzaminu dla osoby, która otrzymałabyz kolokwium 18 punktów. Mamy:y(x=18) = 5,17 + 1,76 · 18 = 36,85 ≈ 37 pkt

Nalezy jednak pamietac, ze przy tego rodzaju przewidywa-niach mozemy sie mylic o pewna wartosc. W celu ocenyskali błedu obliczamy tzw. sredni bład przewidywania.




Funkcje regresji mozna wykorzystac do przewidywaniawartosci zmiennej objasnianej Y na podstawie znanychwartosci zmiennej objasniajacych (ekstrapolacja).Tego rodzaju przewidywanie ma sens przy załozeniu, zecharakter zaleznosci i oddziaływania czynników nieuwzglednionych w modelu sa podobne do zaobserwo-wanych w badanej zbiorowosci.W naszym przykładzie otrzymalismy prosta regresji:y = 5,17 + 1,76 · x Na tej podstawie mozemy ocenic np.oczekiwany wynik z egzaminu dla osoby, która otrzymałabyz kolokwium 18 punktów. Mamy:y(x=18) = 5,17 + 1,76 · 18 = 36,85 ≈ 37 pktNalezy jednak pamietac, ze przy tego rodzaju przewidywa-niach mozemy sie mylic o pewna wartosc. W celu ocenyskali błedu obliczamy tzw. sredni bład przewidywania.




Rozwazmy pierwiastek kwadratowy sumy kwadratówbłedów SSE podzielony przez liczebnosc zbiorowosci,pomniejszona o liczbe parametrów funkcji regresji(w przypadku regresji liniowej jednej zmiennej liczbaparametrów równa jest 2). Mamy:

Sε =

√SSEn − 2

=

√√√√ 1n − 2

n∑i=1

(yi − yi)2

Powyzsze wyrazenie nazywamy srednim błedemprzewidywania. W naszym przykładzie Sε jest równe:

Sε =

√69,2619− 2

≈ 2,02

zatem przewidujac wynik z egzaminu na podstawie wy-znaczonej prostej regresji, mylimy sie srednio o ok. 2 pkt.


ANALIZA KORELACJI I REGRESJI

Documents

Transcript of ANALIZA KORELACJI I REGRESJI