Kaavat ja taulukot

Mat-2.091 Sovellettu todennäköisyyslasku Systeemianalyysin laboratorio

Teknillinen korkeakoulu SYKSY 2002

Ilkka Mellin

Sovellettu todennäköisyyslasku:

Kaavat ja taulukot

2 2

2 2

1 1

( , ) exp 2

2(1 )

2 1

X X Y

XY XY

X X Y

X Y XY XY

x x y

f x y m r m m

s s s

ps s r r

ì éæ - ö æ - ö æ - ö ùü

ï ê úï

= - íïî- - êëçè ÷ø - çè ÷ çø è+ ÷ø úûýïþ

Toimittanut Mikko Nordlund

Käytetyt merkinnät ...6

Numeroidut kaavat ja määritelmät ...7

Equation Chapter (Next) Section 1Osa 1: Todennäköisyyslaskenta .11 1. Todennäköisyyslaskennan peruskäsitteet ...12

1.1. Deterministisyys ja satunnaisuus ... 12

1.2. Todennäköisyyden määritteleminen ... 12

1.2.1. Todennäköisyyden määritteleminen: Johdanto ... 12

1.2.2. Empiirinen todennäköisyys... 12

1.2.3. Klassinen todennäköisyys... 13

1.3. Todennäköisyyden perusominaisuudet ... 13

1.3.1. Tilastolliset mallit ... 13

1.3.2. Otosavaruudet ... 13

1.3.3. Todennäköisyyden peruslait ... 14

1.3.4. Äärelliset otosavaruudet ja symmetriset alkeistapahtumat... 15

1.4. Todennäköisyyslaskennan peruslaskusäännöt ... 16

1.4.1. Todennäköisyyslaskennan peruslaskusäännöt: Johdanto ... 16

1.4.2. Komplementtitapahtuman todennäköisyys... 16

1.4.3. Toisensa poissulkevat tapahtumat ja yhteenlaskusääntö ... 16

1.4.4. Riippumattomuus ja tulosääntö ... 17

1.4.5. Yleinen yhteenlaskusääntö ja erotustapahtuman todennäköisyys ... 18

1.4.6. Ehdollinen todennäköisyys ... 19

1.4.7. Riippumattomuus ja ehdollinen todennäköisyys ... 20

1.4.8. Yleinen tulosääntö ... 20

1.5. Klassinen todennäköisyys ja kombinatoriikka ... 20

1.5.1. Klassinen todennäköisyys... 20

1.5.2. Kombinatoriikan perusperiaatteet ja perusongelmat ... 21

1.5.3. Permutaatiot ... 21

1.5.4. Kombinaatiot ja binomikertoimet... 22

1.5.5. Multinomikerroin... 23

2. Todennäköisyyden aksioomat ...23

2.1. Todennäköisyyden määritteleminen ... 23

2.2. Todennäköisyyden aksioomat äärellisessä otosavaruudessa ... 24

2.3. Todennäköisyyden aksioomat äärettömässä otosavaruudessa... 24

3. Kokonaistodennäköisyys ja Bayesin kaava ... 25

3.1. Kokonaistodennäköisyys ja Bayesin kaava: Johdanto ...25

3.2. Kokonaistodennäköisyyden kaava ...26

3.3. Bayesin kaava ...26

4. Verkot todennäköisyyslaskennassa ... 26

5. Väärinkäsityksiä todennäköisyyden luonteesta ... 27

6. Satunnaismuuttujat ja todennäköisyysjakaumat ... 27

6.1. Satunnaismuuttujat ...27

6.1.1. Diskreetit satunnaismuuttujat...27

6.1.2. Jatkuvat satunnaismuuttujat ...28

6.2. Kertymäfunktio ...28

6.2.1. Kertymäfunktion määritelmä ...28

6.2.2. Diskreetin jakauman kertymäfunktio ...29

6.2.3. Jatkuvan jakauman kertymäfunktio ...30

7. Jakaumien tunnusluvut ... 30

7.1. Odotusarvo ...30

7.1.1. Diskreetin jakauman odotusarvo...30

7.1.2. Jatkuvan jakauman odotusarvo ...31

7.1.3. Odotusarvon ominaisuuksia ...31

7.2. Varianssi ...32

7.3. Suurten lukujen laki ...34

8. Diskreettejä todennäköisyysjakaumia ... 35

8.1. Diskreetti tasainen jakauma...35

8.2. Bernoulli-jakauma X ~ Bernoulli(p)...35

8.3. Binomijakauma X ~ Bin(n, p)...36

8.4. Geometrinen jakauma X ~ Geom(p)...37

8.5. Negatiivinen binomijakauma X ~ NegBin(r, p) ...38

8.6. Hypergeometrinen jakauma X ~ HyperGeom(N, r, n) ...38

8.7. Poisson-jakauma X ~ Poisson(l)...39

9. Jatkuvia todennäköisyysjakaumia...40

9.1. Jatkuva tasainen jakauma X ~ Uniform(a, b) tai X ~ Tas(a, b) ... 40

9.2. Eksponenttijakauma X ~ Exp(l) ... 41

9.3. Normaalijakauma X ~ N(m, s²)... 41

9.4. Normaalijakaumasta johdettuja jakaumia ... 47

9.4.1. c²-jakauma X ~ c²(n) ... 47

9.4.2. Studentin t-jakauma T ~ t(n)... 48

9.4.3. F-jakauma F ~ F(m, n) ... 49

10. Yhteisjakaumat ...50

10.1. Kaksiulotteiset jakaumat ... 50

10.2. Kaksiulotteisen jakauman odotusarvo ja varianssi... 53

10.3. Kaksiulotteisen jakauman kovarianssi ja korrelaatio... 55

10.4. Ehdolliset jakaumat ja odotusarvot ... 58

10.5. Moniulotteisia jakaumia ... 59

10.5.1. Multinomijakauma... 59

10.5.2. Kaksiulotteinen normaalijakauma ... 60

Equation Section (Next)Osa 2: Tilastotiede... 65

1. Tilastollisen tutkimusaineiston kerääminen... 66

1.1. Tilastollinen aineisto ...66

2. Havaintoaineiston kuvailu... 67

2.1. Tilastollinen aineisto ...67

2.2. Havaintoaineiston kuvailu: frekvenssijakauma ja luokiteltu frekvenssijakauma ...67

2.3 Havaintoaineiston kuvailu: yhden muuttujan tunnusluvut ...67

2.3.1 Aritmeettinen keskiarvo, otosvarianssi ja otoskeskihajonta ...67

2.3.2 Järjestystunnusluvut ...68

2.4. Useampiulotteisen havaintoaineiston kuvailu: pistediagrammi ...69

2.5. Useampiulotteisen havaintoaineiston kuvailu: kahden muuttujan tunnusluvut ...69

3. Otos ja otosjakaumat ... 71

3.1. Suhteellisen frekvenssin otosjakauma...71

3.2. Aritmeettisen keskiarvon otosjakauma...72

4. Estimointi ... 73

4.1. Piste-estimointi ...73

4.2. Eräiden tavallisten jakaumien parametrien SU-estimointi...74

4.2.1. Bernoulli-jakauman parametrin SU-estimointi ...74

4.2.2. Eksponenttijakauman parametrin SU-estimointi ...75

4.2.3. Normaalijakauman parametrien SU-estimointi...75

4.3. Väliestimointi...76

4.4. Eräiden tavallisten jakaumien parametrien luottamusvälejä...76

4.4.1. Bernoulli-jakauman parametrin p luottamusväli...76

4.4.2. Luottamusväli normaalijakauman odotusarvoparametrille...78

5. Testaus... 80

5.1. Hypoteesien testaus: hypoteesit ...80

5.2. Hypoteesien testaus: testisuure ...81

5.3. Hypoteesien testaus: P-arvo ...82

5.4. Hypoteesien testaus: merkitsevyystaso ja hylkäysalue...82

5.5. Hypoteesien testaus: virheet testauksessa...83

5.6. Hypoteesien testaus: testin suoritus...84

6. Testit odotusarvoille ja variansseille...84

6.1 Testit perusjoukon odotusarvolle... 84

6.1.1. Testi perusjoukon odotusarvolle, kun otos on normaalijakaumasta ... 84

6.1.2. Testi perusjoukon odotusarvolle, kun otos ei ole normaalijakaumasta ... 85

6.2. Kahden perusjoukon odotusarvojen vertailutesti ... 86

6.2.1. Kahden perusjoukon odotusarvojen vertailutesti, kun otokset ovat riippumattomia ja normaalijakautuneita ... 86

6.2.2. Kahden perusjoukon odotusarvojen vertailutesti, kun otokset ovat riippumattomia, normaalijakautuneita ja varianssit ovat yhtä suuria ... 87

6.2.3. Kahden perusjoukon odotusarvojen vertailutesti, kun otokset eivät ole riippumattomia eli ns. parivertailutesti ... 89

6.3. Testit perusjoukon varianssille... 90

6.3.1 Perusjoukon varianssia koskeva testi... 90

6.3.2. Kahden perusjoukon varianssien vertailutesti ... 91

7. Suhteellisia osuuksia koskevat testit ...92

7.1. Testi todennäköisyydelle ... 92

7.2. Todennäköisyyksien vertailutesti ... 93

7.3. Yhteensopivuustesti ... 95

7.4. Homogeenisuustesti ... 97

7.5. Riippumattomuustesti ... 101

8. Regressioanalyysi...105

8.1. Regressioanalyysin idea... 105

8.2. Lineaarinen regressiomalli ... 106

8.3. Lineaarisen regressiomallin estimointi ... 108

8.4. Lineaarinen regressiomalli, luottamusvälit ja testit ... 112

8.5. Yhden selittäjän lineaarinen regressiomalli ... 114

8.6. Ennustaminen lineaarisella regressiomallilla... 119

8.7. Korrelaatiokerrointa koskevat testit... 120

Liitteet ...123

Käytetyt merkinnät

Alkioiden lukumäärä (tässä joukon A alkioiden lukumäärä): n(A) Aritmeettinen keskiarvo (tässä arvojen x_i): x

Erotus (joukko-opissa): \

Estimaattori: ^ (esim. varianssin estimaattori sˆ²)

Joukot: A, B, ... (isoja aakkosjärjestyksen alkupään latinalaisia kirjaimia) Kertymäfunktio: F(x)

Keskihajonta: D(×), s Keskihajonta otoksessa: s

Komplementtitapahtuma (tässä tapahtuman A komplementtitapahtuma): A^c Korrelaatiokerroin (tässä satunnaismuuttujien X ja Y välillä): Cor(X, Y)=rXY

Korrelaatiokerroin otoksessa (tässä muuttujien x ja y arvojen välillä): rxy

Kovarianssi (tässä satunnaismuuttujien X ja Y välillä): Cov(X, Y)=sXY

Kovarianssi otoksessa (tässä muuttujien x ja y arvojen välillä): sxy

Merkitsevyystaso: a

Momentti origon suhteen (tässä k. momentti origon suhteen): ak

Normaalijakauma odotusarvolla m ja varianssilla _s²: N(m, s²) Noudattaa jakaumaa: ~

Noudattaa jakaumaa approksimatiivisesti: ~_a Odotusarvo: E(×), m

Otosavaruus: S

Pistetodennäköisyysfunktio: f(x) Regressiokertoimet: b0, b1, ...

Regressiokertoimien PNS-estimaattorit: b0, b1, ...

Residuaali havainnolle j: e_j

Riippumattomuus (tässä tapahtumien A ja B riippumattomuus): A^B

Satunnaismuuttujat: x t, , , , , W X Y K (pieniä kreikkalaisia kirjaimia ja isoja aakkosjärjestyksen loppupään latinalaisia kirjaimia)

Selitysaste regressiomallille: R² Sovite havainnolle j: ˆY_j

Standardipoikkeama: D(×), s Standardipoikkeama otoksessa: s

Standardoidun normaalijakauman kertymäfunktio: F(z)

Tapahtumat: A, B, ... (isoja aakkosjärjestyksen alkupään latinalaisia kirjaimia) Tiheysfunktio: f(x)

Todennäköisyys (tässä tapahtumalle A): Pr(A) Tyhjä joukko: _Æ

Vakiot: a, b, ... (pieniä aakkosjärjestyksen alkupään latinalaisia kirjaimia) Varianssi: D²(×), Var(×), _s²

Varianssi otoksessa: s²

Äärettömän monen tapahtuman Ai leikkaus:

1 i i

A

¥

I

Äärettömän monen tapahtuman Ai yhdiste:

1 i i

A

¥

U

Numeroidut kaavat ja määritelmät

(1.1) Komplementtitapahtuman A^c todennäköisyys

(1.2) Yhteenlaskusääntö toisensa poissulkeville tapahtumille

(1.3) Yleistetty yhteenlaskusääntö pareittain toisensa poissulkeville tapahtumille (1.4) Tulosääntö riippumattomille tapahtumille

(1.5) Yleistetty tulosääntö riippumattomille tapahtumille (1.6) Yleinen yhteenlaskusääntö

(1.7) Erotustapahtuman A\B todennäköisyys

(1.8) Erotustapahtuman todennäköisyys, kun B:n tapahtumisesta seuraa A:n tapahtuminen

(1.9) Yhdisteen AÈB todennäköisyys (1.10) Ehdollinen todennäköisyys A|B

(1.11) Riippumattomuuden yhtäpitävät ehdot (1.12) Yleinen tulosääntö

(1.13) Yleistetty yleinen tulosääntö (1.14) Permutaatioiden lukumäärä (1.15) k-permutaatioiden lukumäärä (1.16) Kombinaatioiden lukumäärä (1.17) Multinomikertoimen lauseke (1.18) Kokonaistodennäköisyyden kaava (1.19) Bayesin kaava

(1.20) Diskreetin jakauman kertymäfunktio

(1.21) Diskreetin jakauman kertymäfunktion ja pistetodennäköisyysfunktion yhteys

(1.22) Diskreetin jakauman todennäköisyydet (1.23) Jatkuvan jakaumankertymäfunktio

(1.24) Jatkuvan jakauman kertymäfunktion ja tiheysfunktion yhteys (1.25) Jatkuvan jakauman todennäköisyydet

(1.26) Diskreetin jakauman odotusarvo (1.27) Jatkuvan jakauman odotusarvo (1.28) Vakion odotusarvo

(1.29) Lineaarimuunnoksen odotusarvo

(1.30) Satunnaismuuttujien summan odotusarvo (1.31) Satunnaismuuttujien erotuksen odotusarvo

(1.32) Satunnaismuuttujien painotetun summan odotusarvo (1.33) Diskreetin satunnaismuuttujan funktion odotusarvo (1.34) Jatkuvan satunnaismuuttujan funktion odotusarvo (1.35) Momentit

(1.36) Varianssin määritelmä

(1.37) Diskreetin jakauman varianssi (1.38) Jatkuvan jakauman varianssi (1.39) Standardipoikkeaman määritelmä (1.40) Vakion varianssi

(1.41) Lineaarimuunnoksen varianssi (1.42) Standardointi

(1.43) Summan varianssi riippumattomille satunnaismuuttujille (1.44) Erotuksen varianssi riippumattomille satunnaismuuttujille

(1.45) Painotetun summan varianssi riippumattomille satunnaismuuttujille

(1.46) Aritmeettinen keskiarvo riippumattomille satunnaismuuttujille (1.47) Aritmeettisen keskiarvon odotusarvo ja varianssi riippumattomille

satunnaismuuttujille

(1.48) Bernoulli-jakauman pistetodennäköisyysfunktio (1.49) Binomijakauman pistetodennäköisyysfunktio (1.50) Geometrisen jakauman pistetodennäköisyysfunktio (1.51) Geometrisen jakauman kertymäfunktio

(1.52) Negatiivisen binomijakauman pistetodennäköisyysfunktio (1.53) Hypergeometrisen jakauman pistetodennäköisyysfunktio (1.54) Poisson-jakauman pistetodennäköisyysfunktio

(1.55) Jatkuvan tasaisen jakauman tiheysfunktio (1.56) Eksponenttijakauman tiheysfunktio (1.57) Normaalijakauman tiheysfunktio

(1.58) Todennäköisyyksien määräämisen normaalijakaumasta

(1.59) Riippumattomien normaalijakautuneiden satunnaismuuttujien summan jakauma

(1.60) Samaa normaalijakaumaa noudattavien riippumattomien satunnaismuuttujien summan jakauma

(1.61) Normaalijakautuneiden riippumattomien satunnaismuuttujien aritmeettisen keskiarvon jakauma

(1.62) Keskeinen raja-arvolause

(1.63) De Moivren ja Laplacen raja-arvolause (1.64) Poisson-jakauma ja normaalijakauma

(1.65) Kaksiulotteisen diskreetin jakauman pistetodennäköisyysfunktion määritelmä

(1.66) Kaksiulotteisen jatkuvan jakauman tiheysfunktion määritelmä (1.67) Kaksiulotteisen jakauman kertymäfunktion määritelmä

(1.68) Kaksiulotteisen diskreetin jakauman kertymäfunktio (1.69) Kaksiulotteisen jatkuvan jakauman kertymäfunktio

(1.70) Kaksiulotteisen jatkuvan jakauman tiheysfunktion ja kertymäfunktion yhteys

(1.71) Kaksiulotteisen diskreetin jakauman reunajakaumat (1.72) Kaksiulotteisen diskreetin jakauman reunajakaumat (1.73) Kaksiulotteisen jatkuvan jakauman reunajakaumat (1.74) Kaksiulotteisen jatkuvan jakauman reunajakaumat (1.75) Satunnaismuuttujien riippumattomuus

(1.76) Satunnaismuuttujien riippumattomuus

(1.77) Kaksiulotteisen diskreetin jakauma odotusarvo (1.78) Kaksiulotteisen diskreetin jakauma odotusarvo (1.79) Kaksiulotteisen jatkuvan jakauman odotusarvo (1.80) Kaksiulotteisen jatkuvan jakauman odotusarvo (1.81) Kovarianssin määritelmä

(1.82) Kovarianssi diskreeteille satunnaismuuttujille (1.83) Kovarianssi jatkuville satunnaismuuttujille (1.84) Summan varianssi

(1.85) Korrelaatiokertoimen määritelmä

(1.86) Multinomijakauman pistetodennäköisyysfunktio (1.87) Kaksiulotteisen normaalijakauman tiheysfunktio

varianssi

(1.89) Kaksiulotteisen normaalijakauman ehdollisen jakauman odotusarvo ja varianssi

(1.90) Kaksiulotteisen normaalijakauman ehdollinen odotusarvo (1.91) Kaksiulotteisen normaalijakauman ehdollinen odotusarvo (1.92) Regressiosuorat kaksiulotteisessa normaalijakaumassa (1.93) Ehdollinen varianssi kaksiulotteisessa normaalijakaumassa (1.94) Ehdollinen varianssi kaksiulotteisessa normaalijakaumassa (2.1) Aritmeettinen keskiarvo

(2.2) Varianssi otoksessa (2.3) Keskihajonta otoksessa (2.4) Varianssin estimaattori (2.5) Kovarianssi otoksessa (2.6) Korrelaatiokerroin otoksessa

(2.7) Suhteellisen frekvenssin otosjakauma (2.8) Aritmeettisen keskiarvon otosjakauma

(2.9) Bernoulli-jakauman parametrin SU-estimaattori (2.10) Eksponenttijakauman parametrin SU-estimaattori

(2.11) Normaalijakauman odotusarvoparametrin SU-estimaattori (2.12) Normaalijakauman varianssiparametrin SU-estimaattori (2.13) Symmetrisen luottamusvälin määritelmä

(2.14) Bernoulli-jakauman parametrin p luottamusväli

(2.15) Tarvittava otoskoko Bernoulli-jakauman parametrin p luottamusvälin määräämiseksi, kun luottamusvälin pituus on määrätty

(2.16) Tarvittava otoskoko Bernoulli-jakauman parametrin p luottamusvälin määräämiseksi, kun luottamusvälin pituus on määrätty ja p on tuntematon (2.17) Luottamusväli normaalijakauman odotusarvoparametrille, kun varianssi ei

ole tunnettu

(2.18) Tarvittava otoskoko normaalijakauman odotusarvoparametrin

luottamusvälin määräämiseksi, kun luottamusvälin pituus on määrätty (2.19) Testi perusjoukon odotusarvolle, kun otos on normaalijakaumasta (2.20) Testi perusjoukon odotusarvolle, kun otos ei ole normaalijakaumasta (2.21) Kahden perusjoukon odotusarvojen vertailutesti, kun otokset ovat

riippumattomia ja normaalijakautuneita (2.22) Yhdistetty varianssi

(2.23) Kahden perusjoukon odotusarvojen vertailutesti, kun otokset ovat riippumattomia, normaalijakautuneita ja varianssit ovat yhtä suuria (2.24) Kahden perusjoukon odotusarvojen vertailutesti, kun otokset eivät ole

riippumattomia eli ns. parivertailutesti (2.25) Perusjoukon varianssia koskeva testi

(2.26) Kahden perusjoukon varianssien vertailutesti (2.27) Testi todennäköisyydelle

(2.28) Yhdistetyn otoksen parametrin p harhaton estimaattori (2.29) Todennäköisyyksien vertailutesti

(2.30) Yhteensopivuustesti (2.31) Homogeenisuustesti (2.32) Riippumattomuustesti

(2.33) Selitettävän muuttujan odotusarvo kiinteillä selittäjillä

(2.34) Selitettävän muuttujan ehdollinen odotusarvo satunnaisilla selittäjillä

(2.35) Residuaalien neliösumma

(2.36) Sovite lineaarisessa regressiomallissa (2.37) Residuaali

(2.38) Jäännösvarianssin estimaattori (2.39) Kokonaisneliösumma SST (2.40) Jäännösneliösumma SSE

(2.41) Jäännösneliösumma ja kokonaisneliösumma (2.42) Mallineliösumma SSM

(2.43) Kokonaisneliösumma, mallineliösumma ja jäännösneliösumma (2.45) Lineaarisen regressiomallin selitysaste

(2.46) Testi regression olemassaololle (2.47) Testi regression olemassaololle (2.48) Testi regressiokertoimelle

(2.49) Yhden selittäjän lineaarinen regressiomalli

(2.50) Yhden selittäjän lineaarisen regressiomallin otosvarianssit (2.51) Yhden selittäjän lineaarisen regressiomallin otoskovarianssi (2.52) Yhden selittäjän lineaarisen regressiomallin otoskorrelaatiokerroin

(2.53) Yhden selittäjän lineaarisen regressiomallin kertoimien PNS-estimaattorit (2.54) Sovite yhden selittäjän lineaarisessa regressiomallissa

(2.55) Residuaali yhden selittäjän lineaarisessa regressiomallissa (2.56) Jäännösvarianssin harhaton estimaattori

(2.57) t-testi yhden selittäjän lineaarisen regressiomallin kulmakertoimelle (2.58) t-testi yhden selittäjän lineaarisen regressiomallin vakiolle

(2.59) Yhden selittäjän lineaarisen regressiomallin selitysaste (2.60) Testi korrelaatiokertoimelle

(2.61) t-testi korreloimattomuuden testaamiseksi

Equation Chapter (Next) Section 1Osa 1:

Todennäköisyyslaskenta

Ensimmäinen painos, syksy 2002

Kommentit tervetulleita

1. Todennäköisyyslaskennan peruskäsitteet

1.1. Deterministisyys ja satunnaisuus

Deterministinen ilmiö

Reaalimaailman ilmiö on deterministinen, jos ilmiön alkutilan perusteella voidaan tarkasti ennustaa ilmiön lopputila eli tulos.

Deterministisen ilmiön alkuehdot määräävät tarkasti ilmiön lopputilan eli tuloksen.

Deterministisiä ilmiöitä kutsutaan usein eksakteiksi tai kausaalisiksi.

Satunnaisilmiö

Reaalimaailman ilmiö on stokastinen ilmiö eli satunnaisilmiö, jos sillä on seuraavat ominaisuudet:

(i) Ilmiö voi päätyä alkutilastaan useisiin erilaisiin lopputiloihin eli ilmiöllä on useita erilaisia vaihtoehtoisia tuloksia.

(ii) Ilmiön alkutilan perusteella ei voida tarkasti ennustaa ilmiön lopputilaa eli sitä, mikä mahdollisista tulosvaihtoehdoista realisoituu eli toteutuu.

(iii) Vaikka ilmiön lopputilaa ei voida ennustaa tarkasti, tulosvaihtoehtojen suhteellisten frekvenssien eli osuuksien nähdään ilmiön toistuessa käyttäytyvän säännönmukaisesti.

Tilastollinen stabiliteetti

Satunnaisilmiön toistuessa ilmenevää säännönmukaisuutta kutsutaan tilastotieteessä tilastolliseksi stabiliteetiksi.

1.2. Todennäköisyyden määritteleminen

1.2.1. Todennäköisyyden määritteleminen: Johdanto

Ks. luentokalvot http://www.hut.fi/Yksikot/SAL/Opinnot/Mat-2.091/ . 1.2.2. Empiirinen todennäköisyys

Määritelmä

Tarkastellaan satunnaiskoetta, jota voidaan toistaa siten, että seuraavat ehdot pätevät:

(i) Satunnaiskokeen olosuhteet säilyvät muuttumattomina koetoistosta toiseen.

(ii) Koetoistot ovat riippumattomia.

Tarkkaillaan kokeen jonkin tulosvaihtoehdon esiintymistä koetoistojen aikana.

Jos tulosvaihtoehdon suhteellinen frekvenssi lähestyy jotakin kiinteätä lukua koetoistojen lukumäärän rajatta kasvaessa, tuo luku on tulosvaihtoehdon empiirinen todennäköisyys.

Empiirinen todennäköisyys ja todennäköisyyden frekvenssitulkinta

Toistetaan satunnaiskoetta ja tarkkaillaan kokeen jonkin tulosvaihtoehdon suhteellista frekvenssiä koetoistojen aikana.

Todennäköisyyden frekvenssitulkinnan mukaan tulosvaihtoehdon suhteellinen frekvenssi vaihtelee satunnaisesti koetoistosta toiseen, mutta saa keskimäärin tulosvaihtoehdon todennäköisyyttä lähellä olevia arvoja.

1.2.3. Klassinen todennäköisyys

Määritelmä

Tarkastellaan satunnaisilmiötä, johon liittyy n yhtä todennäköistä tulosvaihtoehtoa.

Tarkastellaan satunnaisilmiön puitteissa tapahtumaa, johon liittyy k yhtä todennäköistä tulosvaihtoehtoa, joita sanotaan ko. tapahtumalle suotuisiksi.

Ko. tapahtuman klassinen todennäköisyys p on tapahtumalle suotuisien tulosvaihtoehtojen suhteellinen frekvenssi eli tapahtumalle suotuisien tulosvaihtoehtojen osuus satunnaisilmiön kaikista tulosvaihtoehdoista:

p k

= n

1.3. Todennäköisyyden perusominaisuudet

1.3.1. Tilastolliset mallit

Satunnaisilmiöiden tilastolliset mallit

Tilastotieteen tehtävänä on kehittää satunnaisilmiöille tilastollisia malleja, joiden avulla pyritään tekemään satunnaisilmiöitä koskevia johtopäätöksiä.

Satunnaisilmiöiden tilastolliset mallit perustuvat todennäköisyyslaskentaan ja siksi niitä kutsutaan usein myös todennäköisyysmalleiksi tai stokastisiksi malleiksi.

Todennäköisyysmalli tilastollisena mallina

Satunnaisilmiön tilastollisessa mallissa eli todennäköisyysmallissa tai stokastisessa mallissa on kaksi osaa:

(i) Satunnaisilmiön kaikkien mahdollisten tulosvaihtoehtojen kuvaus.

(ii) Tulosvaihtoehtojen todennäköisyyksien kuvaus.

1.3.2. Otosavaruudet

Joukko ja sen alkiot

Joukko on joidenkin olioiden kokoelma. Joukko on hyvin määritelty, jos sen alkiot tunnetaan. Merkitään sitä, että x on joukon A alkio eli kuuluu joukkoon A:

xÎA

Merkitään sitä, että x ei ole joukon A alkio eli ei kuulu joukkoon A:

xÏA

Osajoukko

Jos jokaiselle joukon B alkiolle s pätee, että sÎ Þ ÎB s A

niin sanomme, että joukko B on joukon A osajoukko tai, että joukko B sisältyy joukkoon A ja merkitään:

tai BÌA AÉB

Tyhjä joukko

Joukko on tyhjä, jos siihen ei kuulu yhtään alkiota.

Merkitään tyhjää joukkoa symbolilla Æ

Jos joukko Æ on tyhjä, ei ole olemassa oliota s, jolle sÎÆ

Tyhjä joukko Æ on jokaisen joukon osajoukko eli mielivaltaiselle joukolle A pätee:

ÆÌ A

Otosavaruus ja alkeistapahtumat

Satunnaisilmiöön liittyvä otosavaruus S on ilmiön kaikkien mahdollisten tulosvaihtoehtojen joukko. Otosavaruuden S alkioita s kutsutaan

alkeistapahtumiksi.

Merkinnät:

- Otosavaruutta (engl. sample space) merkitään tavallisesti isolla kirjaimella S.

- Otosavaruuden S alkiota merkitään vastaavalla pienellä kirjaimella s.

- Jos siis alkeistapahtuma s kuuluu otosavaruuteen S, merkitään:

sÎS

Tapahtumat

Tapahtumat ovat otosavaruuden S alkeistapahtumien muodostamia joukkoja. Siten tapahtumat ovat otosavaruuden S osajoukkoja.

Olkoon A jokin tapahtuma ja s Î A on tapahtumaan A kuuluva alkeistapahtuma.

Tällöin siis AÌS eli

sÎ Þ ÎA s S

1.3.3. Todennäköisyyden peruslait

Varma tapahtuma

Tapahtuma on varma, jos se esiintyy aina, kun satunnaisilmiö toistuu. Otosavaruus S on varma tapahtuma.

Mahdoton tapahtuma

Tapahtuma on mahdoton, jos se ei voi esiintyä koskaan, kun satunnaisilmiö toistuu. Tyhjä joukko Æ on mahdoton tapahtuma.

Todennäköisyyden perusominaisuudet

Olkoon S otosavaruus, jossa satunnaisilmiötä tarkastellaan. Jokaisen tapahtuman AÌS todennäköisyys Pr(A) on reaaliluku välillä [0, 1]:

0£Pr( )A £1

Varman tapahtuman S todennäköisyys on 1:

Pr( )S =1

Mahdottoman tapahtuman Æ todennäköisyys on 0:

Pr( )Æ =0

1.3.4. Äärelliset otosavaruudet ja symmetriset alkeistapahtumat

Äärelliset otosavaruudet

Olkoon otosavaruus S äärellinen joukko ja olkoon ( )

n=n S

otosavaruuden S alkeistapahtumien eli alkioiden lukumäärä. Merkitään alkeistapahtumia

, 1, 2, , si i= K n Tällöin

{

}

S = s s K s

Äärellisen otosavaruuden alkeistapahtumien todennäköisyydet

Äärellisen otosavaruuden S = {s1, s2, … , sn}

alkeistapahtumien s_iÎ S todennäköisyydet Pr(si) = pi , i = 1, 2, … , n

toteuttavat ehdon

1

1

n i i

p

=

å

Äärellisen otosavaruuden tapahtumat ja niiden todennäköisyydet

Olkoon A äärellisen otosavaruuden S tapahtuma eli A Ì S. Tällöin tapahtuman A todennäköisyys Pr(A) on

Pr( )

i

i i s A

A p

Î

=

å

Summassa lasketaan yhteen kaikki todennäköisyydet p_i = Pr(s_i),

joille siÎ A.

Symmetriset alkeistapahtumat ja niiden todennäköisyydet

Oletetaan, että äärellisen otosavaruuden S = {s₁, s₂, … , s_n} alkeistapahtumien s_i todennäköisyyksille pätee, että

Pr( )s_i 1, i 1, 2, ,n

=n = K

Tällöin sanotaan, että alkeistapahtumat ovat symmetrisiä.

1.4. Todennäköisyyslaskennan peruslaskusäännöt

1.4.1. Todennäköisyyslaskennan peruslaskusäännöt: Johdanto

Uusien tapahtumien johtaminen ja joukko-opin operaatiot

Olkoot A ja B otosavaruuden S tapahtumia. Jokaista operaatiota, jolla tapahtumista A ja B johdetaan uusia tapahtumia, vastaa jokin joukko-opin operaatio.

Uuden tapahtuman Vastaava joukko-opin

muodostamisoperaatio operaatio

”A ei satu” Komplementtijoukko:

A^c = {s Î S | s Ï A}

”A tai B sattuu tai Yhdiste:

molemmat sattuvat” AÈB = {s Î S | s Î A tai s Î B}

”A ja B sattuvat” Leikkaus:

AÇB = {s Î S | s Î A ja s Î B}

”A sattuu, Erotus:

mutta B ei satu” A\B = { s Î S | s Î A ja s Ï B} = AÇB^c 1.4.2. Komplementtitapahtuman todennäköisyys

Komplementtitapahtuman A^c todennäköisyys

Olkoon tapahtuman A todennäköisyys Pr(A).

Tällöin on tapahtuman A komplementtitapahtuman A^c todennäköisyys:

(1.1) Pr(A^c)= -1 Pr( )A

1.4.3. Toisensa poissulkevat tapahtumat ja yhteenlaskusääntö

Toisensa poissulkevat tapahtumat

Tapahtumat A ja B ovat toisensa poissulkevia, jos A ja B eivät voi tapahtua samanaikaisesti. Tapahtumat A ja B ovat toisensa poissulkevia, jos ne ovat otosavaruuden S osajoukkoina pistevieraita eli

AÇB = Æ

Olkoot tapahtumat A ja B toisensa poissulkevia. Olkoon tapahtuman A todennäköisyys Pr(A). Olkoon tapahtuman B todennäköisyys Pr(B).

Tällöin on yhdisteen

AÈB = ”A tai B tapahtuu”

todennäköisyys:

(1.2) Pr(AÈB)=Pr( )A +Pr( )B

Yleistetty yhteenlaskusääntö pareittain toisensa poissulkeville tapahtumille

Olkoot A₁, A₂, … , A_k pareittain toisensa poissulkevia. Tällöin A_iÇA_j = Æ, kun i ¹ j.

Olkoon tapahtuman Ai todennäköisyys Pr(Ai), i = 1, 2, … , k.

Tällöin on yhdisteen ”A₁ tai A₂ tai … tai A_k tapahtuu” todennäköisyys:

(1.3) Pr(A₁ÈA₂È ÈL A_k)=Pr(A₁) Pr(+ A₂)+L+Pr(A_k) 1.4.4. Riippumattomuus ja tulosääntö

Riippumattomuus

Tapahtuma A on riippumaton tapahtumasta B, jos B:n tapahtuminen (tai tapahtumatta jääminen) ei vaikuta A:n tapahtumisen todennäköisyyteen.

Riippumattomuus on symmetrinen ominaisuus: Jos A on riippumaton B:stä, niin B on riippumaton A:sta.

Merkitään tapahtumien A ja B riippumattomuutta:

A^B

Tulosääntö riippumattomille tapahtumille

Olkoot A Ì S ja B Ì S otosavaruuden S tapahtumia.

AÇB = {s Î S | s Î A ja s Î B}.

Olkoon tapahtuman A todennäköisyys Pr(A). Olkoon tapahtuman B todennäköisyys Pr(B).

Tapahtumat A ja B ovat riippumattomia, jos ja vain jos leikkauksen AÇB = ”A ja B tapahtuvat”

todennäköisyydelle pätee:

(1.4) Pr(AÇB)=Pr( ) Pr( )A B

Yleistetty tulosääntö riippumattomille tapahtumille

Olkoon tapahtuman A_i todennäköisyys Pr(A_i) , i=1, 2,K,k

Tapahtumat A1, A2, … , Ak ovat riippumattomia, jos ja vain jos kaikille leikkauksille

1 2 m

i i i

A ÇA Ç ÇL A jossa

{

} {

}

pätee:

(1.5)

1 2 1 2

Pr( ) Pr( ) Pr( ) Pr( )

m m

i i i i i i

A ÇA Ç ÇL A = A ´ A ´ ´L A Merkitään tapahtumien A₁, A₂, … , A_k riippumattomuutta:

1, 2, , _k

A A K A ^

1.4.5. Yleinen yhteenlaskusääntö ja erotustapahtuman todennäköisyys

Yleinen yhteenlaskusääntö

Olkoot A Ì S ja B Ì S otosavaruuden S tapahtumia.

AÈB = {s Î S | s Î A tai s Î B} AÇB = {s Î S | s Î A ja s Î B} Olkoot tapahtumien

A, B, AÇB todennäköisyydet

Pr(A), Pr(B), Pr(AÇB).

Tällöin on yhdisteen

AÈB = ”A tai B tapahtuu”

todennäköisyys:

(1.6) Pr(AÈB)=Pr( ) Pr( ) Pr(A + B - AÇB)

Erotustapahtuman A\B todennäköisyys

Olkoot A Ì S ja B Ì S otosavaruuden S tapahtumia. Olkoon tapahtuman A todennäköisyys Pr(A). Olkoon tapahtuman AÇB todennäköisyys Pr(AÇB).

Tällöin on erotustapahtuman

A\B = ”A tapahtuu, mutta B ei tapahdu” = AÇB^c todennäköisyys:

(1.7) Pr( \ )A B =Pr(AÇB^c)=Pr( ) Pr(A - AÇB)

B:n tapahtumisesta seuraa A:n tapahtuminen

Olkoot A Ì S ja B Ì S otosavaruuden S tapahtumia. Oletetaan, että jos B tapahtuu, niin A tapahtuu. Tällöin B Ì A. Olkoot tapahtumien A ja B todennäköisyydet Pr(A) ja Pr(B).

Tällöin:

Pr(A) ³ Pr(B)

Erotustapahtuman todennäköisyys, kun B:n tapahtumisesta seuraa A:n tapahtuminen

Olkoot A Ì S ja B Ì S otosavaruuden S tapahtumia. Olkoon B Ì A. Olkoot tapahtumien A ja B todennäköisyydet Pr(A) ja Pr(B).

Tällöin on erotuksen

A\B = ”A tapahtuu, mutta B ei tapahdu”

todennäköisyys:

(1.8) Pr( \ )A B =Pr( ) Pr( )A - B

Yhdisteen AÈB todennäköisyys

Olkoot A Ì S ja B Ì S otosavaruuden S tapahtumia. Yhdisteen AÈB = ”A tai B tapahtuu”

todennäköisyys voidaan aina esittää muodoissa

(1.9)

Pr( )

Pr( ) Pr( \ ) Pr( ) Pr( \ )

Pr( \ ) Pr( \ ) Pr( ) A B

A B A

B A B

A B B A A B

È

= +

= +

= + + Ç

1.4.6. Ehdollinen todennäköisyys

Ehdollinen todennäköisyys A|B

Olkoon tapahtuman

”A ja B tapahtuvat”

todennäköisyys Pr(AÇB). Olkoon tapahtuman B todennäköisyys Pr(B) ¹ 0. Tällöin on tapahtuman A ehdollinen todennäköisyys ehdolla, että tapahtuma B on sattunut:

(1.10) Pr( ) ^{Pr( )}

Pr( ) A B

A B B

= Ç

1.4.7. Riippumattomuus ja ehdollinen todennäköisyys

Riippumattomuuden yhtäpitävät ehdot

Tapahtumat A ja B ovat riippumattomia, jos ja vain jos mikä tahansa seuraavista yhtäpitävistä ehdoista pätee:

(1.11)

(i) Pr( ) Pr( ) Pr( ) (ii) Pr( ) Pr( )

(iii) Pr( ) Pr( )

A B A B

A B A

B A B

Ç =

=

=

1.4.8. Yleinen tulosääntö

Yleinen tulosääntö

Olkoon tapahtuman A ehdollinen todennäköisyys ehdolla, että tapahtuma B on sattunut Pr(A|B). Olkoon tapahtuman B todennäköisyys Pr(B) ¹ 0. Tällöin on leikkauksen

AÇB = ”A ja B tapahtuvat”

todennäköisyys:

(1.12) Pr(AÇB)=Pr( ) Pr(B A B)=Pr( ) Pr(A B A)

Yleistetty yleinen tulosääntö

Tarkastellaan tapahtumia A1, A2, … , Ak . Tällöin on leikkauksen ”A1 ja A2 ja … ja Ak tapahtuvat” todennäköisyys:

(1.13)

1 2

1 2 1 3 1 2

1 2 1

Pr( )

Pr( ) Pr( ) Pr( )

Pr( )

k

k k

A A A

A A A A A A

A A A A_-

Ç Ç Ç

= ´ ´ Ç ´

´ Ç Ç Ç

L

L L

1.5. Klassinen todennäköisyys ja kombinatoriikka

1.5.1. Klassinen todennäköisyys

Määritelmä

Olkoon S = {s₁, s₂, … , s_n} äärellinen otosavaruus. Oletetaan, että alkeistapahtumat si ovat symmetrisiä.

Tällöin

Pr( )s_i 1 , kaikille = 1, 2,i ,n

=n K

Tarkastellaan tapahtumaa A Ì S, johon kuuluu k alkeistapahtumaa, joita kutsutaan tapahtumalle A suotuisiksi.

Tällöin tapahtuman A klassinen todennäköisyys on

=k

1.5.2. Kombinatoriikan perusperiaatteet ja perusongelmat Olkoon

S = {s1, s2, … , sn}

äärellinen joukko, jonka alkioiden lukumäärä on n = nS = n(S),

jossa nS = n(S) on lukumääräfunktio, joka kertoo joukon S alkioiden lukumäärän.

Joukko

Joukko on täysin määrätty, jos sen alkiot tunnetaan. Olkoot äärellisen joukon A alkiot a₁ , a₂ , … , a_n . Tällöin merkitään

A = {a₁ , a₂ , … , a_n}.

Joukkojen samuus

Joukot A ja B ovat samat, jos niissä on täsmälleen samat alkiot:

A = B, jos ja vain jos

x Î A Û x Î B.

Jono

Jono on täysin määrätty, jos sen alkiot ja niiden järjestys tunnetaan. Olkoon a jono, jonka i. alkio on a_i , i = 1, 2, … , n. Tällöin merkitään

a = (a₁ , a₂ , … , a_n).

Jonojen samuus

Jonot a = (a₁ , a₂ , … , a_n) ja b = (b₁ , b₂ , … , b_n) ovat samat, jos niissä on samat alkiot samassa järjestyksessä:

a = b, jos ja vain jos

ai = bi , i = 1, 2, … , n.

1.5.3. Permutaatiot

Permutaation määritelmä

Mikä tahansa joukon S kaikkien alkioiden muodostama jono on joukon S alkioiden permutaatio.

Permutaatioiden lukumäärä

Olkoon joukon S alkioiden lukumäärä n = n(S). Tällöin joukon S kaikkien alkioiden permutaatioiden lukumäärä on

(1.14) n!= ´ - ´ ´ ´n (n 1) ... 2 1

jossa n! on ns. n-kertoma. Määritellään 0! = 1

k-permutaatiot eli variaatiot

Olkoon joukon S alkioiden lukumäärä n = n(S). Mikä tahansa joukon S alkioiden osajono, jossa on k alkiota, on joukon S alkioiden k-permutaatio eli variaatio.

Merkintä:

P(n, k) = n:n alkion joukon k-permutaatioiden lukumäärä Jos k = n, saadaan joukon S kaikkien alkioiden permutaatio.

k-permutaatioiden lukumäärä

Olkoon joukon S alkioiden lukumäärä n = n(S). Tällöin joukon S alkioiden k-permutaatioiden eli variaatioiden lukumäärä on

(1.15) P( , ) ^!

( )!

n k n

= n k -

1.5.4. Kombinaatiot ja binomikertoimet

Kombinaatiot

Olkoon joukon S alkioiden lukumäärä n = n(S). Mikä tahansa joukon S osajoukko, jossa on k alkiota, muodostaa joukon S alkioiden k alkiota sisältävän kombinaation.

Merkintä:

C(n, k) = n:n alkion joukon k alkiota sisältävien kombinaatioiden lukumäärä

Kombinaatioiden lukumäärä

Olkoon joukon S alkioiden lukumäärä n = n(S). Tällöin joukon S alkioiden k alkiota sisältävien kombinaatioiden lukumäärä on

(1.16) C( , ) ^!

!( )!

n n

n k k n k k

= - = ç ÷æ öè ø

jossa luku n k æ öç ÷ è ø

on ns. binomikerroin ja se luetaan “n yli k:n”.

Koska 0! = 1, niin

! !

0 0! ! 1 !0!

n n n n

n

n n

æ ö= = = =æ ö

ç ÷ ç ÷

è ø è ø

Binomikaava

Binomikaavan mukaan n:s potenssi binomille x + y voidaan esittää muodossa

0

1 2 2 1

( )

n

n n k k

k

n n n n n

x y n x y

k

n n n n n

x x y x y xy y

-

=

- - -

+ = æ öç ÷ è ø

æ ö æ ö æ ö æ ö æ ö

=ç ÷ +ç ÷ +ç ÷ + +ç ÷ +ç ÷

å

L

Osajoukkojen lukumäärä

Olkoon joukon S alkioiden lukumäärä n = n(S). Joukon S osajoukkojen lukumäärä on

2ⁿ .

Lukumäärässä on mukana:

- Tyhjä joukko Æ

- Kaikki yhden alkion osajoukot - Kaikki kahden alkion osajoukot

M

- Kaikki (n - 1):n alkion osajoukot - Joukko S

1.5.5. Multinomikerroin

Multinomikertoimen määritelmä

Olkoon joukon S alkioiden lukumäärä n = n(S). Oletetaan, että positiiviset kokonaisluvut

n_i , i = 1, 2, … , k toteuttavat ehdon

n = n1 + n2 + ××× + nk

Ositetaan joukko S pistevieraisiin osajoukkoihin A_i , i = 1, 2, … , k

siten, että joukossa Ai on n(Ai) = ni alkiota.

Joukko S, jossa on n = n(S) alkiota, voidaan osittaa (1.17)

1 2 1 2

!

! ! !

k k

n n

n n n n n n

æ ö

ç ÷=

è L ø L

tavalla pistevieraisiin osajoukkoihin A_i , i = 1, 2, … , k , joiden alkioiden lukumäärät toteuttavat ehdot:

(i) n(Ai) = ni , i = 1, 2, … , k, (ii) n = n1 + n2 + ××× + nk .

Lukumäärän antavaa lauseketta kutsutaan multinomikertoimeksi.

2. Todennäköisyyden aksioomat

2.1. Todennäköisyyden määritteleminen

Ks. luentokalvot http://www.hut.fi/Yksikot/SAL/Opinnot/Mat-2.091/ .

2.2. Todennäköisyyden aksioomat äärellisessä otosavaruudessa

Boolen algebra

Olkoot S joukko ja F jokin joukon S osajoukkojen muodostama joukkoperhe.

Siis, jos joukko A on joukkoperheen F alkio, niin A on joukon S osajoukko:

A Î F Þ A Ì S

Joukkoperhe F on Boolen algebra, jos (i)

(ii)

(iii) ,

A Ac

A B A B

ÆÎ

Î Þ Î

Î Î Þ È Î F

F F

F F F

Boolen algebrat ja joukko-opin operaatiot

Olkoot F joukossa S määritelty Boolen algebra ja ja

AÎF BÎF

Boolen algebran aksioomien mukaan ,A B^c, ^c,A B

Æ È ÎF

Lisäksi voidaan osoittaa, että

, , \

S AÇB A BÎF

Todennäköisyyden aksioomat

Olkoon S äärellinen otosavaruus ja F sen kaikkien osajoukkojen perheen muodostama Boolen algebra. Olkoon Pr joukkofunktio, joka liittää jokaiseen Boolen algebraan F kuuluvaan otosavaruuden S osajoukkoon A reaaliluvun Pr(A).

Jos siis AÎF, niin Pr( )A Ρ.

Joukkofunktio Pr on todennäköisyys, jos (i) Pr( ) 1

(ii) 0 Pr( ) 1 kaikille

(iii) , , Pr( ) Pr( ) Pr( )

S

A A

A B A B A B A B

=

£ £ Î

Î Î Ç = Æ Þ È = +

F

F F

2.3. Todennäköisyyden aksioomat äärettömässä otosavaruudessa

s -algebra

Olkoot S joukko ja F jokin joukon S osajoukkojen muodostama joukkoperhe.

Siis, jos joukko A on joukkoperheen F alkio, niin A on joukon S osajoukko:

Joukkoperhe F on s -algebra, jos

1 2

1

(i) (ii)

(iii) , ,

c

i i

A A

A A A

¥

=

ÆÎ

Î Þ Î

Î Þ Î

K

U

F

F F

F F

s -algebrat ja joukko-opin operaatiot

Olkoot F joukossa S määritelty s -algebra ja , 1, 2,

AiÎF i= K s-algebran aksioomien mukaan

1

, 1, 2, ja

c

i i

i

A i A

¥

=

Î^F = K

U

1 i i

A

¥

=

I

Kolmogorovin aksioomat todennäköisyydelle

Olkoon S otosavaruus ja F jokin joukon S osajoukkojen perhe, joka muodostaa s -algebran ja olkoon Pr joukkofunktio, joka liittää jokaiseen s -algebraan F kuuluvaan otosavaruuden S osajoukkoon A reaaliluvun Pr(A).

Jos siis AÎF, niin Pr( )A Ρ.

Joukkofunktio Pr on todennäköisyys, jos

1 2

1 1

(i) Pr( ) 1

(ii) 0 Pr( ) 1 kaikille

(iii) , , ja ,

Pr( ) Pr( )

i j

i i

i i

S

A A

A A A A i j

A A

¥ ¥

=

=

=

£ £ Î

Î Ç = Æ ¹ Þ

=

å

K

U

F F

3. Kokonaistodennäköisyys ja Bayesin kaava

3.1. Kokonaistodennäköisyys ja Bayesin kaava:

Johdanto

Ks. luentokalvot http://www.hut.fi/Yksikot/SAL/Opinnot/Mat-2.091/ .

3.2. Kokonaistodennäköisyyden kaava

Otosavaruuden ositus

Otosavaruuden S epätyhjät osajoukot B1, B2, … , Bn muodostavat otosavaruuden S osituksen toisensa poissulkeviin tapahtumiin, jos

(i) Bi¹Æ, i = 1, 2, … , n (ii) BiÇBj = Æ, i ¹ j (iii) S = B1ÈB2È … ÈBn

Otosavaruuden osituksen indusoima ositus

Olkoon A Ì S otosavaruuden S osajoukko. Olkoon B1, B2, … , Bn otosavaruuden S ositus. Ositus B1, B2, … , Bn indusoi osituksen joukkoon A:

(AÇBi)Ç(AÇBj) = Æ, i ¹ j ja

A = (AÇB₁)È(AÇB₂)È×××È(AÇB_n).

Määritelmä

Olkoon A Ì S otosavaruuden S osajoukko. Olkoon B1, B2, … , Bn otosavaruuden S ositus. Olkoon (AÇB1), (AÇB2), … , (AÇBn) osituksen B1, B2, … , Bn indusoima ositus joukkoon A.

Tällöin kokonaistodennäköisyyden kaavan mukaan (1.18)

1

Pr( ) Pr( ) Pr( )

n

i i

i

A B A B

=

=

å

3.3. Bayesin kaava

Määritelmä

Olkoon A Ì S otosavaruuden S osajoukko. Olkoon B1, B2, … , Bn otosavaruuden S ositus. Ehdollisen todennäköisyyden määritelmän mukaan

Pr( ) Pr( )

Pr( )

Pr( )

Pr( ) Pr( )

i i

i i

B A B

A B

B A A A

= Ç =

Soveltamalla nimittäjään kokonaistodennäköisyyden kaavaa saadaan Bayesin kaava:

(1.19)

1

Pr( ) Pr( )

Pr( )

Pr( ) Pr( )

i i

i n

j j

j

B A B

B A

B A B

=

=

å

4. Verkot todennäköisyyslaskennassa

Ks. luentokalvot http://www.hut.fi/Yksikot/SAL/Opinnot/Mat-2.091/ .

5. Väärinkäsityksiä todennäköisyyden luonteesta

Ks. luentokalvot http://www.hut.fi/Yksikot/SAL/Opinnot/Mat-2.091/ .

6. Satunnaismuuttujat ja todennäköisyysjakaumat

6.1. Satunnaismuuttujat

6.1.1. Diskreetit satunnaismuuttujat

Satunnaismuuttuja: määritelmä

Olkoon x (mitallinen) funktio otosavaruudesta S reaalilukujen R joukkoon:

x: S ®R

Tällöin x on satunnaismuuttuja.

Diskreetit satunnaismuuttujat

Olkoon otosavaruus S äärellinen tai numeroituvasti ääretön. Tällöin reaaliarvoinen funktio

x: S ®R

joka saa äärellisen tai numeroituvasti äärettömän määrän erillisiä arvoja on diskreetti satunnaismuuttuja.

Diskreetin satunnaismuuttujan todennäköisyysjakauma: määritelmä

Olkoon otosavaruus S äärellinen tai numeroituvasti ääretön. Olkoot satunnaismuuttujan x: S ®R arvot eli numeeriset tulosvaihtoehdot

xi i = 1, 2, …, n, jos S on äärellinen tai

x_i i = 1, 2, … , jos S on numeroituvasti ääretön Tulosvaihtoehdot xi ja niiden todennäköisyydet

Pr(x = x_i) = p_i

muodostavat diskreetin todennäköisyysjakauman (usein: jakauman), jos todennäköisyydet pi toteuttavat ehdot

1

1

(1) 0 1 kaikille

(2) 1 äärellinen

1 numeroituvasti ääretön

i n

i i

i i

p i

p S

p S

=

¥

=

£ £

=

=

å

å

Diskreetin jakauman pistetodennäköisyysfunktio

Olkoon x diskreetti satunnaismuuttuja, joka saa arvot x_i i = 1, 2, …

todennäköisyyksillä

Pr(x = xi) = pi i = 1, 2, … Tällöin lukuparit

(x_i, p_i ) i = 1, 2, …

muodostavat diskreetin jakauman pistetodennäköisyysfunktion.

Satunnaismuuttujan x pistetodennäköisyysfunktio f voidaan määritellä myös kaavalla

{ }

{ }

1 2

1 2

, , ,

( ) Pr( )

0, , ,

pi x x x

f x x

x x x

x ìï Î

= = = í

ïî Ï

K K

6.1.2. Jatkuvat satunnaismuuttujat

Jatkuvat satunnaismuuttujat

Satunnaismuuttuja x on jatkuva, jos se saa kaikki arvot joltakin reaaliakselin väliltä ja todennäköisyys, että x saa minkä tahansa yksittäisen arvon on nolla.

Jatkuva todennäköisyysjakauma ja sen tiheysfunktio: määritelmä

Funktio f määrittelee satunnaismuuttujan x jatkuvan todennäköisyysjakauman (usein: jakauman), jos

(1) ( ) on :n jatkuva funktio (2) ( ) 0 kaikille

(3) ( ) 1

(4) Pr( ) ( )

b

a

f x x

f x x

f x dx

a x b f x dx

+¥

-¥

³

=

£ £ =

ò

ò

Funktiota f kutsutaan todennäköisyystiheysfunktioksi tai pelkästään tiheysfunktioksi.

6.2. Kertymäfunktio

6.2.1. Kertymäfunktion määritelmä

Kertymäfunktio

Satunnaismuuttujan x kertymäfunktio F on reaaliarvoinen funktio F(x) = Pr(x £ x)

Kaikki satunnaisilmiöön liittyvät todennäköisyydet voidaan ilmaista ilmiöön liittyvän satunnaismuuttujan kertymäfunktion F avulla.

Kertymäfunktion ominaisuudet

Funktio F: R®[0, 1] on kertymäfunktio, jos se toteuttaa seuraavat ehdot:

1 2 1 2

0

(1) lim ( ) 0

(2) lim ( ) 1

(3) on ei-vähenevä funktio:

( ) ( ), jos (4) on jatkuva oikealta:

lim ( ) ( )

h h

h

F x F x F

F x F x x x

F

F x h F x

®-¥

®+¥

® +

=

=

£ £

+ =

Jos funktio F: R®[0, 1] on kertymäfunktio, niin:

(5) Pr( ) 1 ( )

(6) Pr( ) ( ) ( )

x F x

a b F b F a

x x

> = -

< £ = -

6.2.2. Diskreetin jakauman kertymäfunktio

Diskreetin jakauman kertymäfunktio

Oletukset:

- x on diskreetti satunnaismuuttuja.

- {x₁, x₂, … } on x:n tulosvaihtoehtojen eli arvojen joukko.

- f(x_i) = p_i = Pr(x = x_i), i = 1, 2, … on x:n pistetodennäköisyysfunktio.

Määritellään funktio F: R®[0, 1] (1.20) ( ) Pr( )

i

i x x

F x x x p

£

= £ =

å

F on satunnaismuuttujan x kertymäfunktio.

Diskreetin jakauman kertymäfunktion ja pistetodennäköisyysfunktion yhteys

(1.21) Pr(x =x_i)= p_i = f x( )_i =F x( )_i -F x( _i-1)

Diskreetin jakauman todennäköisyydet

Diskreetin jakauman tapauksessa välin (a, b]ÌR todennäköisyys on (1.22)

( ^,]

Pr( ) ( ) ( )

i

i x a b

a x b F b F a p

Î

< £ = - =

å

6.2.3. Jatkuvan jakauman kertymäfunktio

Jatkuvan jakauman kertymäfunktio

Oletukset:

- x on jatkuva satunnaismuuttuja.

- f on x:n tiheysfunktio.

Määritellään funktio F: R®[0, 1]

(1.23) ( ) Pr( ) ( )

x

F x x x f t dt

-¥

= £ =

ò

F on satunnaismuuttujan x kertymäfunktio. Jatkuvan jakauman kertymäfunktio F(x) on jatkuva ei-vähenevä funktio.

Jatkuvan jakauman kertymäfunktion ja tiheysfunktion yhteys

(1.24) ( ) d ( ) ( )

f x F x F x

dx ¢

= =

Jatkuvan jakauman todennäköisyydet

Jatkuvan jakauman tapauksessa välin [a, b]ÌR todennäköisyys on

(1.25) Pr( ) ( ) ( ) ( )

b

a

a£ £ =x b F b -F a =

ò

7. Jakaumien tunnusluvut

7.1. Odotusarvo

7.1.1. Diskreetin jakauman odotusarvo

Diskreetin jakauman odotusarvo

Oletukset:

- x on diskreetti satunnaismuuttuja.

- {x₁, x₂, … } on x:n tulosvaihtoehtojen eli arvojen joukko.

- f(x_i) = p_i = Pr(x = x_i), i = 1, 2, … on x:n pistetodennäköisyysfunktio.

Tällöin vakio

(1.26) E( )x =m_x =

å

å

7.1.2. Jatkuvan jakauman odotusarvo

Jatkuvan jakauman odotusarvo

Oletukset:

- x on jatkuva satunnaismuuttuja.

- f on x:n tiheysfunktio Tällöin vakio

(1.27) E( )x m_x ^+¥xf x dx( )

-¥

= =

ò

on satunnaismuuttujan x odotusarvo.

7.1.3. Odotusarvon ominaisuuksia

Odotusarvon ominaisuuksia

Vakion a odotusarvo:

(1.28) E( )a =a

Satunnaismuuttujan x lineaarimuunnoksen t = a + bx odotusarvo:

(1.29) E( )t = +a bE( )x

Satunnaismuuttujien summan ja erotuksen odotusarvo

Satunnaismuuttujien x ja t summan x + t odotusarvo:

(1.30) E(x t+ =) E( ) E( )x + t

Satunnaismuuttujien x ja t erotuksen x-t odotusarvo:

(1.31) E(x t- =) E( ) E( )x - t

Satunnaismuuttujien painotetun summan odotusarvo

Olkoot xi , i = 1, 2, … , n satunnaismuuttujia ja ai , i = 1, 2, … , n vakioita.

Satunnaismuuttujien xi , i = 1, 2, … , n painotetun summan

1 n

i i i

ax

å

1 1

E E( )

n n

i i i i

i i

ax a x

= =

æ ö =

ç ÷

è

å

å

Kaava (1.32) sisältää erikoistapauksinaan kaavat (1.30) ja (1.31).

Satunnaismuuttujan funktioiden odotusarvo

Olkoon x satunnaismuuttuja ja g reaaliarvoinen funktio.

Satunnaismuuttujan g(x) odotusarvo on diskreetin jakauman tapauksessa:

(1.33) E( ( ))g x =m_{g( )x} =

å

å

(1.34) E( ( ))g x m_{g( )x} ^+¥g x f x dx( ) ( )

-¥

= =

ò

Momentit

Olkoon x satunnaismuuttuja. Tällöin satunnaismuuttujan x ^k odotusarvo (1.35) E(x^k)=a_k

on satunnaismuuttujan x k. momentti (origon suhteen). Erityisesti:

0 1

1

E( ) a

a m x

=

= =

7.2. Varianssi

Varianssi: määritelmä

Olkoon satunnaismuuttujan x odotusarvo E( )x =m

Satunnaismuuttujan x varianssi on vakio

(1.36) ^{D ( )2 x =Var( )x =sx2 =E (é}_ë^{x m- )2ù}_û^=E(x2)-

[

]

jossa

a2 = E(x ²) = x:n toinen momentti.

Satunnaismuuttujan x varianssi:

- Diskreetti jakauma:

(1.37) D ( )² x =Var( )x =s_x² =

å

(1.38) D ( )² x Var( )x s_x^{2 +¥}(x m)² f x dx( )

-¥

= = =

ò

Standardipoikkeama: määritelmä

Satunnaismuuttujan x standardipoikkeama eli keskihajonta on varianssin neliöjuuri (1.39) D( )x = Var( )x =s_x = E (éëx m- )²ùû

Varianssin ominaisuuksia

Vakion a varianssi:

(1.40) D ( )² a =Var( )a =0

Satunnaismuuttujan x lineaarimuunnoksen t = a + bx varianssi:

(1.41) D ( )=Var( )² t t =b²Var( )x

Standardointi

Olkoon x satunnaismuuttuja, jonka odotusarvo E(x) = m ja varianssi D²(x) = s². Tällöin standardoidun muuttujan

(1.42) _t ^{x m} s

= -

odotusarvo on E( )t =0 ja varianssi

D ( )2 t =Var( ) 1t =

Summan ja erotuksen varianssi riippumattomille satunnaismuuttujille

Oletetaan, että satunnaismuuttujat x ja t ovat riippumattomia. Satunnaismuuttujien x ja t summan x + t varianssi:

(1.43) D (² x t+ =) Var(x t+ =) D ( )² x +D ( )² t Satunnaismuuttujien x ja t erotuksen x-t varianssi:

(1.44) D (² x t- =) Var(x t- =) D ( )² x +D ( )² t

Satunnaismuuttujien summan varianssi yleisessä tapauksessa katso (1.84).