Multipel regression Modellen

(1)

Matematisk statistik 9 hp, HT-16 F¨orel¨asning 16: Markovkedjor

Joakim L¨ubeck + Anna Lindgren

5+6 december, 2016

(2)

Multipel regression Modellen

y

i

= β

0

+ β

1

x

i1

+ . . . + β

k

x

ik

+ ε

i

, i = 1, . . . , n, ε

i

∈ N (0, σ) kan skrivas p˚a matrisform som

y = Xβ + ε

d¨ar y och ε ¨ar n × 1-vektorer, β en 1 × (k + 1)-vektor och X en n × (k + 1)-matris

y =





 y

₁

y

₂

.. . y







, X =







1 x

₁₁

· · · x

_1k

1 x

₂₁

· · · x

_2k

.. . .. . . .. .. . 1 x · · · x





 , β =





 β

₀

β

₁

.. . β





 ,ε =





 ε

₁

.. . ε

n







(3)

Skattning av parametrarna

Skattning av β

ML- och MK-skattningar av β

₀

, . . . , β

k

(elementen i β) blir β

^∗

= (X

^T

X)

⁻¹

X

^T

y β

_i^∗

∈ N (β

i

, D(β

_i^∗

)) .

D(β

_i^∗

)

²

ges av diagonalelementen i kovariansmatrisen

V(β

^∗

) = σ

²

(X

^T

X)

⁻¹

=







V(β

₀^∗

) C(β

₀^∗

, β

₁^∗

) · · · C(β

₀^∗

, β

_k^∗

) C(β

₁^∗

, β

₀^∗

) V(β

₁^∗

) · · · C(β

₁^∗

, β

_k^∗

)

.. . .. . . .. .. . C(β

_k^∗

, β

₀^∗

) C(β

_k^∗

, β

₁^∗

) · · · V(β

_k^∗

)





 .

En v¨antev¨ardesriktig skattning av σ

²

ges av (korrigerad ML) s

²

= Q

₀

d¨ar Q = (y − Xβ

^∗

)

^T

(y − Xβ

^∗

)

(4)

Stokastisk process

I

En stokastisk process {X(t), t ∈ T} är en följd av stokastiska variabler, en ”slumpmässig funktion av t”.

I

F¨or ett fixt t ¨ar X(t) en stokastisk variabel.

I

Beroende p˚a vilka v¨arden X(t) och t kan anta har vi f¨oljande fyra kombinationer

Tid

Process Diskret Kontinuerlig Diskret

Kontinuerlig

(5)

tid (t)

0 5 10 15 20

X(t)

0 0.5 1 1.5 2 2.5

3 Diskret process i diskret tid

tid (t)

0 5 10 15 20

X(t)

0 0.5 1 1.5 2 2.5

3 Diskret process i kontinuerlig tid

0 5 10 15 20

X(t)

-6 -5 -4 -3 -2 -1

0 Kontinuerlig process i diskret tid

0 5 10 15 20

X(t)

-10 -5 0 5 10

15Kontinuerlig process i kontinuerlig tid

(6)

Markovkedjor

En markovkedja, {X

n

, n = 0, 1, 2, . . .}, ¨ar en diskret stokastisk process med diskret tid. De v¨arden processen antar kallas tillst˚and och betecknas E

_i

eller bara i.

En markovkedja uppfyller markovvillkoret

P (X

n+1

= i

n+1

| X

n

= i

n

, X

n−1

= i

n−1

, . . . , X

₀

= i

₀

) =

= P (X

n+1

= i

n+1

| X

n

= i

n

)

dvs sannolikheten att n¨asta v¨arde skall vara i

n+1

beror bara p˚a

nuvarande v¨arde.

(7)

0 20 40 60 80 100

−2

−1 0 1 2 3 4 5 6 7

tid, n

X(n)

Symmetrisk slumpvandring

(8)

0 20 40 60 80 100 0

2 4 6 8 10 12 14 16 18

tid, n

X(n)

Totala antalet sexor

(9)

Overg˚angssannolikheter ¨

Sannolikheterna

p

ij

= P (X

n+1

= j | X

n

= i)

kallas överg˚angssannolikheter och är slh att g˚a fr˚an tillst˚and i till j i ett steg. Man brukar samla dem i en överg˚angsmatris

P =







p

11

p

12

· · · p

₂₁

p

₂₂

· · · .. . .. . . ..







d¨ar t.ex p

₂₁

¨ar slh att g˚a fr˚an tillst˚and 2 till 1. Eftersom processen alltid

m˚aste g˚a till n˚agot tillst˚and ¨ar radsummorna i P alltid 1.

(10)

Modellgraf

Tillst˚anden och överg˚angssannolikheterna kan ritas i en modellgraf. För en markovkedja med tre tillst˚and och nedanst˚aende överg˚angsmatris blir grafen

P =





0.6 0.4 0 0.1 0.2 0.7 0.3 0 0.7





1 2 3

0.1 0.4 0.3

0.7 0.6 0.2 0.7

(11)

Overg˚angssannolikheter av h¨ogre ordning ¨

Overg˚angssannolikheterna av ordning ¨ m p

^(m)_ij

= P(X

n+m

= j | X

n

= i)

¨ar slh att g˚a fr˚an i till j i m steg. Motsvarande ¨overg˚angsmatris av ordning m bet. P

^(m)

och r¨aknas ut som P

^(m)

= P

^m

. Sambandet

P

^(m+n)

= P

^m

P

ⁿ

kallas ”Chapman-Kolmogorovs sats”.

(12)

Exempel — ¨ Overg˚angssannolikheter

Vad ¨ar P (X

₂

= 2 | X

₀

= 1) i Markovkedjan nedan?

P =





0.6 0.4 0 0.1 0.2 0.7 0.3 0 0.7





1 2 3

0.1 0.4 0.3

0.7 0.6 0.2 0.7

(13)

Absoluta sannolikheter

Sannolikheterna att kedjan ¨ar i tillst˚and i vid tiden n p

⁽ⁿ⁾_i

= P(X

n

= i)

kan samlas i en sannolikhetsvektor (obs radvektor) p

⁽ⁿ⁾

= (p

⁽ⁿ⁾₁

, p

⁽ⁿ⁾₂

, . . .)

Detta ¨ar allts˚a sannolikhetsfunktionen f¨or X

n

. Speciellt kallas p

⁽⁰⁾

f¨or initialf¨ordelning eller startvektor.

Satsen om total sannolikhet och ”Chapman-Kolmogorovs sats” ger p

⁽¹⁾

= p

⁽⁰⁾

P

p

⁽²⁾

= p

⁽¹⁾

P = p

⁽⁰⁾

P

⁽²⁾

p

⁽ⁿ⁾

= p

⁽⁰⁾

P

⁽ⁿ⁾

= p

⁽ⁿ⁻¹⁾

P

(14)

Station¨ar f¨ordelning

L˚at π = (π

₁

, π

2

, . . .) vara en sannolikhetsvektor. Om

p

⁽⁰⁾

= π =⇒ p

⁽ⁿ⁾

= π, n = 1, 2, . . . kallas π en station¨ar f¨ordelning.

Samtliga station¨ara f¨ordelningar till en markovkedja med

¨overg˚angsmatris P f˚as som l¨osningarna till ekvationssystemet π = πP

tillsammans med bivillkoret P

π

_i

= 1 och att 0 ≤ π

i

≤ 1.

Observera att ekvationssystemet är omvänt mot att hitta egenvektorer till egenvärde 1. Transponering ger standardfallet.

P

^T

π

^T

= π

^T

(15)

Asymptotisk f¨ordelning

Om p

⁽ⁿ⁾

→ π f¨or varje val av startvektor p

⁽⁰⁾

¨ar π en asymptotisk f¨ordelning.

Om det existerar en asymptotisk fördelning s˚a är den densamma som den enda stationära fördelningen.

Sats: För en markovkedja med ändligt antal tillst˚and gäller Det finns ett r > 0 s˚a att alla element i

n˚agon kolonn i matrisen P

^(r)

¨ar > 0

⇐⇒

Den asymptotiska f¨ordelningen existerar

(16)

Exempel — Asymptotisk f¨ordelning

1. I följande Markovkedjor, vad är de stationära fördelningarna?

2. Har kedjorna en asymptotisk f¨ordelning?

P

1

=





0.3 0 0.7

1 0 0

0.75 0.25 0



 P

2

=







0.5 0 0.5 0

0 0.2 0 0.8

0.7 0 0.3 0

0 0.8 0 0.2







(17)

Best¨andiga och obest¨andiga tillst˚and

L˚at

f

ii

(n) = P

Atervända till tillst˚and ˚ i för första g˚angen efter n steg

D˚a blir sannolikheten att n˚agon g˚ang ˚aterv¨anda till tillst˚and i f

ii

=

∞

X

j=1

f

ii

(j)

Om

I

f

ii

= 1 s¨ags tillst˚and i vara best¨andigt .

I

f

ii

< 1 s¨ags tillst˚and i vara obest¨andigt.

(18)

Kommunicerande tillst˚and

I

Om p

^(r)_ij

> 0 f¨or n˚agot r = 1, 2, . . . s¨ags tillst˚and i kommunicera med tillst˚and j.

I

Om dessutom tillst˚and j kommunicerar med i s˚a kommunicerar tillst˚anden tv˚asidigt.

I

Om tv˚a tillst˚and kommunicerar tv˚asidigt är antingen b˚ada tillst˚anden beständiga eller b˚ada obeständiga.

I

Om alla tillst˚and kommunicerar tv˚asidigt med varandra kallas

Markovkedjan irreducibel, annars kallas den reducibel.

(19)

Exempel — Kommunicerande tillst˚and

1. I följande Markovkedjor, vilka tillst˚and är beständiga/obeständiga?

2. Ar kedjorna reducibla/irreducibla? ¨

P

₁

=





0.3 0 0.7

1 0 0

0.75 0.25 0



 P

₂

=







0.5 0 0.5 0

0 0.2 0 0.8

0.7 0 0.3 0

0 0.8 0 0.2







P

₃

=







0.5 0.2 0.3 0

0 0.2 0 0.8

0 0 1 0

0.5 0.5 0 0







(20)

12 038 studenters v¨ag genom LTH (1993-2006).

% 1 2 3 4 5 6 7 8 9 Ex Av ?? Ut Uh

1 0.29 89.8 0.01 0.02 0.00 0.00 0.00 0.00 0.00 0.00 3.87 2.70 0.00 3.32 2 0.00 5.34 78.9 0.04 0.00 0.00 0.00 0.00 0.00 0.00 2.83 5.15 0.01 7.72 3 0.00 0.01 9.16 83.7 0.30 0.00 0.00 0.00 0.00 0.00 0.81 2.94 0.00 3.06 4 0.00 0.01 0.02 8.69 76.4 0.22 0.01 0.00 0.00 0.02 0.98 2.86 0.32 10.5 5 0.00 0.00 0.00 0.00 12.2 79.6 0.44 0.02 0.00 0.05 0.27 2.12 0.73 4.55 6 0.00 0.00 0.00 0.00 0.01 17.7 63.6 0.42 0.05 0.53 0.27 3.41 6.64 7.43 7 0.00 0.00 0.00 0.00 0.01 0.03 21.9 68.3 0.26 3.30 0.01 3.24 1.28 1.64 8 0.00 0.00 0.00 0.00 0.03 0.00 0.03 19.7 50.6 16.2 0.02 9.72 1.50 2.19 9 0.00 0.00 0.00 0.00 0.00 0.05 0.02 0.02 42.2 38.7 0.03 18.2 0.14 0.67 Ex 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100 0.00 0.00 0.00 0.00 Av 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 100 0.00 0.00 0.00

?? 0.10 0.26 0.28 0.29 0.43 0.49 0.56 0.84 1.60 1.99 1.75 90.9 0.03 0.47 Ut 0.00 0.00 0.00 0.00 0.14 1.44 5.91 14.8 23.2 5.23 0.07 4.33 43.3 1.58 Uh 0.64 1.96 3.56 2.92 9.15 4.58 5.23 1.50 1.05 0.34 5.81 13.6 0.48 49.2 1–9: Terminsregistrerad p˚a aktuell termin.

Ex: Examen, Av: Anm¨alt avbrott, ??: F¨orsvunnit, Ut: Utlandsstudier, Uh: Studieuppeh˚all

(21)

Utdrag ur Hamlet

ACT III

SCENE I. A room in the castle.

Enter KING CLAUDIUS, QUEEN GERTRUDE, POLONIUS, OPHELIA, ROSENCRANTZ, and GUILDENSTERN

KING CLAUDIUS

And can you, by no drift of circumstance, Get from him why he puts on this confusion, Grating so harshly all his days of quiet With turbulent and dangerous lunacy?

ROSENCRANTZ

He does confess he feels himself distracted; But from what cause he will by no means speak.

GUILDENSTERN

Nor do we find him forward to be sounded, But, with a crafty madness,

keeps aloof, When we would bring him on to some confession Of his

(22)

Overg˚angsmatris i ”The tragedy of Hamlet” av William ¨ Shakespeare

A F K P U Z a f k p u z

(23)

Simulering av skattad Markovkedja f¨or Hamlet en bokstav i taget

Thale cowe iscow-grin stho yo y ha ches ar

OS win alfos ckimare h by g On, peefeee. y, ewh pe d NGany Thindost t sof ofumy; g diseea asheerat:

heas s me thaly onf orsd, he’tmenptinde sink tealler h;

otho childosstal,

tade qu G pad l I y hant four t it my llit A foot wisar t

USCETishinapaind t; de T d! d hisoure G n, keste be en me n As te mbe

liayoowense. ck mathens at d dey ore h hblefan ht, lllvecllengal! f btrerd

gan MAMLI shaver, abe w

(24)

Simulering av skattad Markovkedja f¨or Hamlet tv˚a bokst¨aver i taget

HAMLET

LORD POLONIUS HORTIO

To paustle manderst prought, Nown If his.

QUEEN God fing ise faith ne in Partes lad! But fee.

Well thichoin liond pooh! now creal’d full blord, strasson ordoe I been.

Morse, if noth le, tiven

If there’s pox, I can all Ham now thy vispoorn of this?

Wels fairst

Alassir: food quical bell; befecstortuness, it: mamedischough Theye, Whatur be his to tend; Hyper you wit

HAMLET

I wits upon viord, upoor the such vill so, nown may low’s how lords,