Föreläsning 19

11.10 ML-skattning av stickprov

Stickprov: x_1,…,x_6 = 4,5,4,6,4,1 .

overline(underline(x))i in "Geo"(theta) => P(overline(underline(x))_i)(K) = theta(1-theta)^(K-1), K in bbb"Z"^+

L(theta) = Pi_1^6 theta(1-theta)^(K_i-1) = theta(1-theta)^(4-1) * theta(1-theta)^(5-1) * theta(1-theta)^(4-1) * theta(1-theta)^(6-1) * theta(1-theta)^(4-1) theta(1-theta)^(1-1)
= theta^6 (1-theta)^(sum_1^6(K_i-1)) = theta^6(1-theta)^18

Vi vill nu logaritmera L :
ln L(theta) = 6 ln(theta) + 18 ln(1-theta)
Sätter derivatan till noll:
d/(d theta) ln L(theta) = 6/theta - 18/(1-theta) = 0 iff (6(1-theta) - 18 theta)/(theta(1-theta)) = 0
iff 6-24theta = 0 iff theta = 6/24 = 1/4

ML-skattningen ("most likely"-skattningen) av theta är theta^(**) = 1/4 .
Ett skarpt matematiskt öga ser att theta^(**) = n/(sum_1^n overline(underline(x))_i) = 1/(overline(overline(underline(x))))

Likelihoodfunktionen L(theta) = P((overline(underline(x))_1=x_1) nn (overline(underline(x))_n=x_n)) = P(overline(underline(x))_1=x_1)*…*P(overline(underline(x))_n=x_n)
Kräver att p(x) eller f(x) är känt.

Med hjälp av derivata=0 så kan man hitta var sannolikheten peakar maximalt. Genom att logaritmera innan man deriverar så gör man derivatan enklare, och det påverkar inte svaret var derivatan=0 eftersom att ln(f(x)) har samma min/max som f(x) för alla x>0 .

Ex.

Bestäm ML-skattningen av P om overline(underline(x)) in "Bin"(n, p) .

p(x) = ((n),(x)) p^x (1-p)^(n-x)

:. ln L(p) = ln( ((n),(x)) ) + x ln(p) + (n-x) ln (1-p)

d/(dp) ln L(p) = x/p - (n-x)/(1-p) = 0 iff ( x(1-p) - p(n-x) )/(p(1-p) = 0
iff x-xp-np+xp = 0 iff x-np=0 iff p=x/n

ML-skattningen av p i "Bin"(n, p) är p^(**) = x/n
( V(p^(**)) = (p(1-p))/n)

Ex. Bestäm MK (minsta kvadrat)-skattningen av p .

p in "Bin"(n, p)
overline(underline(x)) = x, E(overline(underline(x))) = np

Vi ska minimera Q(p) = (x-np)^2 .
d/(dp) Q(p) = -2n(x-np) = 0 iff x-np = 0 iff p = x/n .

MK-skattningen av p är p^(**) = x/n

Ex. Bestäm MK-skattningen av p .

x_1,…,x_n vara stickprov från overline(underline(x))_i in "Exp"(lambda) .
:. f(x) = lambda e^-(lambda x), x>=0
E(overline(underline(x))) = 1/lambda

Q(lambda) = sum_1^n (x_i - 1/lambda)^2
d/(dx) Q(lambda) = sum_1^n 2(x_i - 1/lambda)*1/lambda^2 = 0
iff sum_1^n (x_i-1/lambda) = 0 iff sum_1^n x_i - n/lambda = 0 iff lambda = n/(sum_1^n x_i) = 1/overline(x)

Ex.

x_1,…,x_n stickprov från overline(underline(x))_i in ·(mu, sigma) (okänd fördelning alltså)

MK-skattningen av mu :
Q(mu) = sum_1^n (x_i - mu)^2
(dQ(mu))/(d mu) = -2 sum_1^n (x_i - mu) = 0 iff sum x_i - n mu = 0 iff mu = overline(x) .