ML odhad (1 A'S
Ďalšie pomocné tvrdenia
Lema 1*. Platí
(9m'x
cbc'Ax (9x
2Ax.
Dôkaz. Urobte ako cvičenie.
Nech B je regulárna n x n matica, ktorej prvky sú diferencovatelnými funkciami premennej t, čiže {B}i j —     — Ďjj(í), i, j — 1, 2, ...,n,
<9B  . • ,
-7^- je n x n matica, ktorej prvky su
j = 1,2, ...,n
dctetB   . . ddetB 1 ^
—--        je n x n matica, ktorej prvky su ——-, i, j — 1, 2, ...,n,
oB oba
díag~B
/{B}i,i 0
0 {B}2,2
V 0
{B}nj„ /
Značenie je rovnaké ako v kapitolke 8. "Pomocné tvrdenia" textu "Plánovanie regresného experimentu".
Lema 2*. Pre symetrickú regulárnu n x n maticu B a symetrickú maticu C platí ÔtrB^C ^ _2B-iCB-i + ^(b-íCB-1).
dB
Dôkaz. Platí
-írCB"
dtrB^C
ju
-fr-CB-^B-1 obu
(\   0   0 ...x
0 0 0 0   0 0
B
-tr
/l 0 0 0 0 0 0   0 0
Vo o o /
^-{B^CB-1}!!
dtrB^C
-írCB-^B-1 ob12
B lCB
Vo 0  0 /
2
-trCW
fO 1 O ...^
1 o o
0 0 0
Vo o o )
B
-tr
fO 1 O ...^
1 O o
0 0 0
Vo o o )
B ^CB
= -{B-^B-1^! - {B-^B-1^! = 2{B-1CB-1}12
Úplne analogicky dostávame
dtrB^C
a pre i ^ j
teda
{B-^B-1}
dtrB^C
2B 'CB 1 + diag (B-LCB-L). □
Lema 3*. Pre symetrickú n x n maticu B piati
2B - diagB = O^B=0.
Dôkaz. Spravte ako cvičenie.
Združenú funkciu hustoty rozdelenia náhodného výberu X„pi — (X'1; ...,X^)' uvažovanú pri danom x (realizácia X G 1ZP) ako funkciu vektorového parametra 6 G lZq nazývame funkciou vierohodnosti
n
L(x;0) = []/(xí;0),
i=l
resp. jej logaritmus, teda
n
Z(x,0) = Z(xi,x2,...,x„,0) = 1iiL(x;0) = ^ln/fo; 0).
i=l
Vierohodnostnými rovnicami rozumieme systém
2^     m      -u,   A-1,2,..., g.
i—l
Majme náhodný výber X — (X'1; X2,X^)', kde Xj ~ Np(fi, S), S je regulárna. Potom
L(x; /x, s) = |27rSrf e-^ ^ľ=i(x* - - m) j
3
1 ™
Z(x; /x, E) = lnL(x; /x, S) =      ln |2ttS| - - ]T(Xí - /x/ST1^ - /x).
i=l
Plati
(xj - /x)'E 1 (xj - /x) = (x, - x + x - /x)'£    (Xj - x + x - /x) =
= (xí - x/E-^Xi - x) + (x - M)'S_1(x - /x)+ +2(xí-x)'S-1(x-/x),
^(Xi - /xi'S-^Xi - /x) = ^(x,- - x/S-^Xi - x) + n (x - /x/E-^x - /x)+
i=l i=l n n
-2 ^(xí - x)'XT1 (x - /x) = Ír ^(xí - x)'S_1(xí - x) + n (x - /x)'E_1 (x - /x)
i=l
Ír
+ n(x- /x/E-1 (x- /x) +
(A) lebo
ntr ■
S(™»0 = _y;(xi-x)(xi-x)' a 2V(xí-x)'£-1(x-/x) = = 2 jn- ^x^S_1(x- /x) - nx'XT^x- /x) j = 0.
Dostávame
(B) Z(x; /x, S) = ~ ln |2ttS| - \tr {s^S^ } - ^ír {S^x - /x)(x - /x)'}
= _ľ£ ln 27t - | ln(deí(S)) -       {sT1 - (x - /x)(x - /x)'] } .
Teda vierohodnostné rovnice sú
m_
<9/x
di_
9s
Ak n ^ p + 1, pomocou Lemy 1* dostávame z prvého systému vierohodnostných rovníc
-2(S(reaí))"1x + 2(S(reaí))"V(rea° = 0,
čiže teda
/t = X.
Ďalej budeme pokračovat bez komplikovaného značenia a využijeme ostatné lemy. Dostávame z druhého systému vierohodnostných rovníc
~IÄ iln(deí(S)) + ír [S_1(S + (x - M)(x - /x)')] } = 0,
2 {S"1 - S-^S + (x - /x)(x - /x)')^-1} -{XT1 - S-^S + (x - /x)(x - = 0,
E-1-E-1(S+(x-/x)(x-/x)')E~1 =0.
Výsledné
E = S.
Chceme ukázat, že pre každú realizáciu xi, ...,x„ je
Z(xi,x„; x, S<reoi>) - Z(x1;x„; /x, E) ^ 0. Budeme ešte potřebovat niekolko pomocných tvrdení.
Lema 4*. Čisla Ai,Ap sm korene rovnice \s(real) — AE| — 0 práve vtady, ak sú koreňmi rovnice |E~2 S^real^'S~i — AJ| = 0.
Dôkaz, vyplýva z implikácií
|5(reoi) _ AS| = Q ^ |S^s-i 5(reoi)S-^ _ XJ^i | = Q
^ |£5||£-3s(™ai)s-* -A/||E5| = 0^> |S-55(™«0s-é -AI| = 0,
prčom navyše platí (podlá Lemy 8.9 v texte "Plánovanie regresného experimentu"), že
p
5
Lema 5*. Pre x > O je lnx + 1 — x 5= 0.
Dôkaz. : Pre funkciu f (x) — ex~1 — x platí, že /(O) — -,    f (í) — 0. Pre x > O je
e
minimum tejto funkcie v tom čísle x, pre ktoré f (x) — 0. Teda f (x) — ex~1 — l — 0, čiže x — í. Pretože f" (í) — ex~1\x=i — 1 > 0, v bode x — í funkcia f (x) nadobúda minimum. A minimálna hodnota funkcie je f (í) — 0. Pre x > 0 preto ex~1 — x ^ 0,   ex~1 ^ĺx,  x — 1 ^ ln x a konečne ln x + 1 — x 5= 0.
Pomocou (A), (B), Lemy 4* a Lemy 5* dostávame:
Z(Xl, ...,x„;x, S<reoi>) - Z(x1;     x„; /x, S) = = -|ln(deíS(reaí)) - 2írs(reo'rlS(reoZ) - |(x-x)'S(rea'rl(x-x)+ + ^ ln(deíS) + ^írS-^í™0') + |(x - /x/S^x - /x) ^
> _n    detS^ _np    n        ! (reoí) = -    2       ctetE        2 2
=--ln-j-r--- + -írE~5S(reai)5r5 =
2    tfetEsdetE*      2 2
= - ^inrfe^s-^s^S-s) - ^ + ^trE-*S<reoZ>E-* =
-- ln(A!...Ap) - -f + -(Ai + ... + A„)
71
-{lnAi + ... + lnAp + 1 + ... + 1 - Ai - ... - Xp} --{(lnAi + 1 - Ai) + ... + (lnAp + 1 - Ap)} ^ 0.