Link: OLE-Object-Data

   

   Lineární regresní model

   

   Specifikace lineárního jednorovnicového modelu

   

   (1)                                                             

   

   definice vyrovnaných hodnot závisle proměnné                  definice reziduí

   

   (2A)                                                         (2B)    neboli 

   

   odtud vyplývá možnost zápisu závisle proměnné

   

   (3)                                              

   

   z porovnání (1) a (3) obdržíme vztah mezi  a  :

   

   (4)                                             

   

   ( pokud použijeme odhad OLS,  pak pravá strana  ),

     z čehož dále plyne

   

   (5)            

   

                                                    neboli  platí

   

   (6) 

            

   

                                                     neboli  platí

   

   Varovná poznámka :

   

   Ze vztahů  a   nelze usuzovat, že platí , neboť M je vždy singulární matice. Nelze proto nikdy
   psát      a  .

   

   Hodnost matice              

         

   protože                            

   

   

   

                                     Metoda nejmenších čtverců

   

   Minimalizačním kritériem je zde součet čtverců reziduí (odhadnutých náhodných složek neboli
   rozdílů mezi pozorovanými a vyrovnanými hodnotami ) :

   

                       neboli v pozorovaných hodnotách

                                   

   

   Polohu minima (tj. bodu, ve kterém je minimalizovaný výraz nejmenší) nalezneme řešením
   soustavy tzv.normálních rovnic.

   

                             (vektorově)

   

   tuto soustavu řešíme úpravami (vydělením 2, přesunem členů) na tvar , která má řešení pro  ve
   tvaru   , not řešení je jednoznačné, neboť vzhledem k předpokladům , existuje (jediná) inverzní
   matice k matici .

   

                       Vyjádření minimalizace v pozorovaných hodnotách :

   

   

                 pro

                                                 

   

   Prostá metoda nejmenších čtverců není jedinou používanou odhadovou metodou v prostředí
   standardního lineárního regresního modelu. K dalším technikám patří :

   

Metoda maximální věrohodnosti  (Maximum Likelihood) je založena na maximalizaci sdružené hustoty
(tzv.věrohodnostní funkce) rozdělení náhodných složek. Lokalizuje se tedy poloha modusu pro   a   ,
v němž tato funkce nabývá maxima.

   

  Metoda nejmenších absolutních odchylek  LAD (Least Absolute Deviations) je založena na
  minimalizačním kritériu tvaru

                                                                     

   Odhady pořízené metodou LAD nelze vyjádřit v explicitním tvaru, ale je nutno použít iterační
   postup (např. algoritmy R.L.Faira)