Karratu txikienen erregresio zuzen

Estatistikan, karratu txikienen erregresio zuzena karratu txikienen erregresioz lortutako zuzena adierazten du.

Datuetara (urdinez) doitzen den erregresio zuzen bat.

Aldagai independente bakarreko zuzena aztertuko da artikulu honetan, erregresio bakuna deiturikoa alegia. Aldagai independente bi edo gehiago direnean (erregresio anizkoitza deiturikoa), karratu txikienen erregresioaren bitartez, erregresio zuzena (bi aldagai independente) edo erregresio planoa (hiru aldagai independente edo gehiago) nola eratu eta aztertzen den jakiteko, ikus Erregresio lineala.

Zuzenaren zenbatespena

Datuak $(x_{i},\ y_{i})$ izanik, karratu txikienen erregresioaren bitartez doituko den ${\hat {y}}=a+bx$ zuzenaren parametroak hauek izango dira, x aldagai independentetzat eta y mendeko aldagaitzat hartuz:

$b={\dfrac {s_{xy}}{s_{x}^{2}}}$

$a={\overline {y}}-b{\overline {x}}$

• ${\overline {x}},{\overline {y}}$: x eta y aldagaien batezbesteko aritmetiko sinpleak
• $s_{x,y}$: x eta y aldagaien arteko lagin kobariantza
• $s_{x}^{2}$: x aldagaiaren lagin bariantza

Frogapena:

Hondar karratuak har ditzagun (ikus Karratu txikienen erregresioa):

$\sum _{i}e_{i}^{2}=\sum _{i}(y_{i}-{\hat {y}}_{i})^{2}=\sum _{i}(y_{i}-a-bx_{i})^{2}$

Azken adierazpena minimotzen duten a eta b zuzenaren parametroak kalkulatu behar dira. Horretarako, a eta b parametroei buruzko deribatu partzialak kalkulatu eta deribatu hauek 0 egiten duten a eta b parametroen balioak eman behar dira:

${\frac {\partial \sum (y_{i}-a-bx_{i})^{2}}{\partial a}}=0\rightarrow 2\sum _{i}(y_{i}-a-bx_{i})=0$

${\frac {\partial \sum (y_{i}-a-bx_{i})^{2}}{\partial b}}=0\rightarrow 2\sum _{i}x_{i}(y_{i}-a-bx_{i})=0$

Aurreko ekuazioak garatuz:

$\sum _{i}y_{i}=a+b\sum _{i}x_{i}$

$\sum _{i}x_{i}y_{i}=a\sum _{i}x_{i}+b\sum _{i}x_{i}^{2}$

Eta Cramer-en erregela erabiliz, erraz lortzen dira parametroek eduki beharreko balioak:

$b={\dfrac {s_{xy}}{s_{x}^{2}}}$

$a={\overline {y}}-b{\overline {x}}$

Adibidea

40 urteko 4 gizonezkoaren gainean, garaiera eta pisuak jaso dira, datuak lehenengo bi zutabeetan azaltzen direlarik. x aldagai independente moduan garaiera aukeratu bada:

Garaiera (cm) (x)	Pisua (kg) (y)	xy	x2
170	82	13 940	28 900
175	76	13 300	30 625
180	85	15 300	32 400
190	92	17 480	36100
batura=715	batura=335	batura=60 020	batura=128 025

$b={\dfrac {s_{xy}}{s_{x}^{2}}}={\frac {{\frac {60020}{4}}-{\frac {715}{4}}\times {\frac {335}{4}}}{{\frac {128025}{4}}-{\frac {715}{4}}^{2}}}=0.63$

$a={\dfrac {335}{4}}-0.63\times {\frac {715}{4}}=-29.62$

Horrela, x garaiera (aldagai independente moduan) eta y pisua (mendeko aldagai moduan) lotzen dituen karratu txikienen zuzena hau izango da:

${\hat {y}}=-29.62+0.63x$

Doikuntzaren egokitasuna

Doitutako zuzena modu hobean edo okerragoan egokitu daiteke datuetara. Hau dela eta, doikuntzaren egokitasuna aztertu ohi da doitutako zuzena zenbateraino den adierazgarria jakiteko. Azterketa hau egiteko gehien erabiltzen den neurria $R^{2}$ mugatze koefizientea da.

Mugatze koefizientea kalkulatzeko, y mendeko aldagaiaren lagin bariantza, $s_{y}^{2}$ bariantza osoa deritzona, eta zuzenean x balioak ezarriz aurresandako emaitzen lagin bariantza, zuzenaren bitartez $s_{\hat {y}}^{2}$ azaldutako bariantza deritzona, kalkulatu behar dira. Mugatze koefizientea azaldutako bariantza zati bariantza osoa da, eta ehunekotan zuzenak azaldutako bariantza osoaren zatia da: zenbat eta handiagoa izan, orduan eta egokitasun hobea, gehienez %100era hel daitekeelarik (aipatu behar da azaldutako bariantza ez dela inoiz bariantza osoa baino handiagoa). Mugatze koefizientea 0.6tik gorakoa denean, doikuntzaren egokitasuna handia dela esan daiteke.

Arestiko adibidea hartuz:

y	${\hat {y}}=-29.62+0.63x$
82	77.48
76	80.63
85	83.78
92	90.08

$R^{2}={\frac {s_{\hat {y}}^{2}}{s_{y}^{2}}}={\frac {21.71}{33.19}}=0.65$

Beraz, zuzenaren egokitasuna handia dela esan daiteke .

Bestelako jakingarriak

Karratu txikienen erregresio zuzenean, $e_{i}=y_{i}-{\hat {y}}_{i}$ hondarren batura 0 da beti. Kalkuluak eskuz egiten direnean propietate erabilgarria izan daiteke, kalkuluak zuzen egin diren egiaztatzeko.

Kanpo estekak

• Datuak: Q10861030
• Multimedia: Linear regression / Q10861030