Regression

er en metode til at bestemme bedste rette linie gennem et antal punkter. Teorien er udviklet af C. F. Gauss i 1820-erne. Metoden kaldes ofte mindste kvadraters metode.

Emner

• Bedste rette linie
• Korrelation
• Andre funtioner
• Links

Bedste rette linie

Lad der være giver n punkter (x₁, y₁), (x₂, y₂), ... , (x_n, y_n) og linien med ligningen l : y = a · x + b.
I stedet for at regne med den vinkelrette afstand mellem et punkt og l, valgte Gauss at se på den lodrette afstand. Lodret over/under punktet (x_i, y_i) ligger liniepunktet (x_i, a · x_i + b), og den lodrette afstand er d_i = ½a · x_i + b – y_i½. Afstandskvadratet er d_i² = (a · x_i + b – y_i)².
Ideen er nu at variere a og b, indtil summen af afstandskvadraterne bliver så lille som muligt. Vi danner altså funktionen

d²(a, b) = (a · x₁ + b – y₁)² + (a · x₂ + b – y₂)² + ... + (a · x_n + b – y_n)² =
S₁ⁿ(a · x_i + b – y_i)².

For at finde kravene til a og b, differentierer vi d²(a, b) partielt med hensyn til a. D.v.s. at alt andet end a holdes konstant under differentiationen. Det skrives

¶d2(a, b) ¶a

= 2S(a · xi + b – yi) · xi = 2aSxi2 + 2bSxi – 2Sxi · yi = 2a Sxx + 2b Sx – 2 Sxy .

Partiel differentiation m.h.t. b giver

¶d2(a, b) ¶b

= 2S(a · xi + b – yi) = 2aSxi + 2nb – 2Syi = 2a Sx + 2nb – 2 Sy .

Summen af afstandskvadraterne bliver mindst mulig, når differentialkvotienterne er 0, så

a S_xx + b S_x – S_xy = 0   og   a S_x + nb – S_y = 0 .

Disse ligninger løses af

a =

n Sxy – SxSy n Sxx – SxSx

og

b =

Sy – a Sx n

.

[ Hovedmenu ] [ Ordliste ]

Korrelation

Uanset hvordan de n punkter ligger, er der altid én "bedste rette linie" gennem dem. Men i nogle tilfælde er tilpasningen bedre end i andre. For at undersøge dette, læner vi os op ad statistikken, idet vi lader punkterne indgå med samme vægt 1 / n.

Vi indfører variablerne X = {x₁, x₂, ... , x_n} og Y = {y₁, y₂, ... , y_n} og deres middelværdier

E(X) = (x₁ + x₂ + ... + x_n)/n = S_x/n   og   E(Y) = (y₁ + y₂ + ... + y_n)/n = S_y/n .

For varianserne finder vi

var(X) = E(X²) – (E(X))² = S_xx/n – S_x²/n²   og   var(Y) = E(Y²) – (E(Y))² = S_yy/n – S_y²/n² .

og dermed spredningerne

spr(X) =

Ö

Sxx/n – Sx2/n2

og

spr(Y) =

Ö

Syy/n – Sy2/n2

.

Covariansen bliver

cov(X, Y) = E(XY) – E(X)E(Y) = S_xy/n – S_xS_y/n² .

Hvis der er stor sandsynlighed for, at X og Y på samme tid er større end deres middelværdier og på samme tid mindre, er cov(X, Y) > 0. Er X ofte større end sin middelværdi, når Y er mindre end sin og omvendt, er cov(X, Y) < 0. Er der ingen sådan sammenhæng mellem X og Y, siges X og Y at være uafhængige, og cov(X, Y) = 0. Som mål for, hvor godt linien matcher med punkterne, anvendes korrelationsionskoefficienten R(X, Y)

R(X, Y) =

cov(X, Y) spr(X) · spr(Y)

=

Sxy/n – SxSy/n2 Ö Sxx/n – Sx2/n2 · Ö Syy/n – Sy2/n2

=

nSxy – SxSy Ö nSxx – Sx2 · Ö nSyy– Sy2

[ Hovedmenu ] [ Ordliste ]

Andre funktioner

Eksponentielle funktioner   y = b · a^x

Her er Y = log(y) = log(a) · x + log(b), så man anvender mindste kvadraters metode på punkterne (x₁, log(y₁)), ... (x_n, log(y_n)), og finder konstanterne A = log(a) og B = log(b). Herefter er ligningen for bedste eksponentielle kurve y = 10^B · (10^A)^x.

Her er MatLex' regnemaskine til "bedste eksponentielle funktion".

Potentensfunktioner   y = b · x^a

Her er Y = log(y) = log(x) · a + log(b), så man anvender mindste kvadraters metode på punkterne (log(x₁), log(y₁)), ... (log(x_n), log(y_n)), og finder konstanterne a og B = log(b). Herefter er ligningen for bedste eksponentielle kurve y = 10^B · x^a.

Her er MatLex' regnemaskine til "bedste potens- funktion".

[ Hovedmenu ] [ Ordliste ]

Links

MatLex' regnemaskine til bestemmelse af bedste rette linie
IES Engelsksproget animation
Wikipedia Engelsksproget side

[ Hovedmenu ] [ Ordliste ] [ Tilbage til hovedsiden ]