Lineaarse regressiooni analüüs on statistiline meetod, mis võimaldab uurida kahe pideva muutuja vahelist seost ja prognoosida ühe muutuja (sõltuv muutuja y) väärtust teise muutuja (sõltumatu muutuja x) põhjal. Vähimruutude meetod (inglise keeles ordinary least squares ehk OLS) leiab andmepunktide vahele sirge, mis minimeerib punktide ja sirge vaheliste vertikaalsete hälvete ruutude summat. See matemaatiline lähenemine tagab, et leitud sirge kirjeldab valitud andmeid kõige täpsemalt.
Kogu andmete töötlemine ja statistiliste näitajate arvutamine toimub lokaalselt: teie andmepunktid ja kõik statistikad jäävad sellesse brauserisse ning neid ei laadita kunagi üles. See tagab andmete privaatsuse otse teie seadmes. Arvutused toimuvad reaalajas kasutaja sisestuse ajal, mistõttu eraldi arvutusnuppu liideses ei ole.
Regressioonikordajate tõlgendamine
Lineaarse regressiooni mudel esitatakse kujul:
ŷ = a + b·x
Kalkulaator arvutab mudeli kordajad ja kuvab nende praktilise tähenduse järgmiselt:
- Tõus b: Näitab sõltuva muutuja keskmist muutust. Liideses kuvatakse selgitus: "Keskmiselt muutub y väärtuse
‹slope›võrra iga x-i üheühikulise suurenemise kohta.". - Vabaliige a: Näitab sirge alguspunkti y-teljel. Liideses kuvatakse selgitus: "Kui x on 0, asub sirge kohal y =
‹intercept›.".
Kordajate tabelis (tabel "Kordajad") esitatakse mõlema kordaja kohta järgmised veerud: "Liige", "Hinnang", "Standardviga", "t", "p" ja "‹level›% vahemik". Read on jagatud vastavalt: "Tõus b" ja "Vabaliige a". Standardviga mõõdab kordaja hinnangu statistilist määramatust, t-statistik ja p-väärtus aga näitavad, kas kordaja erineb statistiliselt oluliselt nullist.
Mudeli sobivuse ja seose tugevuse hindamine
Mudeli headuse ja muutujate vahelise seose hindamiseks kasutatakse mitut statistilist näitajat, mis kuvatakse tulemuste kokkuvõttes:
- Korrelatsioon r: Mõõdab kahe muutuja vahelise lineaarse seose tugevust ja suunda. Kordaja r kannab tõusu b märki, olles negatiivne, kui seos on langev.
- R² (determinatsioonikordaja): Näitab, millise osa y-väärtuste hajuvusest (dispersioonist) suudab leitud regressioonisirge ära seletada.
- Korrigeeritud R²: Võtab arvesse vabadusastmete arvu ja on kasulik mudeli võrdlemiseks, kuna karistab ebaoluliste muutujate lisamise eest.
- Jääkhälve s: Kirjeldab punktide keskmist hajuvust ümber regressioonisirge.
Dispersioonanalüüsi tabelis "Dispersiooni analüüs" esitatakse mudeli varieeruvuse jaotus. Tabel koosneb veergudest: "Allikas", "df" (vabadusastmed), "Ruutude summa", "Keskmine ruut", "F" ja "p". Read jagunevad järgmiselt: "Sirgega seletatud" (regressioon), "Jääk" (jääkide varieeruvus) ja "Kokku". Kuna mudelis on üks prognoosiv muutuja, on mudeli üldine F-test võrdne tõusu t-statistiku ruuduga, andes alati identse p-väärtuse.
Matemaatilised valemid ja arvutuskäik
Kalkulaator teeb arvutused kahes etapis, kasutades kompenseeritud summeerimist, et vältida ümardamisvigu ja säilitada täpsus ka väga erinevate suurusjärkude puhul. Arvutuste sammud kuvatakse jaotises "Valem ja asendus" järgmiste valemitena:
- Keskmised:
x̄ = Σxᵢ ÷ n ja ȳ = Σyᵢ ÷ n
Liideses: "Keskmised: x̄ =
‹sumX›÷‹n›=‹meanX›ja ȳ =‹sumY›÷‹n›=‹meanY›". - Hälbed ja kaaskooskõla:
Sxx = Σ(xᵢ − x̄)² ja Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ)
Liideses: "Hälve ja kaaskooskõla: Sxx =
‹sxx›ja Sxy =‹sxy›". - Tõus:
b = Sxy ÷ Sxx
Liideses: "Tõus: b = Sxy ÷ Sxx =
‹sxy›÷‹sxx›=‹slope›". - Vabaliige:
a = ȳ − b·x̄
Liideses: "Vabaliige: a = ȳ − b·x̄ =
‹meanY›− (‹slope›)·‹meanX›=‹intercept›". - Seletatud dispersiooni osa:
R² = SSR ÷ SST
Liideses: "Seletatud dispersiooni osa: R² = SSR ÷ SST =
‹ssr›÷‹sst›=‹r2›". - Jääkhälve:
s = √(SSE ÷ (n − 2))
Liideses: "Jääkhälve: s = √(SSE ÷ (n − 2)) = √(
‹sse›÷‹df›) =‹s›". - Tõusu standardviga:
SE(b) = s ÷ √Sxx
Liideses: "Tõusu standardviga: SE(b) = s ÷ √Sxx =
‹s›÷ √‹sxx›=‹se›". - Hüpoteesi testimine:
t = b ÷ SE(b)
Liideses: "t = b ÷ SE(b) =
‹slope›÷‹se›=‹t›, seega p =‹p›vabadusastmega‹df›.".
Jääkide analüüs ja mudeli eeldused
Regressioonanalüüsi tulemuste usaldusväärsus sõltub sellest, kas andmed vastavad lineaarse mudeli eeldustele. Kalkulaator genereerib kaks graafikut jaotises "Sobivus ja jäägid":
- Sobitatud joon: "Punktide hajuvusdiagramm koos vähimruutude sirge ja selle keskmise usaldusvahemikuga". Graafiku legendis kuvatakse elemendid: "punktid", "sobitatud joon" ja "
‹level›% vahemik keskmise jaoks". - Jäägid: "Jääkide diagramm x-telje suhtes, hajutatud ümber nulljoone". Legendis kuvatakse "nulljoon".
Jääkide (tegeliku y ja prognoositud ŷ vahe) analüüs on kriitiline. Kui jääkide graafikul on näha selge kõverjooneline muster või lehvikukujuline hajumine (heteroskedastilisus), ei ole lineaarne mudel antud andmete kirjeldamiseks sobilik. Seda tuletab meelde ka liidese märkus: "Sirge on õige kokkuvõte ainult siis, kui punktid seda tõesti järgivad. Enne arvude usaldamist kontrollige jääkide diagrammilt kõverate või lehvikukujulise mustri puudumist.".
Prognoosimine ja usaldusvahemikud
Kui sisestate täiendavad x-väärtused väljale "Prognoosi y väärtusel x", arvutab tööriist prognoositavad väärtused ja kuvab tabeli "Prognoosid". Tabel sisaldab veerge: "x", "Prognoositav ŷ", "Keskmine ‹level›%" ja "Individuaalne ‹level›%".
Nende kahe vahemiku erinevus on sisuline:
- Keskmine usaldusvahemik: Katab teoreetilist keskmist y-väärtust antud x-i kohal. See arvestab ainult regressioonisirge asukoha määramatust.
- Individuaalne prognoosivahemik: Katab ühte uut tulevast üksikvaatlust. Kuna see peab lisaks sirge asukohale arvestama ka punktide juhuslikku hajumist ümber sirge, on individuaalne vahemik alati laiem kui keskmise vahemik.
Kui prognoositav x-väärtus asub väljaspool sisestatud andmete vahemikku, lisatakse reale märgis "väljaspool andmeid" ning kuvatakse hoiatus: "Märgistatud ridades kasutatakse x-i, mis on väljaspool teie sisestatud väärtusi, seega pikendatakse sirget kaugemale sellest, mida andmed näitavad.". Kui prognooside väli on tühi, kuvatakse juhis: "Sisestage vasakule üks või mitu x-väärtust, et prognoosida y-d koos mõlema vahemikuga.".
Piirangud ja erijuhtumid
Kalkulaator käsitleb matemaatilisi erijuhte ja andmesisestuse piiranguid järgmiselt:
- Täpselt kaks punkti: "Kaks punkti määravad sirge täpselt, seega ei jää midagi üle määramatuse hindamiseks.".
- Täiuslik sobivus: "Punktid asuvad täpselt sirgel, seega puudub jääkhälve ning vahemikke ega p-väärtust ei saa hinnata.".
- Konstantsed y-väärtused: "Kõik y-väärtused on samad, seega on sirge horisontaalne ning r, R² ja olulisuse test on määramata.".
- Vertikaalne sirge (konstantsed x-väärtused): Tööriist katkestab arvutuse veateatega: "Kõik x-väärtused on samad, seega oleks sirge vertikaalne ja tõusu arvutamisel toimuks nulliga jagamine.".
- Andmete mahupiirangud: Kalkulaator toetab minimaalselt 2 punkti ning maksimaalselt 50 000 punkti (kuni 1 MB kopeeritud teksti). Prognoosida saab korraga kuni 50 väärtust.
Korduma kippuvad küsimused
Miks on prognoosidel kaks erinevat vahemikku?
Need vastavad erinevatele küsimustele. Keskmise vahemik näitab, kus asub keskmine y kõigi selle x-väärtusega vaatluste puhul, mistõttu loeb vaid sirge enda määramatus. Individuaalne vahemik näitab, kuhu maandub üks uus üksikvaatlus, mis lisab ka punktide hajuvuse ümber sirge — see lisaliige ongi põhjus, miks see vahemik on alati kahest laiem. Mõlemad vahemikud laienevad, kui x liigub teie andmete keskkohast eemale.
Kas väike p-väärtus tähendab, et x põhjustab y-d?
Ei. P-väärtus vastab ainult ühele kitsale küsimusele: kui tegelik tõus oleks 0, kui sageli annaks sellise suurusega valim tõusu, mis on nullist vähemalt nii kaugel? Väike väärtus muudab seletuse „seos puudub täielikult“ lihtsalt ebausutavaks, mitte midagi enamat. Põhjuslikkuse tuvastamiseks on vaja uuringu ülesehitust — kolmas tegur, mis mõjutab mõlemat veergu, või valim, mida ei kogutud sõltumatult, tekitab sama kergesti väikeseid p-väärtusi.
Mida R² mulle tegelikult näitab?
R² on y-väärtuste üles-alla liikumise osa, mida sirge selgitab: 0,96 tähendab, et 96% sellest joondub x-iga ja 4% mitte. See ei ütle midagi selle kohta, kas sirge oli õige kuju — ka selge kõverjoon võib saada kõrge skoori —, seega vaadake seda koos jääkide diagrammiga. Korrelatsioon Kordaja r on ruutjuur R²-st, mis kannab tõusu märki, mistõttu on r langeva sirge puhul negatiivne.
Kas on vahet, kumma veeru ma x-iks panen?
Jah. Vähimruutude meetod minimeerib vertikaalseid vahesid, seega käsitleb see y-d seletatava ja x-i seletava suurusena. Vahetage need ära ja te saate teistsuguse tõusu ning teistsuguse vabaliikme — ainult r ja R² jäävad samaks. Pange muutuja, mida soovite prognoosida, y-veergu; kui veerud läksid sisse vales järjekorras, kirjutab vahetamise nupp need kohapeal ümber.