Kalkulator linearne regresije

Matematički temelji metode najmanjih kvadrata

Metoda običnih najmanjih kvadrata (OLS) predstavlja standardni matematički pristup za prilagodbu pravca kroz uparene podatke. Cilj ove metode je pronaći jednadžbu pravca oblika ŷ = a + b·x koja minimizira zbroj kvadratnih odstupanja između opaženih vrijednosti y i predviđenih vrijednosti ŷ.

Kako bi se osigurala maksimalna preciznost pri izračunima s brojevima koji se znatno razlikuju u veličini, kalkulator koristi kompenziranu sumaciju u dva prolaza za računanje suma oko srednjih vrijednosti. Time se sprječava gubitak preciznosti koji je uobičajen kod jednostavnijih algoritama. Osnovne sume i njihovi odnosi definirani su sljedećim formulama:

• Sxx = Σ(xᵢ − x̄)²
• Syy = Σ(yᵢ − ȳ)²
• Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ)

Iz ovih se vrijednosti izvode nagib b i odsječak a:

• Nagib b = Sxy ÷ Sxx
• Odsječak a = ȳ − b·x̄

Ovaj matematički model zahtijeva najmanje 2 točke za početak izračuna. Ako se unesu točno dvije točke, pravac je fiksiran bez odstupanja, što aktivira statusnu poruku: "Dvije točke točno određuju pravac, pa ništa ne preostaje za procjenu nesigurnosti.". U slučaju da sve unesene točke leže savršeno na pravcu, kalkulator prikazuje poruku: "Točke leže točno na pravcu, pa nema raspršenja reziduala i ne može se procijeniti interval niti p-vrijednost.".

Interpretacija regresijskih koeficijenata

Dobiveni koeficijenti daju izravan uvid u odnos između prediktora (x) i odziva (y). Tablica pod nazivom "Koeficijenti" prikazuje procjene, standardne pogreške, t-vrijednosti, p-vrijednosti te intervale pouzdanosti za dva ključna člana:

• Nagib b ("Nagib b"): Predstavlja stopu promjene. U prosjeku se y mijenja za ‹slope› za svaki 1 više u x. Standardna pogreška nagiba računa se kao SE(b) = s ÷ √Sxx.
• Odsječak a ("Odsječak a"): Označava vrijednost na kojoj pravac siječe os y. Tamo gdje je x jednak 0, pravac se nalazi na y = ‹intercept›. Standardna pogreška odsječka definirana je kao SE(a) = s · √(1÷n + x̄² ÷ Sxx).

Značajnost ovih koeficijenata testira se dvostranim t-testom uz n − 2 stupnjeva slobode. Vrijednost t dobiva se dijeljenjem procjene s njezinom standardnom pogreškom, dok se p-vrijednost računa preko regularizirane nepotpune beta funkcije.

Razlika između korelacije r i koeficijenta determinacije R²

Kalkulator u sažetku rezultata prikazuje tri ključne mjere usklađenosti modela s podacima:

1. Korelacija r ("Korelacija r"): Predstavlja Pearsonov koeficijent korelacije koji poprima vrijednost između −1 i 1. Računa se kao Sxy ÷ √(Sxx·Syy) i nosi predznak nagiba pravca.
2. R² ("R²"): Koeficijent determinacije koji označava udio ukupne varijance odziva koji je objašnjen regresijskim pravcem. Formula glasi R² = SSR ÷ SST, gdje je SSR zbroj kvadrata regresije, a SST ukupni zbroj kvadrata.
3. Prilagođeni R² ("Prilagođeni R²"): Korigira vrijednost R² uzimajući u obzir broj stupnjeva slobode, što je korisno za procjenu stvarnog doprinosa modela. Računa se kao 1 − (1 − R²)(n − 1) ÷ (n − 2).

Analiza varijance (ANOVA) i reziduala

Tablica "Objašnjena varijanca" (ANOVA) dijeli ukupni zbroj kvadrata (SST) na dio koji je objašnjen modelom i preostali dio koji predstavlja pogrešku:

Budući da model koristi samo jedan prediktor, ukupni F-omjer jednak je kvadratu t-statistike nagiba, što znači da F-test i t-test nagiba uvijek daju identičnu p-vrijednost.

Za ocjenu prikladnosti linearnog modela ključna je analiza reziduala (y − ŷ). Kalkulator prikazuje grafikon "Reziduali" koji vizualizira odstupanja točaka od nulte linije. Ako reziduali pokazuju jasan zakrivljeni uzorak ili oblik lepeze, pretpostavka o linearnosti ili homogenosti varijance možda nije zadovoljena.

Predviđanja i intervali pouzdanosti

Korisnici mogu unijeti do 50 specifičnih x vrijednosti u polje "Predvidi y za x" kako bi izračunali predviđene vrijednosti ŷ₀ = a + b·x₀. Za svaku predviđenu vrijednost kalkulator računa dvije vrste intervala uz odabranu razinu pouzdanosti (90%, 95% ili 99%):

• Srednji interval ("Srednji ‹level›%"): Pokriva prosječni y pri tom x. Standardna pogreška za srednji odgovor iznosi s · √(1÷n + (x₀ − x̄)² ÷ Sxx).
• Individualni interval ("Individualni ‹level›%"): Pokriva jedno novo buduće opažanje. Standardna pogreška za pojedinačno opažanje iznosi s · √(1 + 1÷n + (x₀ − x̄)² ÷ Sxx). Budući da ovaj izračun uključuje i varijabilnost pojedinačne točke oko pravca, individualni interval je uvijek širi od srednjeg intervala.

Ako unesena x vrijednost za predviđanje leži izvan raspona povijesnih podataka, tablica prikazuje oznaku "izvan podataka" uz napomenu: "Označeni redovi koriste x izvan vrijednosti koje ste unijeli, pa se pravac produžuje izvan onoga što podaci prikazuju.".

Smjernice za unos podataka i rješavanje pogrešaka

Kalkulator podržava dva rasporeda unosa podataka: "Upareni redovi" (prikladan za izravno kopiranje dvaju stupaca iz tabličnih kalkulatora, pri čemu se prvi redak automatski preskače ako sadrži tekstualna zaglavlja) i "Dva popisa".

Ovisno o odabranom decimalnom separatoru, primjenjuju se sljedeća pravila za razdvajanje vrijednosti:

• Točka (12.5): Vrijednosti u popisima moraju biti odvojene razmacima, zarezima ili novim redovima.
• Zarez (12,5): Vrijednosti u popisima moraju biti odvojene razmacima, točka-zarezima ili novim redovima.

Granični slučajevi i pogreške pri izračunu:

• Konstantne Y vrijednosti: Ako su svi y-ovi identični, pravac je vodoravan. Kalkulator prikazuje poruku: "Svaki y je isti, pa je pravac ravan, a r, R² i test značajnosti nisu definirani.".
• Konstantne X vrijednosti: Ako su svi x-ovi identični, pravac bi bio okomit. Kalkulator prekida rad uz pogrešku: "Svaki x je isti, pa bi pravac bio okomit, a nagib bi dijelio s nulom.".
• Neusklađeni popisi: Ako popisi x i y nemaju isti broj elemenata, pojavljuje se pogreška: "Postoji ‹countX› x vrijednosti i ‹countY› y vrijednosti — popisi moraju biti iste duljine.".
• Neispravan unos: Ako se unese tekst umjesto broja, kalkulator javlja pogrešku poput: "„‹token›“ nije broj (redak ‹position›)." ili "Predviđanja prihvaćaju samo brojeve; „‹token›“ to nije.".

Svi izračuni i obrada podataka odvijaju se lokalno u web pregledniku korisnika. Vaše točke podataka i svi statistički podaci ostaju u ovom pregledniku i nikada se ne šalju na poslužitelj, čime je osigurana privatnost podataka tijekom rada.

Često postavljana pitanja (FAQ)

Je li važno u koji stupac stavim x?
Da. Metoda najmanjih kvadrata minimizira okomita odstupanja, pa tretira y kao stvar koja se objašnjava, a x kao stvar koja objašnjava. Zamijenite ih i dobit ćete drugačiji nagib i drugačiji odsječak — samo r i R² ostaju isti. Stavite varijablu koju želite predvidjeti u y; ako su stupci uneseni obrnuto, gumb za zamjenu prepisat će ih na licu mjesta.

Što mi R² zapravo govori?
R² je udio kretanja gore-dolje u y koji pravac objašnjava: 0,96 znači da je 96% toga usklađeno s x, a 4% nije. To ne govori ništa o tome je li ravna crta bila pravi oblik — jasan oblik krivulje i dalje može imati visok rezultat — stoga ga čitajte uz dijagram reziduala. Korelacija r je kvadratni korijen iz R² koji nosi predznak nagiba, zbog čega je r negativan za silazni pravac.

Zašto predviđanja dolaze s dva intervala?
Oni odgovaraju na različita pitanja. Srednji interval pita gdje se nalazi prosječni y za sve pri tom x, pa se u obzir uzima samo nesigurnost samog pravca. Individualni interval pita gdje će pasti jedno novo opažanje, što dodaje i raspršenje točaka oko pravca — taj dodatni član razlog je zašto je on uvijek širi od ta dva. Oba se šire kako se x udaljava od sredine vaših podataka.

Znači li mala p-vrijednost da x uzrokuje y?
Ne. p-vrijednost odgovara samo na jedno usko pitanje: da je stvarni nagib 0, koliko često bi uzorak ove veličine proizveo nagib barem ovoliko udaljen od 0? Mala vrijednost samo čini objašnjenje „nema nikakve veze“ nategnutim, ništa više. Uzročnost zahtijeva dizajn same studije — treći čimbenik koji pomiče oba stupca, ili uzorak koji nije prikupljen neovisno, jednako lako proizvodi male p-vrijednosti.