Kalkulator linearne regresije

Matematičke osnove metode najmanjih kvadrata

Metoda običnih najmanjih kvadrata (OLS) predstavlja standardni matematički pristup za prilagođavanje ravne linije kroz skup uparenih tačaka. Cilj ove metode je minimizirati sumu kvadratnih odstupanja između posmatranih vrijednosti i vrijednosti koje predviđa linearni model.

Da bi se osigurala visoka numerička preciznost, proračun se vrši u dva prolaza koristeći kompenzovanu sumaciju. Ovaj pristup sprečava gubitak preciznosti kada podaci sadrže vrijednosti široko razdvojenih magnituda. Proračun započinje određivanjem aritmetičkih sredina za x i y:

x̄ = Σxᵢ ÷ n
ȳ = Σyᵢ ÷ n

Nakon toga se računaju sume kvadrata odstupanja oko srednjih vrijednosti, koje opisuju raspršenje i zajedničko kretanje varijabli:

Sxx = Σ(xᵢ − x̄)²
Syy = Σ(yᵢ − ȳ)²
Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ)

Nagib b i odsječak a linearne jednačine ŷ = a + b·x izvode se direktno iz ovih suma:

b = Sxy ÷ Sxx
a = ȳ − b·x̄

Ove formule osiguravaju da linija prolazi tačno kroz tačku centroida (x̄, ȳ).

Interpretacija regresionih koeficijenata

Dobijeni koeficijenti daju konkretno značenje u kontekstu analiziranih podataka. Nagib b predstavlja stopu promjene zavisne varijable u odnosu na nezavisnu varijablu. U interfejsu se ova vrijednost interpretira kroz rečenicu: "U prosjeku se y mijenja za ‹slope› za svako povećanje x za 1.". Pozitivan nagib ukazuje na to da varijable rastu zajedno, dok negativan nagib označava da y opada kako x raste.

Odsječak a predstavlja tačku u kojoj regresiona linija siječe vertikalnu y-osu. To je vrijednost zavisne varijable u hipotetičkom slučaju kada je prediktor jednak nuli. Interfejs prikazuje ovu interpretaciju kao: "Tamo gdje je x jednak 0, linija se nalazi na y = ‹intercept›.". Ako je vrijednost x = 0 izvan opsega unesenih podataka, odsječak treba interpretirati isključivo kao matematičko sidro linije, a ne kao realno predviđanje.

Razlika između korelacije r i koeficijenta determinacije R²

Kalkulator linearne regresije istovremeno izračunava i koeficijent korelacije r i koeficijent determinacije R², koji opisuju različite aspekte povezanosti podataka:

• Korelacija r: Predstavlja Pearsonov koeficijent korelacije koji mjeri jačinu i smjer linearne veze. Računa se kao r = Sxy ÷ √(Sxx·Syy) i poprima vrijednosti između −1 i 1. Predznak koeficijenta korelacije uvijek odgovara predznaku nagiba b.

• R² (Koeficijent determinacije): Predstavlja udio varijanse zavisne varijable koji je objašnjen regresionim modelom. Računa se preko suma kvadrata:

  R² = SSR ÷ SST

  gdje je SST = Syy (ukupna suma kvadrata), a SSR = SST − SSE (suma kvadrata objašnjena regresijom). Vrijednost R² se kreće od 0 do 1.

• Prilagođeni R²: Prilagođava vrijednost R² u odnosu na broj stepeni slobode, što je korisno za poređenje modela:

  Prilagođeni R² = 1 − (1 − R²)(n − 1) ÷ (n − 2)

Testiranje hipoteza i statistička značajnost

Da bi se utvrdilo da li je linearna veza statistički značajna, provodi se t-test nad nagibom b. Nulta hipoteza pretpostavlja da je stvarni nagib jednak nuli (nema linearne veze).

Standardna greška nagiba računa se kao:

SE(b) = s ÷ √Sxx

gdje je s rezidualno raspršenje, definisano kao s = √(SSE ÷ (n − 2)). Testna statistika t dobija se dijeljenjem procjene koeficijenta sa njegovom standardnom greškom:

t = b ÷ SE(b)

Ova vrijednost se testira dvostrano na n − 2 stepeni slobode. Dobijena p-vrijednost predstavlja vjerovatnoću dobijanja takvog ili ekstremnijeg nagiba pod pretpostavkom da je nulta hipoteza tačna. Računa se preko regularizirane nepotpune beta funkcije I_{ν/(ν+t²)}(ν/2, ½). Kod jednostavne linearne regresije, ukupni F-test iz tabele "Varijansa objašnjena" daje identičnu p-vrijednost kao i t-test za nagib, jer je F = t².

Analiza reziduala i vizuelni prikazi

Rezidual predstavlja vertikalno odstupanje stvarne tačke od prilagođene linije: y − ŷ. Analiza reziduala je ključna za provjeru ispravnosti linearnog modela. Alat generiše dva grafikona pod naslovom "Prilagođavanje i reziduali":

1. Prilagođena linija: "Dijagram raspršenosti tačaka s linijom najmanjih kvadrata i pojasom oko njene srednje vrijednosti". Pomaže u vizuelnoj procjeni koliko dobro linija prati opšti trend podataka.
2. Reziduali: "Reziduali prikazani u odnosu na x, raspoređeni oko nulte linije". Ovaj grafikon služi za otkrivanje nelinearnih obrazaca ili heteroscedastičnosti (nejednakog raspršenja reziduala duž x-ose). Ako reziduali formiraju zakrivljeni oblik ili oblik lepeze, pretpostavke linearne regresije su narušene.

Intervali pouzdanosti i intervali predviđanja

Za svaku vrijednost x₀ na kojoj se vrši predviđanje, kalkulator računa dvije vrste intervala:

• Srednji interval (pouzdanosti): Odnosi se na nesigurnost u procjeni same regresione linije. On definira raspon u kojem se s odabranim nivoom pouzdanosti nalazi prosječna vrijednost y za dati x₀. Standardna greška za srednju vrijednost iznosi:

  SE_mean = s · √(1÷n + (x₀ − x̄)² ÷ Sxx)

• Pojedinačni interval (predviđanja): Odnosi se na raspon u kojem će se naći jedno novo, buduće zapažanje. Pošto pojedinačno zapažanje uključuje i nesigurnost procjene linije i prirodno raspršenje tačaka oko nje, ovaj interval je uvijek širi. Standardna greška za pojedinačno predviđanje iznosi:

  SE_individual = s · √(1 + 1÷n + (x₀ − x̄)² ÷ Sxx)

Oba intervala se šire kako se vrijednost x₀ više udaljava od aritmetičke sredine x̄.

Pravila unosa i granični slučajevi

Prilikom unosa podataka primjenjuju se sljedeća pravila i ograničenja:

• Format unosa: Podržana su dva izgleda: "Upareni redovi" i "Dvije liste". Kod uparenih redova, kolone se mogu kopirati direktno iz tabelarnog kalkulatora. Prvi red se automatski preskače ako sadrži tekstualne nazive kolona.
• Decimalni separatori: Ako se koristi tačka (npr. 12.5), vrijednosti u listama se odvajaju razmacima, zarezima ili novim redovima. Ako se koristi zarez (npr. 12,5), vrijednosti se odvajaju razmacima, tačka-zarezima ili novim redovima.
• Ograničenja: Minimalan broj tačaka je 2, a maksimalan 50.000 tačaka (do 1 MB teksta). Moguće je unijeti do 50 vrijednosti za predviđanje odjednom.
• Granični matematički slučajevi:
  • Tačno dvije tačke: Linija je savršeno fiksirana. Prikazuje se poruka: "Dvije tačke tačno fiksiraju liniju, tako da ništa ne preostaje za procjenu nesigurnosti.".
  • Savršeno prilagođavanje: Ako sve tačke leže na liniji, nema rezidualnog odstupanja. Prikazuje se poruka: "Tačke leže tačno na liniji, tako da nema rezidualnog raspršenja i ne može se procijeniti interval niti p-vrijednost.".
  • Konstantne Y vrijednosti: Ako su svi y identični, linija je horizontalna. Prikazuje se poruka: "Svaki y je isti, pa je linija ravna, a r, R² i test značajnosti su nedefinisani.".
  • Konstantne X vrijednosti: Ako su svi x identični, linija bi bila vertikalna. Proračun se prekida uz grešku: "Svaki x je isti, pa bi linija bila vertikalna i nagib bi dijelio s nulom.".

Privatnost i obrada podataka

Svi proračuni se izvršavaju lokalno. Vaše tačke podataka i svaka statistika ostaju u ovom pretraživaču i nikada se ne učitavaju na eksterne servere.

---

Često postavljana pitanja (FAQ)

Da li je važno u koju kolonu stavim x?

Da. Najmanji kvadrati minimiziraju vertikalna odstupanja, pa tretiraju y kao stvar koja se objašnjava, a x kao stvar koja objašnjava. Zamijenite ih i dobićete drugačiji nagib i drugačiji odsječak — samo r i R² ostaju isti. Stavite varijablu koju želite predvidjeti u y; ako su kolone unesene pogrešnim redoslijedom, dugme za zamjenu ih prepisuje na licu mjesta.

Šta mi R² zapravo govori?

R² je udio kretanja gore-dolje u y koji linija objašnjava: 0,96 znači da je 96% toga usklađeno s x, a 4% nije. To ne govori ništa o tome da li je ravna linija bila pravi oblik — jasan krivi oblik i dalje može imati visok rezultat — pa ga čitajte uporedo s grafikonom reziduala. Korelacija r je kvadratni korijen iz R² koji nosi predznak nagiba, zbog čega je r negativan za silaznu liniju.

Da li mala p-vrijednost znači da x uzrokuje y?

Ne. p-vrijednost odgovara samo na jedno usko pitanje: ako je stvarni nagib bio 0, koliko često bi uzorak ove veličine proizveo nagib barem ovoliko udaljen od 0?. Mala vrijednost čini objašnjenje „nema nikakve veze“ nezgodnim, ništa više. Uzročnost zahtijeva dizajn studije iza sebe — treći faktor koji pomiče obje kolone, ili uzorak koji nije prikupljen nezavisno, jednako lako proizvodi male p-vrijednosti.

Zašto predviđanja dolaze s dva intervala?

Oni odgovaraju na različita pitanja. Srednji interval pita gdje se nalazi prosječni y za sve na tom x, pa se računa samo nesigurnost u samoj liniji. Pojedinačni interval pita gdje će pasti jedno novo zapažanje, što dodaje raspršenje tačaka oko linije — taj dodatni član je razlog zašto je on uvijek širi od ta dva. Oba se šire kako se x udaljava od sredine vaših podataka.