Математички основи на методот на најмали квадрати
Линеарната регресија е фундаментален статистички метод за моделирање на врската помеѓу две квантитативни променливи. Овој Калкулатор за линеарна регресија го користи методот на обични најмали квадрати (OLS) за да ја пронајде правата линија која најдобро ги опишува внесените податоци. Прилагодувањето се заснова на минимизирање на збирот на квадратните отстапувања (резидуали) помеѓу набљудуваните вредности и вредностите предвидени со линеарниот модел.
За да се зачува максимална прецизност при пресметките, дури и кога вредностите во податоците се со многу различна големина, алатката ги пресметува збировите околу средните вредности во два премини со компензирано собирање:
- Sxx = Σ(xᵢ − x̄)²
- Syy = Σ(yᵢ − ȳ)²
- Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ)
Врз основа на овие вредности, се изведуваат основните параметри на линеарната равенка ŷ = a + b·x, каде што b е наклонот, а a е пресекот со y-оската:
- Наклон: b = Sxy ÷ Sxx
- Пресек: a = ȳ − b·x̄
Пресметките се извршуваат во реално време додека ги внесувате или менувате податоците, без потреба од притискање на копче за пресметување. Сите внесени податоци и добиени статистички резултати се обработуваат локално во вашиот веб-прелистувач и никогаш не се испраќаат на надворешен сервер.
Толкување на регресивните коефициенти
Добиените коефициенти од регресивната анализа имаат конкретно практично значење во реалниот свет:
- Наклон b: Ја претставува стапката на промена. Тој покажува дека, во просек, y се менува за
‹slope›за секое зголемување на x за 1. Доколку наклонот е позитивен, променливите се движат во иста насока; доколку е негативен, зголемувањето на x води кон намалување на y. - Пресек a: Ја претставува почетната вредност. Таму каде што x е 0, линијата се наоѓа на y =
‹intercept›. Оваа вредност има физичка смисла само доколку опсегот на вашите податоци вклучува нула или доколку вредноста x = 0 е теоретски возможна во вашиот модел.
Разлика помеѓу r и R²
Калкулаторот пресметува два клучни показатели за јачината и насоката на врската помеѓу променливите:
- Корелација r: Го претставува Пирсоновиот коефициент на корелација, кој се движи помеѓу −1 и +1. Тој ја покажува насоката и јачината на линеарната поврзаност. Вредноста r го носи знакот на наклонот.
- R² (Коефициент на детерминација): Го претставува уделот на вкупната варијанса во зависната променлива y која е објаснета со независната променлива x преку регресивната линија. Се пресметува како R² = SSR ÷ SST, каде што SSR е збирот на квадрати објаснет со линијата, а SST е вкупниот збир на квадрати.
- Прилагодено R²: Вклучува корекција за бројот на степени на слобода, што е особено корисно за споредба на модели со различен број на податоци. Се пресметува по формулата: 1 − (1 − R²)(n − 1) ÷ (n − 2).
Тестирање на хипотези и значајност
За да се утврди дали пронајдената линеарна врска е статистички значајна, алатката спроведува двостран t-тест на наклонот со n − 2 степени на слобода.
Табелата Коефициенти ги содржи следните колони за секој од параметрите (Наклон b и Пресек a):
- Проценка: Пресметаната вредност на коефициентот.
- Станд. грешка: Мерка за прецизноста на проценката. Помала стандардна грешка укажува на посигурна проценка.
- t: Статистичката вредност добиена како сооднос помеѓу проценката и нејзината стандардна грешка.
- p: p-вредноста која ја покажува веројатноста да се добие ваков или поекстремен наклон доколку вистинскиот наклон во популацијата е еднаков на нула.
‹level›% интервал: Опсегот во кој со избраното ниво на доверба (90%, 95% или 99%) се наоѓа вистинската вредност на коефициентот.
Дополнително, табелата Објаснета варијанса (ANOVA) го прикажува разложувањето на варијансата на дел кој е „Објаснето со линијата“ (Регресија) и дел кој е „Останато“ (Резидуали). Кај едноставната линеарна регресија, p-вредноста од F-тестот во ANOVA табелата е идентична со p-вредноста од t-тестот за наклонот.
Анализа на резидуали
Резидуалите претставуваат разлики помеѓу набљудуваните вредности и вредностите предвидени со регресивната линија (y − ŷ). Анализата на резидуалите е критичен чекор во регресивната анализа.
Алатката генерира два графикони во делот Прилагодување и резидуали:
- Прилагодена линија: Дијаграм на распрсканост на точките со линијата на најмали квадрати и појасот околу нејзината средна вредност.
- Резидуали: Резидуали прикажани во однос на x, распрскани околу нултата линија.
Доколку на графиконот со резидуали се забележи нелинеарна шема (на пример, крива линија) или форма на лепеза (хетероскедастичност), тоа е знак дека претпоставките за линеарност се нарушени и дека правата линија можеби не е соодветен модел за вашите податоци.
Интервали на доверба наспроти интервали на предвидување
Кога го користите полето Предвиди го y при x, алатката пресметува две различни класи на интервали за секоја внесена вредност:
| Тип на интервал | Што покрива | Ширина на интервалот |
|---|---|---|
Среден ‹level›% |
Ја проценува несигурноста на самата регресивна линија (просечното y за дадено x). | Потесен, бидејќи ја зема предвид само грешката во проценката на параметрите на линијата. |
Индивидуален ‹level›% |
Го предвидува опсегот за едно ново, поединечно набљудување на y при тоа x. | Поширок, бидејќи покрај грешката на линијата, ја вклучува и природната варијабилност на точките околу неа. |
Двата интервала се шират и стануваат помалку прецизни како што вредноста на x се оддалечува од аритметичката средина x̄ на внесените податоци. Доколку внесете вредност за x која е надвор од опсегот на вашите почетни податоци, алатката ќе го прикаже предупредувањето надвор од податоците. Ова означува дека вршите екстраполација, односно ја продолжувате линијата подалеку од она што го прикажуваат реалните податоци.
Правила за внесување податоци и гранични случаи
За правилно функционирање на калкулаторот, потребно е да се почитуваат следните правила за внес:
- Минимум податоци: Потребни се најмалку 2 точки. Доколку внесете помалку, ќе се појави грешката: Внесете најмалку 2 точки; една точка не дефинира линија.
- Максимален лимит: Алатката поддржува до 50.000 точки и 1 MB копиран текст. Надминувањето на овој лимит ја активира пораката: Задржете ги податоците под 50,000 точки.
- Децимален сепаратор: Можете да изберете точка или запирка. При избор на точка, вредностите во листите се одделуваат со празни места, запирки или нови редови. При избор на запирка, вредностите мора да се одделат со празни места, точки-запирки или нови редови.
- Заглавија на колони: Доколку првиот ред содржи текстуални заглавија (на пример, копирани од Excel), алатката автоматски ќе ги препознае и ќе ги прескокне при пресметката.
Специфични математички состојби:
- Точно две точки: Линијата е совршено фиксирана. Се прикажува пораката: Две точки точно ја дефинираат линијата, па нема преостанати податоци за проценка на несигурноста.
- Совршено прилагодување: Ако сите точки лежат точно на линијата, нема резидуално отстапување. Се прикажува пораката: Точките лежат точно на линијата, па нема резидуално отстапување и не може да се процени интервал или p-вредност.
- Константни Y вредности: Ако сите y вредности се идентични, линијата е хоризонтална. Се прикажува пораката: Секое y е исто, па линијата е рамна, а r, R² и тестот за значајност се недефинирани.
- Вертикална линија (Константни X вредности): Ако сите x вредности се идентични, наклонот би се делел со нула. Пресметката запира со грешката: Секое x е исто, па линијата би била вертикална и наклонот би се делел со нула.
Често поставувани прашања (FAQ)
Зошто е важно која колона ќе ја ставам во x?
Да. Најмалите квадрати ги минимизираат вертикалните отстапувања, па затоа го третираат y како нешто што се објаснува, а x како нешто што објаснува. Заменете ги и ќе добиете различен наклон и различен пресек — само r и R² остануваат исти. Ставете ја променливата што сакате да ја предвидите во y; доколку колоните се внесени обратно, копчето за замена ќе ги препише на нивните места.
Што всушност ми кажува R²?
R² е уделот на движењето нагоре-надолу кај y што го објаснува линијата: 0.96 значи дека 96% од него се совпаѓа со x, а 4% не. Тоа не кажува ништо за тоа дали правата линија била вистинската форма — јасна крива сепак може да има висок резултат — затоа толкувајте го заедно со дијаграмот на резидуали. Корелацијата r е квадратен корен од R² кој го носи знакот на наклонот, поради што r е негативно за линија насочена надолу.
Дали малата p-вредност значи дека x го предизвикува y?
Не. p-вредноста одговара само на едно тесно прашање: доколку вистинскиот наклон би бил 0, колку често примерок со оваа големина би произвел наклон барем волку оддалечен од 0?Малата вредност само го прави објаснувањето „нема никаква врска“ незгодно, ништо повеќе. За причинско-последична врска потребен е дизајнот на самото истражување — трет фактор што ги придвижува двете колони, или примерок што не е присобиран независно, исто така лесно произведува мали p-вредности.
Зошто предвидувањата доаѓаат со два интервала?
Тие одговараат на различни прашања. Средниот интервал прашува каде се наоѓа просечното y за сите при тоа x, па затоа се зема предвид само несигурноста во самата линија. Индивидуалниот интервал прашува каде ќе се најде едно ново набљудување, што го додава и распрскувањето на точките околу линијата — тој дополнителен член е причината зошто тој е секогаш поширок од двата. Двата интервала се шират како што x се оддалечува од средината на вашите податоци.