Doğrusal Regresyon Hesaplama

Doğrusal Regresyon Analizinin Matematiksel Temelleri

Doğrusal regresyon, iki değişken arasındaki ilişkiyi incelemek ve bu ilişkiyi düz bir doğru ile modellemek için kullanılan en temel istatistiksel yöntemlerden biridir. Bu yöntemin merkezinde, veri noktalarına en uyumlu doğruyu bulmayı amaçlayan en küçük kareler (OLS) yöntemi yer alır. En küçük kareler yöntemi, gözlemlenen gerçek y değerleri ile model tarafından tahmin edilen ŷ değerleri arasındaki dikey farkların (artıkların) kareleri toplamını en aza indirir.

Hesaplama sürecinde, veri setindeki değerlerin ortalamadan olan sapmaları üzerinden hareket edilir. Bu kapsamda kullanılan temel formüller şu şekildedir:

• x ve y değerlerinin ortalamaları: x̄ = Σxᵢ ÷ n ve ȳ = Σyᵢ ÷ n
• Kareler toplamı ve ortak hareket ölçüleri:
  • Sxx = Σ(xᵢ − x̄)²
  • Syy = Σ(yᵢ − ȳ)²
  • Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ)

Bu değerler elde edildikten sonra, en küçük kareler doğrusunun denklemini oluşturan katsayılar hesaplanır. Doğrunun eğimi (b) ve eksen kesim noktası (a) şu formüllerle bulunur:

• Eğim: b = Sxy ÷ Sxx
• Eksen kesim noktası: a = ȳ − b·x̄

Elde edilen bu katsayılar, bağımsız değişken (x) ile bağımlı değişken (y) arasındaki ilişkinin yönünü ve büyüklüğünü tanımlar.

Regresyon Katsayılarının ve İstatistiklerin Yorumlanması

Doğrusal regresyon modeli kurulduktan sonra, elde edilen katsayıların ve özet istatistiklerin doğru yorumlanması gerekir. Model çıktısında yer alan temel göstergeler şunları ifade eder:

• Eğim b: Bağımsız değişkendeki (x) bir birimlik artışın, bağımlı değişken (y) üzerinde yapacağı ortalama etkiyi gösterir. Model çıktısında bu durum, "Ortalama olarak, x'teki her 1 birimlik artış için y değeri ‹slope› kadar değişir." ifadesiyle açıklanır.
• Eksen kesim noktası a: Bağımsız değişkenin (x) sıfır olduğu noktada, doğrunun y eksenini hangi değerde kestiğini gösterir. Bu durum modelde, "x'in 0 olduğu yerde doğru y = ‹intercept› noktasında yer alır." şeklinde belirtilir.
• Korelasyon r: İki değişken arasındaki doğrusal ilişkinin yönünü ve gücünü belirtir. Eğim ile aynı işareti taşır ve Sxy ÷ √(Sxx·Syy) formülüyle hesaplanır.
• R² (Belirleme Katsayısı): Bağımlı değişkendeki toplam varyasyonun ne kadarının model (doğru) tarafından açıklandığını gösterir. R² = SSR ÷ SST formülüyle hesaplanır.
• Düzeltilmiş R²: Modele eklenen değişkenlerin serbestlik derecesini hesaba katarak R² değerini düzeltir ve 1 − (1 − R²)(n − 1) ÷ (n − 2) formülüyle bulunur.
• Artık yayılımı s: Modelin tahmin hatalarının standart sapmasıdır ve s = √(SSE ÷ (n − 2)) formülüyle hesaplanır.

Hipotez Testleri ve Anlamlılık Analizi

Elde edilen eğim katsayısının istatistiksel olarak anlamlı olup olmadığını belirlemek için hipotez testleri uygulanır. Bu testler, eğimin gerçekte sıfıra eşit olduğu (ilişki olmadığı) yönündeki sıfır hipotezini sınar.

Katsayıların standart hataları şu şekilde hesaplanır:

• Eğimin standart hatası: SE(b) = s ÷ √Sxx
• Eksen kesim noktasının standart hatası: SE(a) = s · √(1÷n + x̄² ÷ Sxx)

Bu standart hatalar kullanılarak t-istatistikleri elde edilir. Eğim için t değeri, tahmin edilen eğimin kendi standart hatasına bölünmesiyle (t = b ÷ SE(b)) bulunur. Elde edilen t değeri, n − 2 serbestlik derecesine sahip t-dağılımı üzerinde iki yönlü olarak test edilerek p-değeri hesaplanır. p-değerinin hesaplanmasında regularize tamamlanmamış beta fonksiyonu kullanılır. Tek tahmin edicili modellerde, modelin genel anlamlılığını test eden F değeri, eğimin t-istatistiğinin karesine eşittir (F = t²) ve her iki test de aynı p-değerini üretir.

Güven ve Tahmin Aralıklarının Farkı

Model üzerinden belirli x değerleri için y tahminleri (ŷ₀ = a + b·x₀) yapılırken iki farklı aralık hesaplanır:

1. Ortalama %‹level›: Belirli bir x₀ değerindeki tüm gözlemlerin ortalama y değerinin hangi aralıkta olacağını tahmin eder. Standart hatası s · √(1÷n + (x₀ − x̄)² ÷ Sxx) formülüyle bulunur.
2. Bireysel %‹level›: Gelecekteki tek bir yeni gözlemin hangi aralığa düşeceğini tahmin eder. Standart hatası s · √(1 + 1÷n + (x₀ − x̄)² ÷ Sxx) formülüyle hesaplanır.

Bireysel tahmin aralığı, modele yeni bir gözlemin kendi varyansını da (1 terimi) eklediği için her zaman ortalama güven aralığından daha geniştir. Her iki aralık da, tahmin edilmek istenen x₀ değeri veri setinin ortalamasından (x̄) uzaklaştıkça genişler.

Değişkenlerin Yönü ve Yer Değiştirme Etkisi

Doğrusal regresyon analizi yönlü bir modellemedir. En küçük kareler yöntemi dikey hataları (y yönündeki sapmaları) minimize ettiği için, hangi değişkenin bağımsız (x), hangisinin bağımlı (y) olduğu elde edilecek doğru denklemini doğrudan etkiler.

Veri setindeki x ve y değişkenleri yer değiştirdiğinde, modelin eğimi ve eksen kesim noktası tamamen değişir. Bu işlem sonucunda yalnızca korelasyon katsayısı (r) ve belirleme katsayısı (R²) sabit kalır; çünkü bu iki istatistik değişkenlerin yönünden bağımsız olarak aralarındaki doğrusal ilişkinin gücünü ölçer.

Veri Giriş Kuralları ve Sınır Koşulları

Hesaplama aracının doğru çalışması ve analizlerin güvenilirliği için belirli veri kuralları ve sınır koşulları mevcuttur:

• Veri Giriş Düzenleri: Veriler "Eşleşen satırlar" (her satırda bir x ve bir y) veya "İki liste" (ayrı x ve y listeleri) şeklinde girilebilir.
• Ondalık ve Ayırıcı Kuralları: Nokta ondalık ayracı kullanıldığında değerler boşluk, virgül veya yeni satırla ayrılmalıdır. Virgül ondalık ayracı tercih edildiğinde ise değerler boşluk, noktalı virgül veya yeni satırla ayrılmalıdır.
• Veri Sınırları: En az 2 nokta girilmelidir. En fazla 50.000 nokta ve 1 MB veri boyutu desteklenir. Tahmin için en fazla 50 adet x değeri girilebilir.
• Özel Durumlar ve Hatalar:
  • İki Nokta: Sadece iki nokta girildiğinde doğru tam olarak uydurulur ancak belirsizlik tahmini yapılamaz.
  • Kusursuz Uyum: Tüm noktalar doğrunun üzerindeyse artık yayılımı sıfır olur ve güven aralıkları ile p-değerleri hesaplanamaz.
  • Sabit Y Değerleri: Tüm y değerleri aynı ise doğru tamamen düz olur; r, R² ve anlamlılık testleri tanımsız hale gelir.
  • Dikey Doğru (Sabit X Değerleri): Tüm x değerleri aynı ise doğru dikey hale gelir, bu durumda eğim hesaplanırken sıfıra bölünme hatası oluşur ve işlem durdurulur.

Sıkça Sorulan Sorular

R² bana gerçekte ne anlatır?
R², y'deki inişli çıkışlı hareketin ne kadarının doğru tarafından açıklandığını gösteren paydır: 0,96 değeri, bunun %96'sının x ile uyumlu olduğunu, %4'ünün ise olmadığını gösterir. Düz bir doğrunun doğru şekil olup olmadığı hakkında hiçbir şey söylemez — belirgin bir eğri de yüksek puan alabilir — bu yüzden bunu artık grafiğiyle birlikte inceleyin. Korelasyon r, eğimin işaretini taşıyan R²'nin kareköküdür; bu nedenle aşağı yönlü bir doğru için r negatiftir.

Hangi sütunu x'e koyduğum fark eder mi?
Evet. En küçük kareler yöntemi dikey boşlukları en aza indirir, bu nedenle y'yi açıklanan, x'i ise açıklayan değişken olarak ele alır. Bunları yer değiştirdiğinizde farklı bir eğim ve farklı bir eksen kesim noktası elde edersiniz — yalnızca r ve R² aynı kalır. Tahmin etmek istediğiniz değişkeni y'ye koyun; sütunlar yanlış sırayla girildiyse, yer değiştirme butonu bunları yerinde yeniden yazar.

Tahminler neden iki farklı aralıkla sunuluyor?
Farklı sorulara yanıt verirler. Ortalama aralığı, o x değerindeki herkes için ortalama y'nin nerede olduğunu sorar, bu nedenle yalnızca doğrunun kendisindeki belirsizlik hesaba katılır. Bireysel aralık ise yeni bir gözlemin nereye düşeceğini sorar ve buna noktaların doğru etrafındaki serpilişi de eklenir — bu ekstra terim nedeniyle her zaman iki aralıktan daha geniş olanıdır. x değeri verilerinizin ortasından uzaklaştıkça her iki aralık da genişler.

Küçük bir p-değeri, x'in y'ye neden olduğu anlamına mı gelir?
Hayır. p-değeri yalnızca dar bir soruya yanıt verir: Gerçek eğim 0 olsaydı, bu boyuttaki bir örneklem ne sıklıkla 0'dan en az bu kadar uzak bir eğim üretirdi? Küçük bir değer, “hiçbir ilişki yok” açıklamasını zorlama bir açıklama haline verir, o kadar. Nedensellik için çalışmanın tasarımı gereklidir — her iki sütunu da hareket ettiren üçüncü bir faktör veya bağımsız olarak toplanmamış bir örneklem de kolayca küçük p-değerleri üretebilir.

Gizlilik ve Veri İşleme Güvenliği

Bu araçla gerçekleştirilen tüm veri analizleri ve hesaplamalar tamamen kullanıcının yerel web tarayıcısı içinde gerçekleştirilir. Girdiğiniz veri noktaları, tahmin değerleri veya hesaplanan regresyon istatistikleri hiçbir şekilde harici bir sunucuya yüklenmez veya üçüncü taraflarla paylaşılmaz. Tüm veri işleme adımları cihazınızda yerel olarak tamamlanır.