Kako se izračuna parameter b v linearni regresiji (odsek y premice najboljšega prileganja)?

/ / Objavljeno v Umetna inteligenca, EITC/AI/MLP Strojno učenje s Pythonom, regresija, Razumevanje regresije

V okviru linearne regresije je parameter b (običajno imenovan kot y-odsek črte najboljšega prileganja) je pomembna komponenta linearne enačbe y = m x + b, Kjer m predstavlja naklon črte. Vaše vprašanje se nanaša na razmerje med presekom y b, srednja vrednost odvisne spremenljivke y in neodvisna spremenljivka x, in naklon m.

Za odgovor na poizvedbo moramo upoštevati izpeljavo enačbe linearne regresije. Namen linearne regresije je modelirati razmerje med odvisno spremenljivko y in ena ali več neodvisnih spremenljivk x s prilagajanjem linearne enačbe opazovanim podatkom. Pri preprosti linearni regresiji, ki vključuje eno samo napovedno spremenljivko, je razmerje modelirano z enačbo:

    \[ y = mx + b \]

Tu m (naklon) in b (y-presek) so parametri, ki jih je treba določiti. Pobočje m označuje spremembo v y za spremembo ene enote v x, medtem ko y-presek b predstavlja vrednost y kdaj x je nič.

Za iskanje teh parametrov običajno uporabljamo metodo najmanjših kvadratov, ki minimizira vsoto kvadratov razlik med opazovanimi vrednostmi in vrednostmi, ki jih predvideva model. Rezultat te metode so naslednje formule za naklon m in y-presek b:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ b = \bar{y} - m\bar{x} \]

Tu \bar{x} in \bar{y} so sredstva za x in y vrednosti oz. Izraz \sum{(x_i - \bar{x})(y_i - \bar{y})} predstavlja kovarianco x in y, Medtem ko je \sum{(x_i - \bar{x})^2} predstavlja varianco x.

Formula za y-presek b lahko razumemo takole: enkrat pobočje m je določen, y-presek b se izračuna tako, da se vzame povprečje y vrednosti in odštevanje produkta naklona m in povprečje x vrednote. To zagotavlja, da regresijska premica poteka skozi točko (\bar{x}, \bar{y}), ki je središče podatkovnih točk.

Če želite to ponazoriti s primerom, razmislite o nizu podatkov z naslednjimi vrednostmi:

    \[ \begin{matrika}{|c|c|} \hline x & y \\ \hline 1 & 2 \\ 2 & 3 \\ 3 & 5 \\ 4 & 4 \\ 5 & 6 \\ \hline \end{matrika} \]

Najprej izračunamo povprečje x in y:

    \[ \bar{x} = \frac{1 + 2 + 3 + 4 + 5}{5} = 3 \]

    \[ \bar{y} = \frac{2 + 3 + 5 + 4 + 6}{5} = 4 \]

Nato izračunamo naklon m:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ = \frac{(1-3)(2-4) + (2-3)(3-4) + (3-3)(5-4) + (4-3)(4-4) + (5-3)(6-4)}{(1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^ 2} \]

    \[ = \frac{(-2)(-2) + (-1)(-1) + (0)(1) + (1)(0) + (2)(2)}{(-2) ^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2} \]

    \[ = \frac{4 + 1 + 0 + 0 + 4}{4 + 1 + 0 + 1 + 4} \]

    \[ = \frac{9}{10} = 0.9 \]

Na koncu izračunamo y-presek b:

    \[ b = \bar{y} - m\bar{x} \]

    \[ = 4 - 0.9 \krat 3 \]

    \[ = 4 - 2.7 \]

    \[ = 1.3 \]

Zato je enačba linearne regresije za ta niz podatkov:

    \[ y = 0.9x + 1.3 \]

Ta primer dokazuje, da y-odsek b je dejansko enako povprečju vseh y vrednosti minus produkt naklona m in sredina vsega x vrednosti, ki se ujemajo s formulo b = \bar{y} - m\bar{x}.

Pomembno je omeniti, da y-presek b ni le sredina vsega y vrednosti plus produkt naklona m in sredina vsega x vrednote. Namesto tega vključuje odštevanje produkta naklona m in sredina vsega x vrednosti iz povprečja vseh y vrednosti.

Razumevanje izpeljave in pomena teh parametrov je bistveno za interpretacijo rezultatov linearne regresijske analize. Y-presek b zagotavlja dragocene informacije o osnovni ravni odvisne spremenljivke y ko je neodvisna spremenljivka x je nič. Pobočje m, po drugi strani pa nakazuje smer in moč odnosa med x in y.

V praktičnih aplikacijah se linearna regresija široko uporablja za napovedno modeliranje in analizo podatkov. Služi kot temeljna tehnika na različnih področjih, vključno z ekonomijo, financami, biologijo in družboslovjem. S prilagoditvijo linearnega modela opazovanim podatkom lahko raziskovalci in analitiki naredijo napovedi, prepoznajo trende in odkrijejo razmerja med spremenljivkami.

Python, priljubljen programski jezik za podatkovno znanost in strojno učenje, ponuja več knjižnic in orodij za izvajanje linearne regresije. Knjižnica `scikit-learn`, na primer, ponuja preprosto izvedbo linearne regresije prek svojega razreda `LinearRegression`. Tukaj je primer, kako izvajati linearno regresijo z uporabo `scikit-learn` v Pythonu:

python
import numpy as np
from sklearn.linear_model import LinearRegression

# Sample data
x = np.array([1, 2, 3, 4, 5]).reshape((-1, 1))
y = np.array([2, 3, 5, 4, 6])

# Create and fit the model
model = LinearRegression()
model.fit(x, y)

# Get the slope (m) and y-intercept (b)
m = model.coef_[0]
b = model.intercept_

print(f"Slope (m): {m}")
print(f"Y-intercept (b): {b}")

V tem primeru je razred `LinearRegression` uporabljen za ustvarjanje modela linearne regresije. Metoda `fit` se kliče za usposabljanje modela na vzorčnih podatkih, atributa `coef_` in `intercept_` pa se uporabljata za pridobitev naklona oziroma y-odseka.

Y-presek b v linearni regresiji ni enako povprečju vseh y vrednosti plus produkt naklona m in sredina vsega x vrednote. Namesto tega je enako povprečju vseh y vrednosti minus produkt naklona m in sredina vsega x vrednosti, kot jih podaja formula b = \bar{y} - m\bar{x}.

Druga nedavna vprašanja in odgovori v zvezi EITC/AI/MLP Strojno učenje s Pythonom:

Oglejte si več vprašanj in odgovorov v EITC/AI/MLP Strojno učenje s Pythonom

Več vprašanj in odgovorov:

Označeni pod: , , , , ,