一、迴歸分析

用來描述預測變項與依變項之間的關係,也可以根據已知的預測變項,估計依變項的數值。

二、簡單線性迴歸

(一)、定義

簡單線性迴歸使用一個預測變項,以直線描述依變項平均值的變化。

(二)、「簡單」指只有一個預測變項。

(三)、目的

用自變項(x)預測依變項(y)。

(四)、例如

以每週學習時數預測考試成績。

(五)、公式

Y^=b0+b1X\hat{Y} = b_0 + b_1 X

1.X是學習時數。

2.Ŷ是預測成績。

3.b₀是截距。

4.b₁是斜率。

(六)、直線會通過平均數(Mx,My)

三、多元迴歸分析

(一)、定義

用「兩個以上」的預測變項,預測同一個數值依變項。

(二)、「多元」指有多個預測變項。

(三)、目的

用多個自變項(x)一起來預測依變項(y)。

(四)、例如

將學習時數與學習動機同時放入模型,依變項仍然是考試成績。

(五)、公式

Y^=b0+b1X1+b2X2+⋯+bkXk\hat{Y} = b_0 + b_1 X_1 + b_2 X_2 + \cdots + b_k X_k

1.X₁是學習時數。

2.X₂是學習動機。

3.Xₖ是其他因素。

4.Ŷ是預測成績。

5.b₀是截距。

6.bₖ是斜率。

四、決定係數

(一)、定義

決定係數,記為 R²,表示樣本中依變項的總變異,有多少比例可由模型解釋。

(二)、例如

學習時數與學習動機的模型若得到R²=.57,可寫成「這個模型解釋了樣本中考試成績總變異的57%」

(三)、與相關係數r的關係

R²等於相關係數平方,也就是r²。

(四)、公式

R2=1−SSerrorSStotalR^2 = 1 – \frac{SS_{\mathrm{error}}}{SS_{\mathrm{total}}}

1.SSerror是殘差平方和。

2.SStotal是實際值相對於樣本平均數的總平方和。

五、多元共線性

(一)、定義

多元共線性指自變數之間的相關性很高,這會讓它們的影響變得扭曲,導致對依變數的解釋不夠精準。

(二)、例如

如果同時放入「每週總讀書時數」和「每週自習時數」,兩者可能高度重疊,導致解釋不精確。