標準差

維基百科,自由的百科全書
標準差英語Standard Deviation),在機率統計中最常使用作為統計分佈程度(statistical dispersion)上的測量。標準差定義為變異數算術平方根,反映組內個體間的離散程度。測量到分佈程度的結果,原則上具有兩種性質:
  1. 為非負數值;
  2. 與測量資料具有相同單位。
一個總量的標準差或一個隨機變量的標準差,及一個子集合樣品數的標準差之間,有所差別。其公式如下所列。
標準差的觀念是由卡爾·皮爾遜Karl Pearson)引入到統計中。

目錄

闡述及應用

簡單來說,標準差是一組數值自平均值分散開來的程度的一種測量觀念。一個較大的標準差,代表大部分的數值和其平均值之間差異較大;一個較小的標準差,代表這些數值較接近平均值。
例如,兩組數的集合 {0, 5, 9, 14} 和 {5, 6, 8, 9} 其平均值都是 7 ,但第二個集合具有較小的標準差。
標準差可以當作不確定性的一種測量。例如在物理科學中,做重複性測量時,測量數值集合的標準差代表這些測量的精確度。當要決定測量值是否符合預測值,測量值的標準差佔有決定性重要角色:如果測量平均值與預測值相差太遠(同時與標準差數值做比較),則認為測量值與預測值互相矛盾。這很容易理解,因為如果測量值都落在一定數值範圍之外,可以合理推論預測值是否正確。
標準差應用於投資上,可作為量度回報穩定性的指標。標準差數值越大,代表回報遠離過去平均數值,回報較不穩定故風險越高。相反,標準差數值越小,代表回報較為穩定,風險亦較小。

母體的標準差

基本定義

\sigma = \sqrt{\frac{1}{N} \sum_{i=1}^N (x_i - \mu)^2}

簡化計算公式

上述公式可以如下代換而簡化:
\begin{align}
\sum_{i=1}^N (X_i - \mu)^2 & = {} \sum_{i=1}^N (X_i^2 - 2 X_i\mu + \mu^2) \\
& {} = \left(\sum_{i=1}^N X_i^2\right) - \left(2 \mu \sum_{i=1}^N X_i\right) + N\mu^2 \\
& {} = \left(\sum_{i=1}^N X_i^2\right) - 2 \mu (N\mu) + N\mu^2 \\
& {} = \left(\sum_{i=1}^N X_i^2\right) - 2N\mu^2 + N\mu^2 \\
& {} = \left(\sum_{i=1}^N X_i^2\right) - N\mu^2
\end{align}
所以:
\sigma = \sqrt{\frac{1}{N} \sum_{i=1}^N (x_i - \mu)^2}
 = \sqrt{\frac{1}{N} \left(\sum_{i=1}^N X_i^2\right) - \frac{1}{N}N\mu^2}
 = \sqrt{ \frac{\sum_{i=1}^N X_i^2}{N}  - \mu^2 }
根號裡面,亦即變異數\sigma^2)的簡易口訣為:「平方的平均」減去「平均的平方」。

母體為隨機變數

隨機變量 X 的標準差定義為:
\sigma = \sqrt{\operatorname{E}((X-\operatorname{E}(X))^2)} = \sqrt{\operatorname{E}(X^2) - (\operatorname{E}(X))^2}
須注意並非所有隨機變量都具有標準差,因為有些隨機變量不存在期望值。 如果隨機變量 X 為 x_1, \cdots, x_n 具有相同機率,則可用上述公式計算標準差。

離散隨機變數的標準差

X是由實數x_{1}, x_{2}, ..., x_{n} 構成的離散隨機變數英語diskrete random variable),且每個值的機率相等,則X的標準差定義為:
\sigma = \sqrt{\frac{1}{N}\left[(x_1-\mu)^2 + (x_2-\mu)^2 + \cdots + (x_N - \mu)^2\right]} ,其中  \mu = \frac{1}{N} (x_1 + \cdots + x_N)
換成用\sum來寫,就成為:
\sigma = \sqrt{\frac{1}{N} \sum_{i=1}^N (x_i - \mu)^2} ,其中  \mu = \frac{1}{N} (x_1 + \cdots + x_N)
目前為止,與母體標準差的基本公式一致。
然而若每個x_i可以有不同機率 p_i ,則X的標準差定義為:
\sigma = \sqrt{\sum_{i=1}^N p_i(x_i - \mu)^2} ,其中 \mu = \sum_{i=1}^N p_i x_i.

連續隨機變數的標準差

X為機率密度 p(X) 的連續隨機變數英語diskrete random variable),則X的標準差定義為:
\sigma = \sqrt{\int (x-\mu)^2 \, p(x) \, dx}
其中
\mu = \int x \, p(x) \, dx

標準差的特殊性質

對於常數 c 和隨機變數 X 和 Y
\sigma(X+c)=\sigma(X)
\sigma(cX)=c\cdot\sigma(X)
\sigma(X+Y) = \sqrt{ \sigma^2(X) + \sigma^2(Y) + 2\cdot\mbox{cov} (X,Y)}
其中:\mbox{cov}(X,Y) 表示隨機變數 X 和 Y 的共變異數

樣本的標準差

在真實世界中,找到一個母體的真實的標準差是不現實的。大多數情況下,母體標準差是通過隨機抽取一定量的樣本並計算樣本標準差估計的。
從一大組數值X_1, \cdots, X_N當中取出一樣本數值組合 x_1, \cdots, x_n : n < N ,常定義其樣本標準差

s = \sqrt{\frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2}
樣本變異數 s^2 是對母體變異數\sigma^2無偏估計。 s 中分母為 n-1(相較於母體\sigma中的分母為n),是因為 \left( x_i - \bar{x} \right) 的自由度為 n - 1 ,這是由於存在約束條件 \sum_{i=1}^{n}\left(x_i - \bar{x}\right) = 0 。

範例

這裡示範如何計算一組數的標準差。例如一群孩童年齡的數值為 { 5, 6, 8, 9 } :
  • 第一步,計算平均值 \overline{x}
\overline{x}=\frac{1}{N}\sum_{i=1}^N x_i
當 \begin{smallmatrix}N = 4\end{smallmatrix}(因為集合裏有 4 個數),分別設為:

\begin{align}
x_1 &= 5 \\
x_2 &= 6 \\
x_3 &= 8 \\
x_4 &= 9 \\
\end{align}
\overline{x}=\frac{1}{4}\sum_{i=1}^4 x_i      (N = 4)
\overline{x}=\frac{1}{4} \left ( x_1 + x_2 + x_3 +x_4 \right )
\overline{x}=\frac{1}{4} \left ( 5 + 6 + 8 + 9 \right )
\overline{x}= 7      (此為平均值)
  • 第二步,計算標準差 \sigma\,
\sigma = \sqrt{\frac{1}{N} \sum_{i=1}^N (x_i - \overline{x})^2}
\sigma = \sqrt{\frac{1}{4} \sum_{i=1}^4 (x_i - \overline{x})^2}      (N = 4)
\sigma = \sqrt{\frac{1}{4} \sum_{i=1}^4 (x_i - 7)^2}      (\overline{x} = 7)
\sigma = \sqrt{\frac{1}{4} \left [ (x_1 - 7)^2 + (x_2 - 7)^2 + (x_3 - 7)^2 + (x_4 - 7)^2 \right ] }
\sigma = \sqrt{\frac{1}{4} \left [ (5 - 7)^2 + (6 - 7)^2 + (8 - 7)^2 + (9 - 7)^2 \right ] }
\sigma = \sqrt{\frac{1}{4} \left ( (-2)^2 + (-1)^2 + 1^2 + 2^2 \right ) }
\sigma = \sqrt{\frac{1}{4} \left ( 4 + 1 + 1 + 4 \right ) }
\sigma = \sqrt{\frac{10}{4}}
\sigma = 1.5811\,\!      (此為標準差)

常態分佈的規則

深藍區域是距平均值小於一個標準差之內的數值範圍,在常態分佈中,此範圍所佔比率為全部數值之 68%;兩個標準差之內(深藍,藍)的比率合起來為 95%;三個標準差之內(深藍,藍,淺藍)的比率合起來為 99.7% 。
在實際應用上,常考慮一組數據具有近似於常態分佈的機率分佈。若其假設正確,則約 68% 數值分佈在距離平均值有 1 個標準差之內的範圍,約 95% 數值分佈在距離平均值有 2 個標準差之內的範圍,以及約99.7% 數值分佈在距離平均值有 3 個標準差之內的範圍。稱為「68-95-99.7 法則」。

標準差與平均值之間的關係

一組數據的平均值及標準差常常同時作為參考的依據。從某種意義上說,如果用平均值來考量數值的中心的話,則標準差也就是對統計的分散度的一個「自然」的測度。因為由平均值所得的標準差要小於到其他任何一個點的標準差。較確切的敘述為:設 X_1, \cdots, X_N為實數,定義函數
\sigma(\mu) = \sqrt{\frac{1}{N} \sum_{i=1}^N (x_i - \mu)^2}
使用微積分或者通過配方法,不難算出 \sigma(\mu) 在下面情況下具有唯一最小值:
\mu = \overline{x}

幾何學解釋

幾何學的角度出發,標準差可以理解為一個從 n 維空間的一個點到一條直線的距離的函數。舉一個簡單的例子,一組數據中有3個值,X_1, X_2, X_3。它們可以在3維空間中確定一個 P = (X_1, X_2, X_3)。想像一條通過原點的直線 L = {(r, r, r) : r \in \mathbb{R}}。如果這組數據中的3個值都相等,則點 P 就是直線 L 上的一個點,P 到 L 的距離為0, 所以標準差也為0。若這3個值不都相等,過點 P 作垂線 PR 垂直於 LPR 交 L 於點 R,則 R 的坐標為這3個值的平均數:
R = (\overline{x},\overline{x},\overline{x})
運用一些代數知識,不難發現點 P 與點 R 之間的距離(也就是點 P 到直線 L 的距離)是\sigma \sqrt{3}。在 n 維空間中,這個規律同樣適用,把3換成 n 就可以了。

外部連結