淺談貝氏定理

本文將介紹貝氏定理 (Bayes’ theorem) 的推導與實例。

推導

條件機率的定義是, $$Pr(A|B)=\frac{Pr(A\cap B)}{Pr(B)},$$ 其中 $\Pr(A|B)$ 是指在事件 $B$ 發生的前題下, 事件 $A$ 發生的機率; $\Pr(A \cap B)$ 是指事件 $A$ 發生且事件 $B$ 發生的機率. 當然, $A \cap B$ 與 $B \cap A$ 是完全同義的, 因此, 我們也可以得到 $$Pr(B|A)=\frac{Pr(B\cap A)}{Pr(A)}=\frac{Pr(A\cap B)}{Pr(A)}.$$

有趣的事發生了. 若將上述二式中的 $\Pr(A \cap B)$ 單離出來, 可以發現 $$Pr(A\cap B)=Pr(A|B)\times Pr(B)=Pr(B|A)\times Pr(A),$$ 可得 $$Pr(A|B)=\frac{Pr(B|A)\times Pr(A)}{Pr(B)},$$ 被稱為貝氏定理. 不過在實用上來說, 常利用全機率定理改寫分母, 成為定理的另一個形式 $$Pr(A|B)=\frac{Pr(B|A)\times Pr(A)}{Pr(B|A)\times Pr(A)+Pr(B|\mathrm{\neg }A)\times Pr(\mathrm{\neg }A)},$$ 其中 $\lnot A$ 表示 “非 $A$”.

例題

Wikipedia 中描述了一個貝氏定理中著名的 “吸毒測試” 例題, 簡單翻譯與修改後如下. 某種檢測吸毒的方法具有 99% 的敏感度和 97% 的可靠度, 也就是有吸毒者受測呈陽性的機率為 99% 而非吸毒者受測呈陰性的機率是 97%. 調查人員已經知道某群體的總體吸毒率為 0.1%. 已知, 在該群體中某一位人員受檢後呈陽性, 則該人員吸毒的機率是多少?

令吸毒事件為 $D$, 測試結果呈陽性為 $P$. 由命題可知, $\Pr(P|D)=0.99$, $\Pr(\lnot P|\lnot D)=0.97$, $\Pr(D)=0.001$. 由貝氏定義可知, $$\begin{array}{rl}Pr(D|P)=& \frac{Pr(P|D)\times Pr(D)}{Pr(P)}\\ =& \frac{Pr(P|D)\times Pr(D)}{Pr(P|D)\times Pr(D)+Pr(P|\mathrm{\neg }D)\times Pr(\mathrm{\neg }D)}\\ =& \frac{Pr(P|D)\times Pr(D)}{Pr(P|D)\times Pr(D)+[1-Pr(\mathrm{\neg }P|\mathrm{\neg }D)]\times [1-Pr(\mathrm{\neg }D)]}\\ =& \frac{0.99\times 0.001}{0.99\times 0.001+(1-0.97)\times (1-0.001)}\\ \simeq & 0.032\end{array}$$ 為所求, 也就是該人員受測呈陽性但有吸毒的機率只有 3.2%, 即使該檢測有 99% 的敏感度. 這種結果是不是與你預期的差距很大?

利用貝氏定理, 統計學家已經將之推廣出一派新的統計學門, 稱為貝氏推論. 貝氏推論的核心概念是, 在已知的資料中, 如何從過去的知識推論母體. 在例題中, 過去的知識 $\Pr(D)$ 被稱為事前機率 (prior), $\Pr(D|P)$ 被稱為事後機率 (posterior), 而 $\Pr(P|D) / \Pr(P)$ 被稱為標準概似度 (standardised likelihood). 因此, 貝氏定理亦常被表示成 $$\text{posterior}=\text{standardised likelihood}\times \text{prior}.$$ 假如 posterior 不易取得, 可藉由對 prior 更多的了解, 使我們可以更有信心地推論 posterior, 是貝氏推論的重要武器.