統計學的假設檢驗

2021-10-16 12:27:46 字數 2897 閱讀 8272

上次寫了統計學裡面的置信度與置信區間以後,文章反響還不錯,這次再來試著寫寫統計學裡面的假設檢驗。

假設檢驗的核心其實就是反證法。反證法是數學中的乙個概念,就是你要證明乙個結論是正確的,那麼先假設這個結論是錯誤的,然後以這個結論是錯誤的為前提條件進行推理,推理出來的結果與假設條件矛盾,這個時候就說明這個假設是錯誤的,也就是這個結論是正確的。以上就是反證法的乙個簡單思路。

了解完反證法以後,我們開始正式的假設檢驗,這裡還是引用乙個大家都很熟悉的乙個例子『女士品茶』。

女士品茶是乙個很久遠的故事,講述了在很久很久以前的乙個下午,有一群人在那品茶,這個時候有位女士提出了乙個有趣的點,就是把茶加到奶裡和把奶加到茶裡面最後得到的『奶茶』的味道是不一樣的。大部分人都覺得這位女士在瞎說,只有其中一位男士提出了要用科學的方法去證明到底一樣不一樣(牛人想問題角度永遠都是那麼獨特,多想想別人為什麼那麼說,而不是一上來就不經思考的拒絕)。

接下來,我們具體看一下這一位男士是怎麼去證明的。首先他假設了把茶加到奶裡和把奶加到茶裡面得出來的『奶茶』味道是一樣的。然後隨機把這兩種『奶茶』端給女士,讓女士品,是先加的奶還是先加的茶,如果女士都能品對,說明確實有差異,如果要是品不對,說明是沒差異的。這裡面就涉及到乙個問題,讓女士品多少杯呢,品一杯肯定是不行的,因為任意一杯猜對(瞎矇)的概率都有50%。下面是不同杯數對應的猜對的概率(注意,這裡是猜對而不是品對)。

通過上表我們可以看出,連續4杯都猜對的概率不足0.1,連續10杯都猜對的概率不足0.001。如果把奶加到茶裡和把茶加到奶裡面得到的『奶茶』真沒有差別,也就是女士要想品對,基本全靠猜,但是10杯全部猜對的概率不足0.001,我們把這種概率很小很小(這裡需要定義一下,具體多小算小概率事件)的事件稱為小概率事件。我們認為小概率事件一般是不會發生的,如果發生了,說明我們的認知就是錯誤的,也就是說女士品茶不是靠猜的,也就是把奶加到茶裡和把茶加到奶裡面得到的『奶茶』的確是有差別的。

我們把上面這個過程就叫做假設檢驗。

了解完假設檢驗的思想以後,我們來看一下具體步驟:

零假設(h0)一般是我們要推翻的論點,備擇假設(h1)則是我們要證明的論點。拿上面的女士品茶例子來講。

h0:把茶加到奶裡和把奶加到茶裡面得到的『奶茶』是一樣的。

h0:把茶加到奶裡和把奶加到茶裡面得到的『奶茶』是不一樣的。

檢驗統計量是根據樣本觀測結果計算得到的樣本統計量,並以此對零假設和備擇假設做出決策。

上面中是三種不同的統計量以及其對應的分布,分別叫做z檢驗、t檢驗、卡方檢驗。

下面為三種檢驗對應的分布圖:

正態分佈

t分布,與正態類似

根據不同檢驗的特徵,我們可以根據下圖來進行選擇合適的檢驗方式:

還記得我們在前面提到的小概率事件嗎?如果小概率事件發生了,就表示我們的零假設是錯誤的,可是具體多小的概率才算是小概率呢?一般這個概率為0.05,也就是5%,如果一件事情發生的概率小於等於5%,我們就認為這是乙個小概率事件,0.05就是顯著性水平,用α表示。顯著性水平把概率分布分為兩個區間:拒絕區間和接受區間,最後計算出來的結果落在拒絕區間,我們就可以拒絕零假設;如果落在了接受區間,我們就需要接受零假設。1-α稱為置信水平(置信度)。

現在我們知道了顯著性水平了,然後就可以根據顯著性水平求得臨界值和拒絕域了。那具體怎麼求呢?這裡的臨界值就是z值(正太分布用z值)或t值(t分布用t值),以臨界值為端點的區間稱為拒絕域。z值和t值直接根據顯著性水平然後到對應的z值表和t值表中查詢即可。

下圖為雙側檢驗和單側檢驗對應的α、1-α、臨界值、拒絕域、接受域的情況,其中α是表示陰影部分的面積,而不是x軸的值。

雙側檢驗

單側檢驗

到這裡顯著性水平對應的臨界值和拒絕域就算出來了。

根據我們在前面選擇檢驗統計量型別,計算對應的檢驗統計量的值。除此之外我們還可以根據樣本量得出p值,p值就是實際樣本中小概率事件的具體概率值。

比較計算出來的檢驗統計量與臨界值和拒絕域,如果值落在了拒絕域內,那我們就要拒絕零假設,否則接受零假設。

比較計算出來的p值和顯著性水平α值,如果p值小於等於α,則拒絕零假設,否則接受原假設。

上面兩種方法分別叫做統計量檢驗和p值檢驗。

以上就是假設檢驗的一般流程。除此之外,假設檢驗裡面還有兩種錯誤,第一類錯誤叫做棄真錯誤,通俗一點就是漏診,就是本來是生病了(假設是正確的),但是你沒有檢測出來,所以給拒絕掉了;第二類錯誤是取偽錯誤,通俗一點就是誤診,就是本來沒病(假設是錯誤的),結果你診斷說生病了(假設是正確的),所以就把假設給接受了。

i型錯誤的值一般為0.05,ii型錯誤的值一般為0.1或0.2,除此之外還有乙個指標叫做功效(power),power = 1 - ii型錯誤的值,power 表示你有多大把握能夠正確的拒絕你的零假設h0。

統計學的假設檢驗

假設檢驗是一種規則,它根據資料樣本所提供的證據,指定是肯定還是否定有關總體的宣告。基本原理是先對總體的特徵作出某種假設,然後通過抽樣研究的統計推理,對此假設應該被拒絕還是接受作出推斷。假設檢驗的基本思想是小概率反證法思想。小概率思想是指小概率事件 p 0.01或p 0.05 在一次試驗中基本上不會發...

統計學03 假設檢驗

假設檢驗本質是一種逆向思維的應用。用大白話講,就是假如你想證明自己能辦成一件事,可以先假設你辦不成這件事,通過證明辦不成這件事發生的概率非常小來論證這件事是可以辦成的。在統計學中,這個辦不成這件事的假設被稱為零假設,記為h 0h 0 h0 而你辦成這件事的假設 在事實發生之前同樣是假設 被稱為備擇假...

統計學初識之假設檢驗

對於原假設提出的命題,我們需要做出判斷,這種判斷可以用 原假設正確 或 原假設錯誤 來表述。當然這是依據樣本提供的資訊進行判斷的,也就是說由部分來推斷總體。因而判斷有可能正確,也有可能不正確,也就說我們面臨著犯錯誤的可能。所犯的錯誤有兩種型別,一類錯誤是原假設h0為真卻被我們拒絕了,犯這種錯誤的概率...