當p值小於.05的時候，進行假設檢定的人就可以推論實驗組和對照組有差異的機會在20次當中，只會有不到1次。而當我們真得遇見這樣的可能性時，我們就可以大膽地說實驗組和對照組確實存在差異。但是僅僅透過點估計(point estimate)，很可能因為抽樣誤差而對於實際的情況有誇張或不足的推論。只看統計顯著性的p值，是無法告訴我們差距大小。信賴區間(confidence interval)是p值無法告訴我們的。越小的樣本，信賴區間會越大、越寬；相對的，大樣本，的信賴區間小，研究者就更有信心地說樣本的推論接近母體。 當實驗組和對照組的操弄或處理的效果是非常小的時候，要說明兩個組別確實存在差異時，可能就不夠力(powerful)。假設實驗處理只有很小、很小的效果，當樣本數也非常小的時候，它的信賴區間便會擴大，於是可能存在的效果就會被遺忘在較大的信賴區間裡了。 即使樣本夠大，它可以說明母體具有統計上的顯著的差異，但是只靠p值仍無法知道這樣的效果究竟多大，也許這樣的效果根本不值得我們去追求。 只看p值就會遇到以上的問題，它有點像一人一票(vote-counting)，只看最後的結果。如果我們想知道實驗組和對照組的差異多大時，這是p值無法提供的。 Hunt, M. (1999). How Science Takes Stock: The Story of Meta-Analysis (Revised ed. edition). New York: Russell Sage Foundation.
Category: 資料分析
在R進行兩比例值的比較
比例值資料是二項類別資料，族群資料之特徵只有兩種觀測值，如資料只有雌與雄、死與活、答對與答對。這些是沒有度量衡的測定單位。把其中一種特徵當成0，另一個特徵當成1，整個資料只有0和1兩種觀測值。這樣的族群稱為二項族群(Bernoulli population)。其平均數為p，而變方則為pq。甲選手在25場比賽中，贏了17場比較；乙選手在20場比賽中，贏了8場比賽。 甲選手和乙選手兩個人贏比賽的機率是否相等？(兩個族群的平均數是否相等？)prop.test(c(17,8),c(25,20),correct=FALSE) 甲選手贏比賽的機率是否等於乙選手贏比賽的機率(0.4)？乙選手贏比賽的機率是否等於甲選手贏比賽的機率(0.68)？某一個族群的平均數是否等於某個特定的值？binom.test(x=17,n=25,p=8/20)binom.test(x=8,n=20,p=17/25) http://stats.stackexchange.com/questions/123609/exact-two-sample-proportions-binomial-test-in-r-and-some-strange-p-valueshttps://stat.ethz.ch/R-manual/R-devel/library/stats/html/binom.test.html
我讀陳振宇的《整合分析》：效應量
每一個研究假設都會產生一個研究結果(或者效果)，透過研究假設中兩個群體的比較，而且是有方向性預則的比較(可以是A大於B或B大於A，不可以只有A不等於B)，並將這些結果轉換為能夠與其它襄究比較的單位。一個最典型、最傳統，用於在同一個問題意識下，但是不同的研究假設和研究成果的就是「效應量」(effect size、ES或效果量)。效應量告訴我們有關每個群體相對於另一個群體的位置的概念，以統計學家的話說就是「樣本資料所得到的差異是幾個標準差」，依據效應量的大小能夠判斷具有顯著差異的研究結果是否具有實驗意義或重要性。效應量越大，研究結果的實驗意義就越大；效應量越小，研究結果的實驗意義就越小。效應量的大小代表不同群體的資料分布的差異，是否足以說明兩個體立群體的平均數差異。 在單一研究時，個別受試者的行為表現是反應變項；進行整合研究(meta-analysis)時，會將很多個相同問題的的研究結果集合起來，這時候每一個研究的效果(效應量)就是反應變項了。
為什麼研究需要報告「效應值」（size effect）？因為型一錯誤和型二錯誤的不平衡
研究者在「虛無假設統計檢定」設定的顯著水準為0.05時，認為自己所做的推論犯錯的機會只有不到5%。然而，算進型二錯誤的話，犯錯的機會可能會提高。型二錯誤指的是真實的情況下，母體存在著差異，但是研究者卻做出了沒有差異的推論；與型二錯誤相對的就是統計檢定力(statistical power)，即母體存在差異，且研究者的樣本資料也發現顯著差異。在真實的情況下，母體中兩個比較的群體存在差異的，由於抽樣後觀察到的檢計量或p值落在拒絕域之外，即p值大於0.05，於是研究者宣稱無法拒絕虛無假設並推論兩個群體並不存在差異，這就犯了型二錯誤。增加樣本數就會降低型二錯誤。在真實情況兩個群體(控制組和實驗組)存在差異時，要達到研究者所設定的顯著水準(比方0.05)而拒絕虛無假設時，則至少需要有1.645個標準差的差異。假設樣本數只有15個實驗組和15個控制組，標準差為0.38。如果檢定統計量落在1.645個標準差的右邊(單尾檢定，實驗組之於控制組有正向的效果)則拒絕虛無假設；但是檢定統計量也可能落在1.645個標準差的左邊，這時就無法拒絕虛無假設，就會犯了型二錯誤。在控制組和實驗組確實存在差異，且作出正確的推論的機率是37%(統計檢定力)；同時，作為錯誤推論的機率則為63%(型二錯誤)。如果更改顯著水準自0.1(1.282個標準差)或0.01(2.327個標準差)，那統計檢定力和型二錯誤的機率又會有所改變。 研究者所選取的顯著水準會使得型二錯誤和型一錯誤有不平衡的結果，於是也開始有研究者報告效應量(effect size、ES或效果量)來提供研究更多的訊息。 陳振宇. (2013). 整合分析. In 社會及行為科學研究法(三)：資料分析 (3版.). 臺北市: 臺灣東華.
我讀陳振宇的《整合分析》：「虛無假設統計檢定」的推論、作法與不足
研究者心裡面有一個所欲論述的假設(對立假設)，與之相反的就是虛無假設。研究者盡力收集證據的情況下，仍沒有足夠的證據能夠支持虛無假設時，研究者於是可以認為對立假設為真。通常，研究者所欲證實的假設，指的是某個變項所進行的操弄是有效果；而虛無假設則是操弄沒有效果。每一次研究的觀察都可能出現抽樣的誤差。該次的抽樣所觀察到的效果可能是真實的，也可能是來自沒有效果的母群抽樣。於是，研究者必須採取某種標準判斷。以大多數專業期刊所採取的標準或顯著水準0.05為例，即該研究者認為如果來自沒有效果的母群抽樣的機率不到5%的話，那麼研究者願意判定這個效果不是來自虛無假設的母群，而宣稱對立假設成立。宣稱對立假設成立的同時，虛無假設仍有最高5%的機率為真的可能性。如果這樣的情況發生了，就是型一誤差。不過，只要沒有進行普查的話，我們永遠不知道型一誤差是否會發生。 「虛無假設統計檢定」的推論，決定選擇虛無假設或對立假設取決於研究者所採取的顯著水準。想像以下兩種情況，甲情況下p值是0.1，乙情況下p值是0.77，在顯著水準備為0.05的前提下，不論在甲情況或乙情況下，研究者都會選擇接受虛無假設，但是甲乙兩個情況下的檢定統計量可能是天差地遠。如果將顯著水準設為0.1，在甲情況下，研究者會拒絕虛無假設，而乙情況下仍會接受虛無假設。結果，只因為研究者的風險設定，就會決定了最後統計的判定和推論。 陳振宇. (2013). 整合分析. In 社會及行為科學研究法(三)：資料分析 (3版.). 臺北市: 臺灣東華.