- 數據分析方法 推薦度:
- 數據分析方法 推薦度:
- 數據分析方法有哪些 推薦度:
- 相關(guān)推薦
常用數據分析方法
常用數據分析方法
1描述統計
描述性統計是指運用制表和分類(lèi),圖形以及計筠概括性數據來(lái)描述數據的集中趨勢、離散趨勢、偏度、峰度。
1、缺失值填充:常用方法:剔除法、均值法、最小鄰居法、比率回歸法、決策樹(shù)法。
2、正態(tài)性檢驗:很多統計方法都要求數值服從或近似服從正態(tài)分布,所以之前需要進(jìn)行正態(tài)性檢驗。常用方法:非參數檢驗的K-量檢驗、P-P圖、Q-Q圖、W檢驗、動(dòng)差法。
2假設檢驗
1、參數檢驗
參數檢驗是在已知總體分布的條件下(一股要求總體服從正態(tài)分布)對一些主要的參數(如均值、百分數、方差、相關(guān)系數等)進(jìn)行的檢驗 。
1)U驗 使用條件:當樣本含量n較大時(shí),樣本值符合正態(tài)分布
2)T檢驗 使用條件:當樣本含量n較小時(shí),樣本值符合正態(tài)分布
A單樣本t檢驗:推斷該樣本來(lái)自的總體均數μ與已知的某一總體均數μ0 (常為理論值或標準值)有無(wú)差別;
B 配對樣本t檢驗:當總體均數未知時(shí),且兩個(gè)樣本可以配對,同對中的兩者在可能會(huì )影響處理效果的各種條件方面為相似;
C 兩獨立樣本t檢驗:無(wú)法找到在各方面極為相似的兩樣本作配對比較時(shí)使用。
2、非參數檢驗
非參數檢驗則不考慮總體分布是否已知,常常也不是針對總體參數,而是針對總體的某些一股性假設(如總體分布的位是否相同,總體分布是否正態(tài))進(jìn)行檢驗。
適用情況:順序類(lèi)型的數據資料,這類(lèi)數據的分布形態(tài)一般是未知的。
A 雖然是連續數據,但總體分布形態(tài)未知或者非正態(tài);
B 體分布雖然正態(tài),數據也是連續類(lèi)型,但樣本容量極小,如10以下;
主要方法包括:卡方檢驗、秩和檢驗、二項檢驗、游程檢驗、K-量檢驗等。
3信度分析
檢測量的可信度,例如調查問(wèn)卷的真實(shí)性。
分類(lèi):
1、外在信度:不同時(shí)間測量時(shí)量表的一致性程度,常用方法重測信度
2、內在信度;每個(gè)量表是否測量到單一的概念,同時(shí)組成兩表的內在體項一致性如何,常用方法分半信度。
4列聯(lián)表分析
用于分析離散變量或定型變量之間是否存在相關(guān)。
對于二維表,可進(jìn)行卡方檢驗,對于三維表,可作Mentel-Hanszel分層分析。
列聯(lián)表分析還包括配對計數資料的卡方檢驗、行列均為順序變量的相關(guān)檢驗。
5相關(guān)分析
研究現象之間是否存在某種依存關(guān)系,對具體有依存關(guān)系的現象探討相關(guān)方向及相關(guān)程度。
1、單相關(guān): 兩個(gè)因素之間的相關(guān)關(guān)系叫單相關(guān),即研究時(shí)只涉及一個(gè)自變量和一個(gè)因變量;
2、復相關(guān) :三個(gè)或三個(gè)以上因素的相關(guān)關(guān)系叫復相關(guān),即研究時(shí)涉及兩個(gè)或兩個(gè)以上的自變量和因變量相關(guān);
3、偏相關(guān):在某一現象與多種現象相關(guān)的場(chǎng)合,當假定其他變量不變時(shí),其中兩個(gè)變量之間的相關(guān)關(guān)系稱(chēng)為偏相關(guān)。
6方差分析
使用條件:各樣本須是相互獨立的隨機樣本;各樣本來(lái)自正態(tài)分布總體;各總體方差相等。
分類(lèi)
1、單因素方差分析:一項試驗只有一個(gè)影響因素,或者存在多個(gè)影響因素時(shí),只分析一個(gè)因素與響應變量的關(guān)系
2、多因素有交互方差分析:一頊實(shí)驗有多個(gè)影響因素,分析多個(gè)影響因素與響應變量的關(guān)系,同時(shí)考慮多個(gè)影響因素之間的關(guān)系
3、多因素無(wú)交互方差分析:分析多個(gè)影響因素與響應變量的關(guān)系,但是影響因素之間沒(méi)有影響關(guān)系或忽略影響關(guān)系
4、協(xié)方差分祈:傳統的方差分析存在明顯的弊端,無(wú)法控制分析中存在的某些隨機因素,使之影響了分祈結果的準確度。協(xié)方差分析主要是在排除了協(xié)變量的影響后再對修正后的主效應進(jìn)行方差分析,是將線(xiàn)性回歸與方差分析結合起來(lái)的一種分析方法,
7回歸分析
分類(lèi):
1、一元線(xiàn)性回歸分析:只有一個(gè)自變量X與因變量Y有關(guān),X與Y都必須是連續型變量,因變量y或其殘差必須服從正態(tài)分布。
2、多元線(xiàn)性回歸分析
使用條件:分析多個(gè)自變量與因變量Y的關(guān)系,X與Y都必須是連續型變量,因變量y或其殘差必須服從正態(tài)分布 。
1)變呈篩選方式:選擇最優(yōu)回歸方程的變里篩選法包括全橫型法(CP法)、逐步回歸法,向前引入法和向后剔除法
2)橫型診斷方法:
A 殘差檢驗: 觀(guān)測值與估計值的差值要艱從正態(tài)分布
B 強影響點(diǎn)判斷:尋找方式一般分為標準誤差法、Mahalanobis距離法
C 共線(xiàn)性診斷:
診斷方式:容忍度、方差擴大因子法(又稱(chēng)膨脹系數VIF)、特征根判定法、條件指針CI、方差比例
處理方法:增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等
3、Logistic回歸分析
線(xiàn)性回歸模型要求因變量是連續的正態(tài)分布變里,且自變量和因變量呈線(xiàn)性關(guān)系,而Logistic回歸模型對因變量的分布沒(méi)有要求,一般用于因變量是離散時(shí)的情況
分類(lèi):
Logistic回歸模型有條件與非條件之分,條件Logistic回歸模型和非條件Logistic回歸模型的區別在于參數的估計是否用到了條件概率。
4、其他回歸方法 非線(xiàn)性回歸、有序回歸、Probit回歸、加權回歸等
8聚類(lèi)分析
樣本個(gè)體或指標變量按其具有的特性進(jìn)行分類(lèi),尋找合理的度量事物相似性的統計量。
1、性質(zhì)分類(lèi):
Q型聚類(lèi)分析:對樣本進(jìn)行分類(lèi)處理,又稱(chēng)樣本聚類(lèi)分祈 使用距離系數作為統計量衡量相似度,如歐式距離、極端距離、絕對距離等
R型聚類(lèi)分析:對指標進(jìn)行分類(lèi)處理,又稱(chēng)指標聚類(lèi)分析 使用相似系數作為統計量衡量相似度,相關(guān)系數、列聯(lián)系數等
2、方法分類(lèi):
1)系統聚類(lèi)法: 適用于小樣本的樣本聚類(lèi)或指標聚類(lèi),一般用系統聚類(lèi)法來(lái)聚類(lèi)指標,又稱(chēng)分層聚類(lèi)
2)逐步聚類(lèi)法 :適用于大樣本的樣本聚類(lèi)
3)其他聚類(lèi)法 :兩步聚類(lèi)、K均值聚類(lèi)等
9判別分析
1、判別分析:根據已掌握的一批分類(lèi)明確的樣品建立判別函數,使產(chǎn)生錯判的事例最少,進(jìn)而對給定的一個(gè)新樣品,判斷它來(lái)自哪個(gè)總體
2、與聚類(lèi)分析區別
1)聚類(lèi)分析可以對樣本行分類(lèi),也可以對指標進(jìn)行分類(lèi);而判別分析只能對樣本
2)聚類(lèi)分析事先不知道事物的類(lèi)別,也不知道分幾類(lèi);而判別分析必須事先知道事物的類(lèi)別,也知道分幾類(lèi)
3)聚類(lèi)分析不需要分類(lèi)的歷史資料,而直接對樣本進(jìn)行分類(lèi);而判別分析需要分類(lèi)歷史資料去建立判別函數,然后才能對樣本進(jìn)行分類(lèi)
3、進(jìn)行分類(lèi) :
1)Fisher判別分析法 :
以距離為判別準則來(lái)分類(lèi),即樣本與哪個(gè)類(lèi)的距離最短就分到哪一類(lèi), 適用于兩類(lèi)判別;
以概率為判別準則來(lái)分類(lèi),即樣本屬于哪一類(lèi)的概率最大就分到哪一類(lèi),適用于
適用于多類(lèi)判別。
2)BAYES判別分析法 :
BAYES判別分析法比FISHER判別分析法更加完善和先進(jìn),它不僅能解決多類(lèi)判別分析,而且分析時(shí)考慮了數據的分布狀態(tài),所以一般較多使用;
10主成分分析
將彼此關(guān)的一組指標變適轉化為彼此獨立的一組新的指標變量,并用其中較少的幾個(gè)新指標變量就能綜合反應原多個(gè)指標變量中所包含的主要信息 。
11因子分析
一種旨在尋找隱藏在多變量數據中、無(wú)法直接觀(guān)察到卻影響或支配可測變量的潛在因子、并估計潛在因子對可測變量的影響程度以及潛在因子之間的相關(guān)性的一種多元統計分析方法
與主成分分析比較:
相同:都能夠起到理多個(gè)原始變量?jì)仍诮Y構關(guān)系的作用
不同:主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變量間的關(guān)系,是比主成分分析更深入的一種多元統計方法
用途:
1)減少分析變量個(gè)數
2)通過(guò)對變量間相關(guān)關(guān)系探測,將原始變量進(jìn)行分類(lèi)
12時(shí)間序列分析
動(dòng)態(tài)數據處理的統計方法,研究隨機數據序列所遵從的統計規律,以用于解決實(shí)際問(wèn)題;時(shí)間序列通常由4種要素組成:趨勢、季節變動(dòng)、循環(huán)波動(dòng)和不規則波動(dòng)。
主要方法:移動(dòng)平均濾波與指數平滑法、ARIMA橫型、量ARIMA橫型、ARIMAX模型、向呈自回歸橫型、ARCH族模型
13生存分析
用來(lái)研究生存時(shí)間的分布規律以及生存時(shí)間和相關(guān)因索之間關(guān)系的一種統計分析方法
1、包含內容:
1)描述生存過(guò)程,即研究生存時(shí)間的分布規律
2)比較生存過(guò)程,即研究?jì)山M或多組生存時(shí)間的分布規律,并進(jìn)行比較
3)分析危險因素,即研究危險因素對生存過(guò)程的影響
4)建立數學(xué)模型,即將生存時(shí)間與相關(guān)危險因素的依存關(guān)系用一個(gè)數學(xué)式子表示出來(lái)。
2、方法:
1)統計描述:包括求生存時(shí)間的分位數、中數生存期、平均數、生存函數的估計、判斷生存時(shí)間的圖示法,不對所分析的數據作出任何統計推斷結論
2)非參數檢驗:檢驗分組變量各水平所對應的生存曲線(xiàn)是否一致,對生存時(shí)間的分布沒(méi)有要求,并且檢驗危險因素對生存時(shí)間的影響。
A 乘積極限法(PL法)
B 壽命表法(LT法)
3)半參數橫型回歸分析:在特定的假設之下,建立生存時(shí)間隨多個(gè)危險因素變化的回歸方程,這種方法的代表是Cox比例風(fēng)險回歸分析法
4)參數模型回歸分析:已知生存時(shí)間服從特定的參數橫型時(shí),擬合相應的參數模型,更準確地分析確定變量之間的變化規律
14典型相關(guān)分析
相關(guān)分析一般分析兩個(gè)變里之間的關(guān)系,而典型相關(guān)分析是分析兩組變里(如3個(gè)學(xué)術(shù)能力指標與5個(gè)在校成績(jì)表現指標)之間相關(guān)性的一種統計分析方法。
典型相關(guān)分析的基本思想和主成分分析的基本思想相似,它將一組變量與另一組變量之間單變量的多重線(xiàn)性相關(guān)性研究轉化為對少數幾對綜合變量之間的簡(jiǎn)單線(xiàn)性相關(guān)性的研究,并且這少數幾對變量所包含的線(xiàn)性相關(guān)性的信息幾乎覆蓋了原變量組所包含的全部相應信息。
15R0C分析
R0C曲線(xiàn)是根據一系列不同的二分類(lèi)方式(分界值或決定閾).以真陽(yáng)性率(靈敏度)為縱坐標,假陽(yáng)性率(1-特異度)為橫坐標繪制的曲線(xiàn)
用途:
1、R0C曲線(xiàn)能很容易地出任意界限值時(shí)的對疾病的識別能力
用途 ;
2、選擇最佳的診斷界限值。R0C曲線(xiàn)越靠近左上角,試驗的準確性就越高;
3、兩種或兩種以上不同診斷試驗對疾病識別能力的比較,一股用R0C曲線(xiàn)下面積反映診斷系統的準確性。
16其他分析方法
多重響應分析、距離分祈、項目分祈、對應分祈、決策樹(shù)分析、神經(jīng)網(wǎng)絡(luò )、系統方程、蒙特卡洛模擬等。
【常用數據分析方法】相關(guān)文章:
數據分析常用方法07-26
數據分析常用方法(熱)07-25
常用數據分析方法有哪些04-04
銷(xiāo)售數據的分析方法07-25
數據整理分析方法10-22
[必備]數據分析常用方法3篇07-25
數據分析與辦公軟件:數據分析方法07-10
銷(xiāo)售數據分析方法07-03
銷(xiāo)售數據分析的方法07-03
配件庫存分析數據的方法07-10