多元統(tǒng)計分析初步

因素分析

1. 因素分析的基本思想：主成分分析的推廣，也是利用降維思想，由研究原始變量相關(guān)陣居內(nèi)出發(fā)，把一些具有錯綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個綜合因素；根據(jù)相關(guān)性把原始變量分組，是的同組內(nèi)的變量之間相關(guān)性較高，不同組的變量間相關(guān)性較低，每組變量代表一個基本結(jié)構(gòu)，并用一個不可觀察的綜合變量表示，這個基本結(jié)構(gòu)就成為公因子。
2. 根據(jù)研究者對因素的確定性程度分為探索性因素分析和驗證性因素分析：
3. 探索性因素分析：研究者事先對觀察數(shù)據(jù)背后可以提取多少個因素并不確定，分析的目的在于探索因素的個數(shù)。
4. 實驗性因素分析：研究者根據(jù)已有的理論模型對因素的個數(shù)，以及每個變量都在哪個因素上有載荷有明確的假設(shè)，分析的目的在于對假設(shè)進(jìn)行驗證。
5. 因素個數(shù)的確定主要依據(jù)特征值的大�。禾卣髦荡�表某個因素可解釋的總變異量。一般而言，特征值需大于1才能視為一個因素。另外，還可以進(jìn)行碎石圖檢驗或險坡檢驗。將每一個因素依其特征值排列，特征值逐漸遞減，當(dāng)特征值逐漸接近，沒有變化時，代表特殊的因素已經(jīng)無法抽取，當(dāng)特征值急劇增加，即特征曲線變陡之時，就是決定因素個數(shù)之時。

主成分分析與因素分析的區(qū)別

1. 因素分析目的是從數(shù)據(jù)中探查能對變量起解釋作用的因子，及其組合系數(shù)；主成分分析只是尋找能夠解釋諸多變量變異大部分的幾組彼此不想關(guān)的變量。
2. 因素分析把變量表示成因素的線性組合；主成分分析是把主成分表示成變量的線性組合。
3. 因素分析需要一些假設(shè)；主成分分析不用。
4. 因素分析抽取因素有許多方法；主成分分析只有一種。
5. 因素可以進(jìn)行旋轉(zhuǎn)；主成分一般是固定的。
6. 因素的數(shù)量要分析者假定；主成分分析則不需要。
7. 由于可以使用因素旋轉(zhuǎn)幫助解釋因素，與主成分分析相比，解釋方面因素分析更有優(yōu)勢。

多元統(tǒng)計分析初步

多元線性回歸分析

1. 多元回歸及相關(guān)概念：在回歸分析中，若有兩個或以上的自變量，就成為多元回歸。

在需要用多個計量資料的自變量來解釋單個計量資料的因變量時，多元回歸是最適合的選擇；它能提供多個自變量對因變量的函數(shù)關(guān)系、提供多個備選的函數(shù)關(guān)系、提供每個關(guān)系式對實驗數(shù)據(jù)的解釋能力，研究者可以結(jié)合自己的理論語氣，據(jù)此做出選擇。

1. 線性回歸模型的基本假設(shè)：
2. 解釋變量X是確定變量，不是隨機(jī)變量。
3. 解釋變量之間互不相關(guān)，即無多重共線性。
4. 隨機(jī)誤差服從0均值、同方差的正態(tài)分布，且不存在序列相關(guān)關(guān)系。
5. 隨機(jī)誤差與解釋變量間不相關(guān)。
6. 自變量的診斷及選擇：
7. 在進(jìn)行回歸分析之前，需要確定自變量是否符合基本假設(shè)，這就是診斷過程，一般需要經(jīng)過異常點診斷（檢測是否有個別觀測點與多數(shù)觀測點偏離很遠(yuǎn)，或出現(xiàn)過失誤差）和共線性診斷（若自變量之間有較強(qiáng)相關(guān)關(guān)系，將很難求得理想回歸方程，共線性診斷便是先對自變量間的先慣性作出的判斷與剔除。）
8. 自變量的選擇方法有許多種，基本上都是基于決定系數(shù)R最大原則：最優(yōu)方程選擇法；同時分析法（標(biāo)準(zhǔn)回歸）；逐步分析法（順向進(jìn)入法-向前回歸、從無到有，反向淘汰法-向后回歸、逐一剔除）；逐步回歸法（先順向進(jìn)入，再反向淘汰）；階層分析法（分層回歸）；最大R增值法（先找到最大的回歸方程，再增加變量）；最小R增值法等。

主成分分析

1. 基本思想：利用降維的思想，在損失很少信息的前提下把多個指標(biāo)化為幾個綜合指標(biāo)；通常把轉(zhuǎn)化生成的綜合指標(biāo)成為主成分，這樣在研究復(fù)雜問題時，就可以只考慮幾個少數(shù)的成分又不至于損失太多信息，從而更容易抓住主要矛盾，解釋事物內(nèi)部變量之間的規(guī)律性。
2. 一般地說，利用主成分分析得到的主成分與變量之間有如下關(guān)系：

A.每一個主成分都是各原始變量的線性組合；

B.主成分的數(shù)目大大少于原始變量的數(shù)目；

C.主成分保留了原始變量的絕大多數(shù)信息；

D.各主成分間互不相關(guān)，即無多重共線性。