多元統(tǒng)計(jì)分析初步

因素分析

1. 因素分析的基本思想：主成分分析的推廣，也是利用降維思想，由研究原始變量相關(guān)陣居內(nèi)出發(fā)，把一些具有錯(cuò)綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個(gè)綜合因素；根據(jù)相關(guān)性把原始變量分組，是的同組內(nèi)的變量之間相關(guān)性較高，不同組的變量間相關(guān)性較低，每組變量代表一個(gè)基本結(jié)構(gòu)，并用一個(gè)不可觀察的綜合變量表示，這個(gè)基本結(jié)構(gòu)就成為公因子。
2. 根據(jù)研究者對因素的確定性程度分為探索性因素分析和驗(yàn)證性因素分析：
3. 探索性因素分析：研究者事先對觀察數(shù)據(jù)背后可以提取多少個(gè)因素并不確定，分析的目的在于探索因素的個(gè)數(shù)。
4. 實(shí)驗(yàn)性因素分析：研究者根據(jù)已有的理論模型對因素的個(gè)數(shù)，以及每個(gè)變量都在哪個(gè)因素上有載荷有明確的假設(shè)，分析的目的在于對假設(shè)進(jìn)行驗(yàn)證。
5. 因素個(gè)數(shù)的確定主要依據(jù)特征值的大�。禾卣髦荡�表某個(gè)因素可解釋的總變異量。一般而言，特征值需大于1才能視為一個(gè)因素。另外，還可以進(jìn)行碎石圖檢驗(yàn)或險(xiǎn)坡檢驗(yàn)。將每一個(gè)因素依其特征值排列，特征值逐漸遞減，當(dāng)特征值逐漸接近，沒有變化時(shí)，代表特殊的因素已經(jīng)無法抽取，當(dāng)特征值急劇增加，即特征曲線變陡之時(shí)，就是決定因素個(gè)數(shù)之時(shí)。

主成分分析與因素分析的區(qū)別

1. 因素分析目的是從數(shù)據(jù)中探查能對變量起解釋作用的因子，及其組合系數(shù)；主成分分析只是尋找能夠解釋諸多變量變異大部分的幾組彼此不想關(guān)的變量。
2. 因素分析把變量表示成因素的線性組合；主成分分析是把主成分表示成變量的線性組合。
3. 因素分析需要一些假設(shè)；主成分分析不用。
4. 因素分析抽取因素有許多方法；主成分分析只有一種。
5. 因素可以進(jìn)行旋轉(zhuǎn)；主成分一般是固定的。
6. 因素的數(shù)量要分析者假定；主成分分析則不需要。
7. 由于可以使用因素旋轉(zhuǎn)幫助解釋因素，與主成分分析相比，解釋方面因素分析更有優(yōu)勢。

多元統(tǒng)計(jì)分析初步

多元線性回歸分析

1. 多元回歸及相關(guān)概念：在回歸分析中，若有兩個(gè)或以上的自變量，就成為多元回歸。

在需要用多個(gè)計(jì)量資料的自變量來解釋單個(gè)計(jì)量資料的因變量時(shí)，多元回歸是最適合的選擇；它能提供多個(gè)自變量對因變量的函數(shù)關(guān)系、提供多個(gè)備選的函數(shù)關(guān)系、提供每個(gè)關(guān)系式對實(shí)驗(yàn)數(shù)據(jù)的解釋能力，研究者可以結(jié)合自己的理論語氣，據(jù)此做出選擇。

1. 線性回歸模型的基本假設(shè)：
2. 解釋變量X是確定變量，不是隨機(jī)變量。
3. 解釋變量之間互不相關(guān)，即無多重共線性。
4. 隨機(jī)誤差服從0均值、同方差的正態(tài)分布，且不存在序列相關(guān)關(guān)系。
5. 隨機(jī)誤差與解釋變量間不相關(guān)。
6. 自變量的診斷及選擇：
7. 在進(jìn)行回歸分析之前，需要確定自變量是否符合基本假設(shè)，這就是診斷過程，一般需要經(jīng)過異常點(diǎn)診斷（檢測是否有個(gè)別觀測點(diǎn)與多數(shù)觀測點(diǎn)偏離很遠(yuǎn)，或出現(xiàn)過失誤差）和共線性診斷（若自變量之間有較強(qiáng)相關(guān)關(guān)系，將很難求得理想回歸方程，共線性診斷便是先對自變量間的先慣性作出的判斷與剔除。）
8. 自變量的選擇方法有許多種，基本上都是基于決定系數(shù)R最大原則：最優(yōu)方程選擇法；同時(shí)分析法（標(biāo)準(zhǔn)回歸）；逐步分析法（順向進(jìn)入法-向前回歸、從無到有，反向淘汰法-向后回歸、逐一剔除）；逐步回歸法（先順向進(jìn)入，再反向淘汰）；階層分析法（分層回歸）；最大R增值法（先找到最大的回歸方程，再增加變量）；最小R增值法等。

主成分分析

1. 基本思想：利用降維的思想，在損失很少信息的前提下把多個(gè)指標(biāo)化為幾個(gè)綜合指標(biāo)；通常把轉(zhuǎn)化生成的綜合指標(biāo)成為主成分，這樣在研究復(fù)雜問題時(shí)，就可以只考慮幾個(gè)少數(shù)的成分又不至于損失太多信息，從而更容易抓住主要矛盾，解釋事物內(nèi)部變量之間的規(guī)律性。
2. 一般地說，利用主成分分析得到的主成分與變量之間有如下關(guān)系：

A.每一個(gè)主成分都是各原始變量的線性組合；

B.主成分的數(shù)目大大少于原始變量的數(shù)目；

C.主成分保留了原始變量的絕大多數(shù)信息；

D.各主成分間互不相關(guān)，即無多重共線性。