主成份分析:
主成份分析是最經(jīng)典的基于線性分類的分類系統(tǒng)。這個(gè)分類系統(tǒng)的最大特點(diǎn)就是利用線性擬合的思路把分布在多個(gè)維度的高維數(shù)據(jù)投射到幾個(gè)軸上。如果每個(gè)樣本只有兩個(gè)數(shù)據(jù)變量,這種擬合就是 其中和分別是樣本的兩個(gè)變量,而和則被稱為loading,計(jì)算出的P值就被稱為主成份。實(shí)際上,當(dāng)一個(gè)樣本只有兩個(gè)變量的時(shí)候,主成份分析本質(zhì)上就是做一個(gè)線性回歸。公式本質(zhì)上就是一條直線。
插入一幅圖(主成份坐標(biāo)旋轉(zhuǎn)圖,來(lái)自:PLS工具箱參考手冊(cè))
如果一個(gè)樣本有n個(gè)變量,那主成份就變?yōu)椋?/span>
其中PC1 稱為第一主成份,而且,我們還可以獲得一系列與PC這個(gè)直線正交的其它軸,如:
被稱為第二主成份
以此類