本文主要介紹支持向量機(jī)理論推導(dǎo)及其工程應(yīng)用。
1 基本介紹
支持向量機(jī)算法是一個(gè)有效的分類算法，可用于分類、回歸等任務(wù)，在傳統(tǒng)的機(jī)器學(xué)習(xí)任務(wù)中，通過人工構(gòu)造、選擇特征，然后使用支持向量機(jī)作為訓(xùn)練器，可以得到一個(gè)效果很好的base-line訓(xùn)練器。
支持向量機(jī)具有如下的優(yōu)缺點(diǎn)，
優(yōu)點(diǎn)：
高維空間有效；
維度大于樣本數(shù)量的情況下，依然有效；
預(yù)測(cè)時(shí)使用訓(xùn)練樣本的子集（也即支持向量），節(jié)省內(nèi)存；
可以使用不同的核函數(shù)用于決策；
缺點(diǎn)：
如果特征的數(shù)目遠(yuǎn)遠(yuǎn)大于樣本的數(shù)目，性能將會(huì)降低；
不能直接提供概率估計(jì)，需要通過5-fold 交叉驗(yàn)證來獲得；
