支持向量機原理(一) 線性支持向量機

支持向量機原理(二) 線性支持向量機的軟間隔最大化模型

支持向量機原理(三)線性不可分支持向量機與核函數(shù)

支持向量機原理(四)SMO算法原理

支持向量機原理(五)線性支持回歸(待填坑)

 

在SVM的前三篇里,我們優(yōu)化的目標函數(shù)最終都是一個關(guān)于αα向量的函數(shù)。而怎么極小化這個函數(shù),求出對應(yīng)的αα向量,進而求出分離超平面我們沒有講。本篇就對優(yōu)化這個關(guān)于αα向量的函數(shù)的SMO算法做一個總結(jié)。

1. 回顧SVM優(yōu)化目標函數(shù)

我們首先回顧下我們的優(yōu)化目標函數(shù):

minα12∑i=1,j=1mαiαjyiyjK(xi,xj)?∑i=1mαimin?α12∑i=1,j=1mαiαjyiyjK(xi,xj)?∑i=1mαi