模型選擇是支持向量學(xué)習(xí)的關(guān)鍵問題．已有模型選擇方法采用嵌套的雙層優(yōu)化框架，內(nèi)層執(zhí)行支持向量學(xué)習(xí)，外層通過最小化泛化誤差的估計進(jìn)行模型選擇．該框架過程復(fù)雜。計算效率低．簡化傳統(tǒng)的雙層優(yōu)化框架，提出一個支持向量學(xué)習(xí)的多參數(shù)同時調(diào)節(jié)方法，在同一優(yōu)化過程中實(shí)現(xiàn)模型選擇和學(xué)習(xí)器訓(xùn)練．首先，將支持向量學(xué)習(xí)中的參數(shù)和超參數(shù)合并為一個參數(shù)向量，利用序貫無約束極小化技術(shù)（sequential unconstrained minimization technique，簡稱SUMT）分別改寫支持向量分類和回歸的有約束優(yōu)化問題，得到多參數(shù)同時調(diào)節(jié)模型的多元無約束形式定義；然后，證明多參數(shù)同時調(diào)節(jié)模型目標(biāo)函數(shù)的局部Lipschitz連續(xù)性及水平集有界性．在此基礎(chǔ)上，應(yīng)用變尺度方法（variable metric method，簡稱VMM）設(shè)計并實(shí)現(xiàn)了多參數(shù)同時調(diào)節(jié)算法，進(jìn)一步地，基于多參數(shù)同時調(diào)節(jié)模型的性質(zhì)，證明了算法收斂性，對比分析了算法復(fù)雜性．最后，實(shí)驗驗證同時調(diào)節(jié)算法的收斂性，并實(shí)驗對比同時調(diào)節(jié)算法的有效性．理論證明和實(shí)驗分析表明，同時調(diào)節(jié)方法是一種堅實(shí)、高效的支持向量模型選擇方法．
?