SVM支持向量机题目_svm支持向量机入门
SVM支持向量机题目由刀豆文库小编整理,希望给你工作、学习、生活带来方便,猜你可能喜欢“svm支持向量机入门”。
机器学习课程作业(1)
提交截止日期:2017年10月10日周二
1.一个优化问题的原问题(Prime Problem)与对偶问题(Dual Problem)定义如下:
原问题
Minimize: f
Subject to: gi0,i1,2,...,K
hi0,i1,2,...,M
对偶问题 定义
L,,figiihifTgTh
i1i1KM对偶问题为: Maximize: ,infL,, i0,i1,2,...,K Subject to:
**(a)证明:如果是原问题的解,,*是对偶问题的解,则有:f**,*
(b)证明(强对偶定理):如果gAb,hCd,且f任意
为凸函数,即对1和2,有f112f11f2, 则有:f*,*
*
2.求下列原问题的对偶问题
(a)(l1 and l2-norm SVM Claification):
NN12C1iC2i2 Minimize: 2i1i1Subject to: i0,i1,2,...,N
Tyixib1i
(b)(SVM regreion):
NN12Minimize: C1iiC2i2i2
2i1i1Subject to: Txibyii,i1,2,...,N
yiTxibi,i1,2,...,N
i0, i0
(c)(Kernel Ridge Regreion):
N12Minimize: Ci2
2i1Subject to: yiTxii,i1,2,...,N
(d)(Entropy Maximization Problem): Minimize: xlogx iii1NSubject to: Txb
xi1Ni1
3.如图所示,平面上有N个点{x1,x2,...,xN},求一个半径最小的圆,使之能包含这些点。
图1.平面上N个点,求最小的圆包含这些点。
(a)写出这个优化问题的数学表达式。(b)写出(a)的对偶问题。
(c)编写程序求解这个问题(选做)