科技 响应式网站模板,有网站如何做淘宝客,优化营商环境心得体会个人,浙江网站建设方案优化目录
原问题与对偶问题的定义
定义该原问题的对偶问题如下
在定义了函数 的基础上#xff0c;对偶问题如下#xff1a;
综合原问题和对偶问题的定义得到#xff1a;
定理一
对偶差距#xff08;Duality Gap#xff09;
强对偶定理#xff08;Strong Duality Theo…目录
原问题与对偶问题的定义
定义该原问题的对偶问题如下
在定义了函数 的基础上对偶问题如下
综合原问题和对偶问题的定义得到
定理一
对偶差距Duality Gap
强对偶定理Strong Duality Theorem
假如 成立又根据定理一推出不等式
转化为对偶问题
首先将
得到
最小化
限制条件
再整理一下
最小化 或
限制条件
用对偶理论求解该问题的对偶问题
对偶问题
按照对偶问题的定义可以将对偶问题写成如下形式
如何将原问题化为对偶问题 原问题Prime Problem
对偶问题Dual Problem
原问题与对偶问题的定义
最小化Minimize
限制条件Subject to 自变量为 多维向量
目标函数是 定义该原问题的对偶问题如下
定义函数 向量的形式
其中 在定义了函数 的基础上对偶问题如下
最大化所有定义域内的
限制条件
综合原问题和对偶问题的定义得到
定理一
如果 是原问题的解 是对偶问题的解则有 证明 是原问题的解 是对偶问题的解 对偶差距Duality Gap 根据定理一对偶差距 强对偶定理Strong Duality Theorem
如果 为凸函数则有 则对偶差距为0。
如果原问题的目标函数是凸函数限制条件是线性函数。
那么原问题的解 对偶差距等于0。 假如 成立又根据定理一推出不等式
若 则定理一中必然能够推出对于所有的 要么 要么 。这个条件成为KKT条件。 转化为对偶问题
支持向量机的原问题满足强对偶定理
首先将 转换成
得到
最小化
限制条件 1 2
再整理一下
最小化 或 情况1 情况2
限制条件 1 2
两个限制条件都是线性的支持向量机的目标函数是凸的它满足强对偶定理。
用对偶理论求解该问题的对偶问题
对偶问题
自变量 等于这里的
不等式 在这里被分成了两部分 一部分 另一部分
不存在
按照对偶问题的定义可以将对偶问题写成如下形式
最大化 限制条件 1 2
如何将原问题化为对偶问题
遍历所有 求最小值
对 求导并令导数为
1
2
3
1用的是向量的求导准则2、3用的是常规的自变量求导。
将获得的三个式子代入到表达中
将支持向量机的原问题化为对偶问题
最大化 限制条件 1 前面 根据 2
