支持向量机PPT0.ppt

11.支持向量机概述1.支持向量机概述1.支持向量机概述1.支持向量机概述2.线性支持向量机2.线性支持向量机2.线性支持向量机2.线性支持向量机2.线性支持向量机2.线性支持向量机3.非线性支持向量机线性不可分的情况：一种是用曲线去将其完全分开，曲线就是一种非线性的情况，跟之后将谈到的核函数有一定的关系，划分图形如下：另外一种还是用直线，不过不用去保证可分性，就是包容那些分错的情况，不过我们得加入惩罚函数，使得点分错的情况越合理越好。我们可以为分错的点加上一点惩罚，对一个分错的点的惩罚函数就是这个点到其正确位置的距离：在上图中，蓝色、红色的直线分别为支持向量所在的边界，绿色的线为决策函数，那些紫色的线表示分错的点到其相应的决策面的距离，这样我们可以在原函数上面加上一个惩罚函数，并且带上其限制条件为：接下来就是同样的，求解一个拉格朗日对偶问题，得到一个原问题的对偶问题的表达式：如果使用某些非线性的方法，可以得到将两个分类完美划分的曲线，比如核函数。我们可以让空间从原本的线性空间变成一个更高维的空间，在这个高维的线性空间下，再用一个超平面进行划分，这儿举个例子，来理解一下如何利用空间的维度变得更高来帮助我们分类的。下图是一个典型的线性不可分的情况：但是当我们把这两个类似于椭圆形的点映射到一个高维空间后，映射函数为：用这个函数可以将上图的平面中的点映射到一个三维空间（z1,z2,z3)，并且对映射后的坐标加以旋转之后就可以得到一个线性可分的点集了。将上面的图形映射到高维空间后的图形如下图：