能力提升 | SMO 学习笔记
关于 SMO 学习笔记。我对着李航的书看了 1-2 个小时,干了所有简单的事情,就是写不出代码。
因此,这里我开启了“提问式学习”,正好应景现在的“大模型时代”。
第一,目标函数中的 alpha,到底是数值还是向量?从约束判断,应该是个数字。想到这里就要好办很多。
第二,是把 alpha 或者 Yi 或者 Xi 代入目标函数考察吗?显然不是,这里用到 KKT 条件。
KKT 条件。
(a) alpha(i) >= 0
(b) Yi*f(xi) - 1 >= 0
(c) alpha(i) * [ Yi*f(xi) - 1 ] = 0
找出背离 KKT 条件程度最大的点,那么,这个背离程度怎么衡量呢?用的是偏差函数 E(i)。
E(i) = max{ Yi*f(xi)-1, 0 }
针对 alpha(i),找到 alpha(j),使得 |E(i)-E(j)| 最大。
点击查看《
SMO算法精解》,这里面对于数值和向量写得比较清楚。
补上基础知识。SMO 是 SVM 求解的核心算法,根据 SVM 所定义的最优化问题,怎么搜索最优解呢?用的就是 SMO 算法。
试一试吧! 2025 年 8 月 10 日
忽然想到,我们为什么要做这个小网站,和投资人怎么说的?
这是 SMO 的总结。
这是 HHM 的朗读,应该没理解吧!!!