04 实现正则化的正则函数

优势

1. 分类算法，无需假设数据分布
2. 可得到类别的近似概率预测
3. 可以调用函数包

05 求解对率回归

06 类别不平衡

解决

1. 过采样，关注的类别增加样本
2. 欠采样，另一个类别少采样
3. 阈值平移 --- 少数算法，例如 SVM

单元学习查缺补漏

1. 机器学习这门课，odds function 称为 link function
2. 直接复制样本，有过拟合样本风险
3. 对于样本数据，无order 还是有 order 的标记
4. 广义线性模型定义
5. 以下哪个选项不是正则化的原因
   正则化主要是解决归纳偏好，让模型往建模者想要的方向跑的方式。


6. 极大似然估计的优势
   （1）目标函数是凸的；（2）可用梯度下降求解；（3）目标连续可微


7. 关于最小二乘估计，Estimator 最好背出来
8. 这里有个新概念，最小化数据集。最小二乘法得到的斜率，小于最小化数据集得到的线性模型求得的斜率
9. 移动阈值的案例。对于CV训练模型的，阈值应该设定为 10%
10. 对率回归是否需要假设数据分布。首先，logit函数本身是Classifier，因此是无需假设数据分布的。所以，对率回归不需要数据分布。
11. 所谓的归纳偏好，本身就是在多元线性回归不满秩的情况下，通过加入归纳偏好来选择较好的解。