1 Logistic Regression
1.1 Logistic Regression模型
1.1.1 线性可分VS线性不可分
1.1.2 Logistic Regression模型
1.1.3 损失函数
1.2 梯度下降法
1.2.1 梯度下降法的流程
1.2.2 凸优化与非凸优化
1.2.3 利用梯度下降法训练Logistic Regression模型
1.3 梯度下降法的若干问题
1.3.1 选择下降的方向
1.3.2 步长的选择
1.4 Logistic Regression算法实践
1.4.1 利用训练样本训练Logistic Regression模型
1.4.2 最终的训练效果
1.4.3 对新数据进行预测
2 Softmax Regression
2.1 多分类问题
2.2 Softmax Regression算法模型
2.2.1 Softmax Regression模型
2.2.2 Softmax Regression算法的代价函数
2.3 Softmax Regression算法的求解
2.4 Softmax Regression与Logistic Regression的关系
2.4.1 Softmax Regression中的参数特点
2.4.2 由Softmax Regression到Logistic Regression
2.5 Softmax Regression算法实践
2.5.1 对Softmax Regression算法的模型进行训练
2.5.2 最终的模型
2.5.3 对新的数据的预测
3 Factorization Machine
3.1 Logistic Regression算法的不足
3.2 因子分解机FM的模型
3.2.1 因子分解机FM模型
3.2.2 因子分解机FM可以处理的问题
3.2.3 二分类因子分解机FM算法的损失函数
3.3 FM算法中交叉项的处理
3.3.1 交叉项系数
3.3.2 模型的求解
3.4 FM算法的求解
3.4.1 随机梯度下降（Stochastic Gradient Descent）
3.4.2 基于随机梯度的方式求解
3.4.3 FM算法流程
3.5 因子分解机FM算法实践
3.5.1 训练FM模型
3.5.2 最终的训练效果
3.5.3 对新的数据进行预测
4 支持向量机
4.1 二分类问题
4.1.1 二分类的分隔超平面
4.1.2 感知机算法
4.1.3 感知机算法存在的问题
4.2 函数间隔和几何间隔
4.2.1 函数间隔
4.2.2 几何间隔
4.3 支持向量机
4.3.1 间隔最大化
4.3.2 支持向量和间隔边界
4.3.3 线性支持向量机
4.4 支持向量机的训练
4.4.1 学习的对偶算法
4.4.2 由线性支持向量机到非线性支持向量机
4.4.3 序列最小最优化算法SMO
4.5 支持向量机SVM算法实践
4.5.1 训练SVM模型
4.5.2 利用训练样本训练SVM模型
4.5.3 利用训练好的SVM模型对新数据进行预测
5 随机森林
5.1 决策树分类器
5.1.1 决策树的基本概念
5.1.2 选择最佳划分的标准
5.1.3 停止划分的标准
5.2 CART分类树算法
5.2.1 CART分类树算法的基本原理
5.2.2 CART分类树的构建
5.2.3 利用构建好的分类树进行预测
5.3 集成学习（Ensemble Learning）
5.3.1 集成学习的思想
5.3.2 集成学习中的典型方法
5.4 随机森林（Random Forests）
5.4.1 随机森林算法模型
5.4.2 随机森林算法流程
5.5 随机森林RF算法实践
5.5.1 训练随机森林模型
5.5.2 最终的训练结果
5.5.3 对新数据的预测
