关于word2vec的原理的一些理解。

XGBoost是经典的提升树学习框架，其配套论文和PPT分享也相当经典，本文简单梳理其思路，以备忘。

Linear/Logistic/Softmax Regression是常见的机器学习模型，且都是广义线性模型的一种，有诸多相似点，详细对比之。

分类是常见的机器学习任务，本文简单介绍分类的几种经典形式，即二分类、多分类和多标签分类。

过拟合是机器学习任务中非常普遍的现象，模型不仅拟合了样本的普遍规律，还进一步拟合了噪声。

关于经典决策树算法ID3、C4.5及CART树的部分细节梳理。

随机森林模型基于Bagging(Boostrap Aggregation)思想，学习多棵树，聚合结果来减少模型的variance。其中模型的diversity非常重要，一种增加diversity的手段是对原始数据集采样，然后在采样后数据集上训练模型。

损失函数(Loss Function)用来估量模型的预测值 $\hat y = f(x)$ 与真实值 $y$ 的不一致程度。这里做一个简单梳理，以备忘。