以前不喜欢王菲，现在才发现是没到年纪。

贝叶斯定理是18世纪英国数学家托马斯·贝叶斯提出得重要概率论理论，在机器学习中应用十分广泛。

决策树是一种基本的分类与回归方法。

支持向量机(Support Vector Machine)，一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化。

逻辑回归算法是各领域使用最多的机器学习算法，不难，并且很实用。

机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，L1正则化和L2正则化，或者L1范数和L2范数。

学习算法的预测误差, 或者说泛化误差可以分解为三个部分: 偏差(bias), 方差(variance) 和噪声(noise)。在估计学习算法性能的过程中, 我们主要关注偏差与方差. 因为噪声属于不可约减的误差。

交叉验证（Cross Validation）是一种统计学上将数据样本切割成较小子集的实用方法。于是可以先在一个子集上做分析， 而其它子集则用来做后续对此分析的确认及验证。

过拟合（over-fitting ）和欠拟合（under-fitting）是我们在机器学习建模中常会遇到的两种情况，文章会介绍两种情况出现的原因和解决方法。

PCA（Principal Component Analysis）是一个非监督的机器学习算法。主要用于数据的降维。通过降维，可以发现更便于人类理解的特征，也可用于可视化和去噪。