总结

“A computer program is said to learn from experience E with respect to some task T and performance measure P, if its performance on T, as measured by P, improves with experience E”

从经验E中学习，解决某一任务T，进行某一性能度量P

回归算法：

回归算法是试图采用对误差的衡量来探索变量之间的关系的一类算法。逻辑回归（Logistic Regression）

基于实例的算法：

基于实例的算法常常用来对决策问题建立模型， 这样的模型常常先选取一批样本数据， 然后根据某些近似性把新数据与样本数据进行比较。 通过这种方式来寻找最佳的匹配。学习矢量量化（LVQ）

决策树学习：

决策树算法根据数据的属性采用树状结构建立决策模型， 决策树模型常常用来解决分类和回归问题。分类及回归树

贝叶斯方法：

贝叶斯方法算法是基于贝叶斯定理的一类算法， 主要用来解决分类和回归问题。

基于核的算法：

基于核的算法把输入数据映射到一个高阶的向量空间， 在这些高阶向量空间里， 有些分类或者回归问题能够更容易的解决。最著名 支持向量机（SVM）

聚类算法：

聚类算法通常按照中心点或者分层的方式对输入数据进行归并。 所以的聚类算法都试图找到数据的内在结构， 以便按照最大的共同点将数据进行归类。k-Means 算法

降低维度算法：

像聚类算法一样， 降低维度算法试图分析数据的内在结构， 不过降低维度算法是以非监督学习的方式试图利用较少的信息来归纳或者解释数据。 这类算法可以用于高维数据的可视化或者用来简化数据以便监督式学习使用。

关联规则学习：

关联规则学习通过寻找最能够解释数据变量之间关系的规则， 来找出大多元数据集中有用 联规则。

集成算法：

集成算法用一些相对较弱的学习模型独立地就同样的样本进行训练， 然后把结果整合起来进行整体预测。 集成算法的主要难点在于究竟集成哪些独立的较弱的学习模型以及如何把学习结果整合起来。 这是一类非常强大的算法， 同时也非常流行。

人工神经网络：

人工神经网络算法模拟生物神经网络， 是一类模式匹配算法。 通常用于解决分类和回归问题。感知器神经网络（Perceptron Neural Network） , 反向传递（Back Propagation）