整理
Q1、什么是学习？
学习是在假设空间中搜索与训练集相匹配的假设
Q2、与训练集相匹配的假设唯一吗？
在假设空间中可能存在不止一个与训练集相匹配的假设，称这些假设组成的集合为版本空间
Q3、既然存在版本空间，对于一个训练集，如何获得唯一确定的假设？
需要对算法设置归纳偏好，即在学习过程中对某种假设有偏好，这样能避免被假设空间中在训练集上等效的假设所迷惑；可以遵循奥卡姆剃刀原则来设置归纳偏好——若有多个假设与观察一致，则选最简单的那个。其中，最简需要借助额外的机制来判断。
Q4、对于潜在的问题，不同算法学习出的模型，期望性能一样吗？
一样。可概括为NFL定理—— 在真实分布f 未知，且服从何种分布的所有可能性是均匀的，任何两个学习算法的期望性能都相同 。但是对于确定的问题，不同算法的期望性能是有差别的。
脱离具体问题来比较算法性能是无意义的。