过拟合

引例：

过度拟合在变量过多的时候存在，代价函数趋于0

泛化：

解决方法:

1.减少选取变量的数量（舍去一些特征值）；

2.正则化（减少量级或者参数的大小）

如果我们的参数值较小（较小意味着一个更简单的假设模型，图像更加光滑）

正则化线性回归的优化目标：线性回归的一般目标，额外的正则项，（那么大）正则化参数。

梯度下降，正则方程两种方法。

计算代价函数，计算导数。