神经网络
非线性假设
只是包括平方或则立方项特征,简单的Logistic回归算法,并不是一个在n很大时学习复杂的非线性假设的好方法,因为特征值过多。
神经元与大脑
神经网络的背景知识
尝试模仿大脑的算法。
复兴原因:神经网络计算量较大
将几乎任何传感器接入大脑,大脑的学习算法就能够找出学习数据的方法并处理这些数据。其中的理念:如果我们找出大脑的学习方法,然后再计算机上执行大脑学习算法或者与之相似的算法。
模型展示
神经元细胞:
计算机中的逻辑单元:
(x_0偏置单元偏置神经元,总为1,一般不表示)
Sigmoid (logistic) activation function 带有sigmoid或者logistic激活函数的人工神经元。激活函数指代非线性函数g(z)。
神经网络:一组神经元连接在一起的集合。
隐藏层输出层,其中隐藏层在训练集中看不到。
计算步骤:
例子与直觉理解
与运算,AND函数:
或运算,OR函数:
非运算,NOT:
↓
输入放在输入层,中间放一个隐藏层:原来计算一些关于输入的略微复杂的功能,在继续增加一层:原来计算一个更加复杂的非线性函数。
多元分类
实现多类别分类,采用的方法本质上时一对多法的拓展。
建立一个有四个输出单元的神经网络,一个含有4个数的向量,输出为一个思维的向量: