Task04

M-P神经元:神经元接收到来自n个其他神经元传递过来的输入信号,并给这些输入信号赋予权重计算加权和,神经元接收到的总输入值将与神经元的阀值进行比较(大于-激活,小于-抑制),然后通过"激活函数"(阶跃函数、对数几率函数)处理以产生神经元的输出(作为下一神经元的输入).

感知机(激活函数为阶跃函数的神经元)-将数据集(线性可分)中正负样本进行划分:
超平面方程不唯一
法向量w垂直于超平面
法向量w和位移项b确定一个唯一超平面
法向量w指向的那一半空间为正空间,另一半为负空间
感知机学习策略:找误分类样本,如果没有误分类点,损失函数值是0;误分类点越少,误分类点离超平面越近,损失函数值就越小。
损失函数
感知机学习算法:随机梯度下降法(w不唯一,因为极小值不唯一)

神经网络-多个神经元组合(可适用线性不可分数据集)
通用近似定理:只需一个包含足够多神经元的隐层,多层前馈网络就能以任意精度逼近任意复杂度的连续函数。因此,神经网络既能做回归,也能做分类,而且不需要复杂的特征工程。
误差逆传播算法