> 技术文档 > 5.1 神经元、神经网络的理解

5.1 神经元、神经网络的理解


一、神经元

从本质上讲,神经元不过是输入的线性变换(例如,输入乘以一个数[weight,权重],再加上一个常数[偏置,bias]),然后再经过一个固定的非线性函数(称为激活函数)。

5.1 神经元、神经网络的理解

解释:
数学上,你可以将其写为 o=f(wx+b)o=f(wx+b)o=f(wx+b),其中 xxx为输入,www为权重或缩放因子,bbb为偏置或偏移。fff是激活函数,在此处设置为双曲正切tanhtanhtanh函数。

二、神经网络

5.1 神经元、神经网络的理解