上一讲我们用θ函数来表示神经元细胞的状态表达式,且假定神经元细胞的输入和输出都只能取离散的两个值:和1。即
这次,我们把(1)进行扩展。首先,我们假定神经元细胞的状态表达式不一定取函数的形式,以一个连续可导的函数f(x)取代之,与之相应的,神经元细胞的输入输出也不一定非要取和1两个值,可以在某个区间连续地取值。
f(x)具体取什么形式,常见的有以下三种方案:
方案1:f(x)取Sigmoid函数
方案2:f(x)取双极性S函数
方案3:f(x)取分段线性变换函数
方案3中将f(x)写成分段函数的形式是为了进一步增加神经网络的非线性特征。
有了神经细胞模型后,我们就要考虑以何种方式将这些神经元细胞连接起来,这就引出了神经网络拓扑结构的问题。
神经网络的结构可分为层次型和互连型,但是在这里,我们只介绍最简单、最常用的单纯性层次网络结构。其具体结构如下:
从图中我们看出,神经网络自下而上可以大致分为:输入层、隐藏层和输出层。输入层负责接收输入并发送至隐藏层,输出层则接收来自隐藏层的中间结果,通过处理输出给用户。处在输入层和输出层之间的即是隐藏层,隐藏层接收输入层的输出,经过处理后传递给输出层。隐藏层可以是一层,也可以是多层,甚至没有隐藏层神经网络也可以工作。显然,隐藏层数目越多,网络越复杂,神经网络处理数据的能力也就越强大。
欢迎关注计算材料学
您的关注和分享是我们更新的不竭动力
此外,对机器学习或者大数据感兴趣的同学可以加入微信群“机器学习的实际应用”,想要加群的人可以加我微信
如果有什么问题,也可加我的微信
领取专属 10元无门槛券
私享最新 技术干货