人类的大脑很擅长于鉴别和识别物体,我们希望机器也可以做同样的事情。一个神经网络就是一个模仿人类大脑激发学习过程的框架。神经网络被用于从数据中识别隐藏的模式。正如所有的学习算啊,神经网络处理的是数字。因此,如果想要实现处理现实世界中任何包含图像、文字、传感器等的任务,就必须将其转换成数值形式,然后将其输入到一个神经网络。我们可以用神经网络做分类,聚类,生成以及其他相关的任务。
神经网络由一层层神经元组成。这些神经元模拟人类大脑中的生物神经元。每一层都是一组独立的神经元,这些神经元与相邻层的神经元相连。输入层对应我们提供的输入数据,而输出层包括了我们期望的输出结果。输入层与输出层之间的层统称为隐藏层。如果设计的神经网络包括多个隐藏层,那么通过这些层的自我训练获得更大的精确度。
假如我们希望神经网络按照我们的要求来对数据进行分类。为了使神经网络完成相应的任务,需要提供带标签的训练数据。神经网络将通过优化成本函数来训练自己。我们不停的迭代,知道错误率下降到一个我们能够接受的阀值。那么深度神经网络是什么?深度神经网络是由多个隐藏层组成的神经网络。一般来书这就属于深度学习的范畴。深度学习用于研究这些神经网络,而这些神经网络由多个层次的多层结构组成。
python中提供了神经网络的第三发库NeuroLab库,你可以通过pip install NeuroLab安装适合你的python环境的版本,也可以去官网上去下载源码安装。接下来我们就通过NeuroLab实现一个深层神经网络:
1importnumpy as np
2importneurolab as nl
3importmatplotlib.pyplot as plt
4
5#生成训练数据
6min_value=-12
7max_value=12
8num_datapoints=90
9
10x=np.linspace(min_value,max_value,num_datapoints)
11
12y=2*np.square(x)+7
13y/=np.linalg.norm(y)
14
15data = x.reshape(num_datapoints,1)
16labels=y.reshape(num_datapoints,1)
17
18#画出输入数据
19plt.figure()
20plt.scatter(data,labels)
21plt.xlabel('X-axis')
22plt.ylabel('Y-axis')
23plt.title('Input data')
24plt.show()
25
26#定义一个深度神经网络,带有两个隐藏层,每个隐藏层由10个神经元组成,输出层由一个神经元组成
27multilayer_net = nl.net.newff([[min_value,max_value]],[10,10,10,10,1])
28
29#设置训练算法为梯度下降法
30multilayer_net.trainf =nl.train.train_gd
31
32#训练网络
33error = multilayer_net.train(data,labels,epochs=800,show=100,goal=0.01)
34
35#用训练数据运行该网络,预测结果
36predicted_output=multilayer_net.sim(data)
37
38#画出训练误差结果
39plt.figure()
40plt.plot(error)
41plt.xlabel('Number of epoches')
42plt.ylabel('Error')
43plt.title('Training error progress')
44plt.show()
45
46#画出预测结果
47x2=np.linspace(min_value,max_value,num_datapoints*2)
48y2=multilayer_net.sim(x2.reshape(x2.size,1)).reshape(x2.size)
49y3=predicted_output.reshape(num_datapoints)
50
51plt.figure()
52plt.plot(x2,y2,'-',x,y,'.',x,y3,'p')
53plt.title('Ground truth va predicted output')
54plt.show()
运行代码可以看到我们实现了一个深度神经网络,该神经网络包含两个隐藏层,每个隐藏层包含10个神经元,并且使用梯度下降算法训练。可以看到3副图像:
第一幅图像显示输入数据图像:
第二幅图像显示训练误差进程:
第三幅图像显示神经网络的输出:
领取专属 10元无门槛券
私享最新 技术干货