最简单的神经网络实战

福贵

发布于 2021-03-09 10:24:27

68800

代码可运行

文章被收录于专栏：合集合集

运行总次数：0

代码可运行

最简单的神经网络

准备训练数据

随机生成50个数据，用作训练数据

x = np.linspace(1, 100)

最简单的神经网络拟合，y=ax+b，所有设置y为

y = 2 * x + 3

不过，为了符合实际情况，可用适当增加一些噪声。

noise = torch.randn(50)y = 2 * x + 3+noise.numpy()

绘制x，y的图象如下

构建神经网络

torch里面可以基于nn.Module类写自己的神经网络，这里使用最简单的线性层。

class nn(nn.Module):    def __init__(self, in_features=1, mid_features=5, out_features=1):        super(nn, self).__init__()        self.layer1 = nn.Linear(in_features, mid_features)        self.layer2 = nn.Linear(mid_features, out_features)        self.layer = nn.Linear(mid_features, mid_features)    def forward(self, x):        x = self.layer2(x)        for i in range(1):            x = self.layer(x)        x = self.layer2(x)        return x

之后则是设置损失函数，优化器，依旧选择最简单的。

criterion = nn.L1Loss()optimizer = optim.RMSprop(model.parameters())

其中L1形式的损失函数就在lasso loss，$loss=(y-X\theta)+C|\theta|$。RMSProp算法的全称叫 Root Mean Square Prop。考虑到训练时1-100，那么预测则选取50-150。迭代计算，结果如下：

全部代码

x = np.linspace(1, 100)noise = torch.randn(50)y = 2 * x + 3+noise.numpy()plt.plot(x, y)plt.show()dataset = []for i, j in zip(x, y):    dataset.append([i, j])epochs = 10model = Nn(1, 1)criterion = nn.L1Loss()optimizer = optim.RMSprop(model.parameters())dataset = torch.tensor(dataset, dtype=torch.float, requires_grad=True)for times in range(epochs):    for i, data in enumerate(dataset, 0):        x, label = data        optimizer.zero_grad()        out = model(x.unsqueeze(dim=0))        loss = criterion(out, label.unsqueeze(dim=0))        print("loss:", loss.data.item())        loss.backward()        optimizer.step()x = np.linspace(50, 150)y = 2 * x + 3dataset = []for i, j in zip(x, y):    dataset.append([i, j])dataset = torch.tensor(dataset, dtype=torch.float, requires_grad=True)pred_y = []pred_x = xfor i, data in enumerate(dataset, 0):    x, label = data    optimizer.zero_grad()    out = model(x.unsqueeze(dim=0))    pred_y.append(out)plt.plot(pred_x, pred_y)print(pred_x, pred_y)plt.show()