我要评论
Pytorch笔记
建立深度神经网络cnn
import torch import numpy as np import torch.nn.functional as F
x=torch.Tensor([[1,1],[1,0],[0,1],[0,0]])#训练数据 y=torch.Tensor([[1],[0],[0],[1]])#标签 #print(y) class network(torch.nn.Module): def __init__(self,in_num,hidden_num,out_num):#生成各层 super(network,self).__init__() self.input_layer=torch.nn.Linear(in_num,hidden_num)#输入层与隐藏层组成的全连接层1 self.sigmoid=torch.nn.Sigmoid()#建立激励函数层 self.output_layer=torch.nn.Linear(hidden_num,out_num)#隐藏层与输出层组成的全连接层2 #self.softmax=torch.nn.LogSoftmax() def forward(self,input_x):#将各层搭建起来，形成完整的神经网络 #h_1 = self.sigmoid(self.input_layer(input_x))#全连接层1的输出通过激励函数输出 h_1=F.relu(self.input_layer(input_x))#使用RELU激活函数，也可以用sigmoid h_2 = self.sigmoid(self.output_layer(h_1))#全连接层2的输出通过激励函数输出 return h_2
net=network(2,4,1)#建立2输入，4隐藏神经元，1个输出神经元，共6个神经元的神经网络 print('--------------------------------------') print('当前神经网络：') print(net) loss_function=torch.nn.BCELoss() print('--------------------------------------') print('损失函数：') print(loss_function) optimizer = torch.optim.SGD(net.parameters(), lr=0.1, momentum=0.9)#自动调整学习率，加快学习速度 print('--------------------------------------') print('优化函数：') print(optimizer) for i in range(1000): out=net(x)#输入训练数据，神经系统输出数据为out #print(out) loss=loss_function(out,y)#计算输出与预期值的误差 #print ("loss is %f"%loss.data.numpy()) optimizer.zero_grad()#清除梯度，否则会累加产生错误 loss.backward()#误差反向传播 optimizer.step()#调整参数 print(out) print(y) 运行结果
H:\ProgramData\Anaconda3\python.exe D:/PycharmProjects/untitled/123.py -------------------------------------- 当前神经网络：
network( (input_layer): Linear(in_features=2, out_features=4, bias=True) (sigmoid): Sigmoid() (output_layer): Linear(in_features=4, out_features=1, bias=True) ) -------------------------------------- 损失函数：
BCELoss() -------------------------------------- 优化函数：
SGD ( Parameter Group 0 dampening: 0 lr: 0.1 momentum: 0.9 nesterov: False weight_decay: 0 ) tensor([[9.9926e-01], [5.6683e-03], [5.1300e-04], [9.9903e-01]], grad_fn=<SigmoidBackward>) tensor([[1.], [0.], [0.], [1.]]) Process finished with exit code 0 将此时的各层权重与偏置输出，代码如下：
for layer in net.modules(): if isinstance(layer,torch.nn.Linear): print('权重为：') print(layer.weight) print('偏置为：') print(layer.bias) 输出结果：
权重为：
Parameter containing: tensor([[ 3.1269, -3.1266], [-3.1090, 3.1092], [-0.3053, 0.1919], [-0.3873, -0.1486]], requires_grad=True) 偏置为：
Parameter containing: tensor([-8.6705e-04, -1.1113e-03, -1.3949e-05, -3.0352e-01], requires_grad=True) 权重为：
Parameter containing: tensor([[-4.3422, -4.3581, -0.1584, -0.2715]], requires_grad=True) 偏置为：
Parameter containing: tensor([5.9323], requires_grad=True) 注：Pytorch如无法运行，请检查环境：Run/Debug Configurations–>Python—>cnn.py–>Python interpreter设定为安装路径下的Anaconda3\python.exe,确定返回重试
本文地址：https://blog.csdn.net/qq_42017767/article/details/108267668
如您对本文有疑问或者有任何想说的，请点击进行留言回复，万千网友为您解惑！
网友评论