本项目为Pytorch基础教程,包括各个函数的调用以及使用方法的注释。
共22个章节,每个章节均包括多个Pytorch函数的使用情况,并且均有示例,可取消注释后直接运行。
本项目目的是方便初学者学习参考使用,致谢网易云课堂上的“深度学习与PyTorch入门实战”课程。
lesson01文件夹中主要内容是使用python和numpy手动实现初级神经网络,包括前向和反向的传播。
lesson02文件夹中主要内容是使用Pytorch编写了三层全连接神经网络,实现了手写体数字识别问题。
lesson03文件夹中主要内容是标量和向量、张量数据类型 torch.randn、torch.Size、shape函数的使用
lesson04文件夹中主要内容是创建tensor、随机打散、索引和切片等函数的使用
lesson05文件夹中主要内容是以下函数的使用view、reshape、squeeze、unsqueeze、expand、repeat、transpose、t、permute。
lesson06文件夹中主要内容是对broadcast机制的介绍。
lesson07文件夹中主要内容是介绍合并与分割相关的函数cat、stack、split、chunk。
lesson08文件夹中主要内容是介绍tensor基本的数学运算,减法、加法、矩阵相乘、次方运算等。
lesson09文件夹中主要内容是介绍tensor基本的数学统计量,p范数、最大最小值、均值方差、相等运算等。
lesson10文件夹中主要内容是介绍torch的高级操作where、gather。
lesson11文件夹中主要内容是介绍神经网络中的激活函数、损失函数以及自动求导机制。
lesson12文件夹中主要内容是对单层感知机和多层感知机进行模拟实现。
lesson13文件夹中主要内容是介绍信息熵、交叉熵等损失函数,并且运用前面所学的知识重新对手写体数字进行多分类实践。
lesson14文件夹中主要内容是使用nn.Module模块自定义多层感知机神经网络。
lesson15文件夹中主要内容是介绍了Visdom可视化工具、正则化、动量、学习率衰减、Dropout等细节。
lesson16文件夹中主要内容是介绍了卷积神经网络相关内容,模拟实现了池化层、上采样等操作。
lesson17文件夹中主要内容是运用所学知识,实现了计算机视觉常用的Lenet5网络,数据集采用的是cifar10。
lesson18文件夹中主要内容是实现了残差网络resnet,数据集采用的cifar10。
lesson19文件夹中主要内容是介绍了NLP领域相关内容,nn.RNN的使用方法,单层RNN和多层RNN的调用方法等。
lesson20文件夹中主要内容是实现了RNN,并对时间序列数据进行了预测。
lesson21文件夹中主要内容是介绍nn.LSTM的使用方法,单层LSTM和多层LSTM,以及双向LSTM的使用方法,各个参数的解释。
lesson22文件夹中主要内容是展示了一个对文件夹进行标记的示例。