最近在总结关于Pytorch的内容, 这里记录一些自己在学习过程中的一些有趣的.

• 正向传播,反向传播(示例), 非叶子节点梯度保存(hook和retain_grad)
• 梯度下降法示例(一个一元线性回归的系数推导)
• 损失函数和优化器的介绍 (使用pytorch自带的损失函数和优化器, 来进行梯度下降, 更新参数w)
• 简单线性回归 (一个使用Pytorch中, 模型定义, 损失函数, 优化器的完整的例子)
• 数据加载器 (如何重写dataset类, 将其传入dataloader, 并进行batch操作)
• 数据预处理 (包含如何写transform, 合并到dataset中, 如何对特征数据进行归一化)
• 全连接网络的手写数字识别(MNIST), 一个完整的训练流程: 包括数据集加载, 模型的定义, 损失函数与优化器, 模型的训练与测试
• 卷积神经网络的CIFAR_10的识别 (使用Pytorch实现卷积网络, 并在CIFAR_10数据集上进行测试)
• Pytorch中经典网络结构与迁移学习, 数据集在dataset中, 为hymenoptera_data (查看torchvision.models的使用方法, 并简单介绍迁移学习)