6-模型的权值初始化与损失函数介绍

字数统计: 6.2k字   |   阅读时长: 22分

Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/

1. 权值初始化

在网络模型搭建完成之后，对网络中的权重进行合适的初始化是非常重要的一个步骤， 初始化好了，比如正好初始化到模型的最优解附近，那么模型训练起来速度也会非常的快， 但如果初始化不好，离最优解很远，那么模型就需要更多次迭代，有时候还会引发梯度消失和爆炸现象， 所以正确的权值初始化还是非常重要的，下面我们就来看看常用的权值初始化的方法，但是在这之前，先了解一下什么是梯度消失和梯度爆炸现象。

展开全文 >>

5-nn各网络层介绍

字数统计: 3.6k字   |   阅读时长: 12分

Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/

1. 卷积运算与卷积层

说卷积层，我们得先从卷积运算开始， 卷积运算就是卷积核在输入信号（图像）上滑动， 相应位置上进行乘加。 卷积核又称为滤过器，过滤器， 可认为是某种模式，某种特征。

卷积过程类似于用一个模板去图像上寻找与它相似的区域， 与卷积核模式越相似， 激活值越高， 从而实现特征提取。 好吧，估计依然懵逼，下面我们就看看1维/2维/3维的卷积示意图，通过动图的方式看看卷积操作到底在干啥？

展开全文 >>

4-模型创建Module-模型容器Containers及AlexNet网络搭建

字数统计: 7.9k字   |   阅读时长: 29分

Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/

1. Pytorch模型的创建

在学习Pytorch的模型创建之前，我们依然是回顾一下模型创建到底是以什么样的逻辑存在的， 上一次，我们已经整理了机器模型学习的五大模块，分别是数据，模型，损失函数，优化器，迭代训练：

展开全文 >>

3-Pytorch数据读取机制(DataLoader)与图像预处理模块(transforms)

字数统计: 6.9k字   |   阅读时长: 25分

Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/

1. Pytorch的数据读取机制

在学习Pytorch的数据读取之前，我们得先回顾一下这个数据读取到底是以什么样的逻辑存在的， 上一次，我们已经整理了机器模型学习的五大模块，分别是数据，模型，损失函数，优化器，迭代训练：

展开全文 >>

2-Pytorch的动态图-自动求导及逻辑回归

字数统计: 5.5k字   |   阅读时长: 21分

Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/

1. 计算图与Pytorch的动态图机制

1. 1 计算图

前面已经整理了张量的一系列操作，而深度学习啊， 其实就是对各种张量进行操作，随着操作的种类和数量的增大，会导致各种想不到的问题，比如多个操作之间该并行还是顺序执行，底层的设备如何协同，如何避免冗余的操作等，这些问题都会影响我们算法的执行效率，甚至会出现一些bug。 而计算图就是为了解决这些问题而产生的， 那么什么是计算图呢？

计算图是用来描述运算的有向无环图。 主要有两个因素： 节点和边。 其中节点表示数据，如向量，矩阵，张量， 而边表示运算，如加减乘除，卷积等。下面我们看一下具体这东西具体是什么样子：

展开全文 >>

1-Pytorch的数据载体张量与线性回归

字数统计: 5.6k字   |   阅读时长: 24分

Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/

1. 张量的简介与创建

这部分内容介绍pytorch中的数据结构——Tensor，Tensor是PyTorch中最基础的概念，其参与了整个运算过程，主要介绍张量的概念和属性，如data, device, dtype等，并介绍tensor的基本创建方法，如直接创建、依数值创建和依概率分布创建等。

展开全文 >>

Pytorch与词向量

字数统计: 5.8k字   |   阅读时长: 22分

Pytorch官方文档：https://pytorch.org/docs/stable/torch.html

1. 关于词向量的基础知识

这一块不会讲的很深， 但是应该够理解这节课的知识了，如果想更加深入的学习，可以搜一些相关的资料进行研究。 毕竟这个系列的课都是实战，理论不会涉及太多，我这里把我了解的这块描述一下，尽量通俗易懂。

首先，我们先来聊一聊在计算机中是如何表示一个词的。 比如下面一句话
                        ““John likes to watch movies. Mary likes too.””
这句话如果想让计算机看明白，我们应该怎么表示呢？ 首先，我们会有一个词典，这个词典，就类似下面这样子：

展开全文 >>

本站总访问量71143次 | 本站访客数63904人