写代码是热爱,写到世界充满爱
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/
在网络模型搭建完成之后，对网络中的权重进行合适的初始化是非常重要的一个步骤， 初始化好了，比如正好初始化到模型的最优解附近，那么模型训练起来速度也会非常的快， 但如果初始化不好，离最优解很远，那么模型就需要更多次迭代，有时候还会引发梯度消失和爆炸现象， 所以正确的权值初始化还是非常重要的，下面我们就来看看常用的权值初始化的方法，但是在这之前，先了解一下什么是梯度消失和梯度爆炸现象。
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/
说卷积层，我们得先从卷积运算开始， 卷积运算就是卷积核在输入信号（图像）上滑动， 相应位置上进行乘加。 卷积核又称为滤过器，过滤器， 可认为是某种模式，某种特征。
卷积过程类似于用一个模板去图像上寻找与它相似的区域， 与卷积核模式越相似， 激活值越高， 从而实现特征提取。 好吧，估计依然懵逼，下面我们就看看1维/2维/3维的卷积示意图，通过动图的方式看看卷积操作到底在干啥？
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/
在学习Pytorch的模型创建之前，我们依然是回顾一下模型创建到底是以什么样的逻辑存在的， 上一次，我们已经整理了机器模型学习的五大模块，分别是数据，模型，损失函数，优化器，迭代训练：
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/
在学习Pytorch的数据读取之前，我们得先回顾一下这个数据读取到底是以什么样的逻辑存在的， 上一次，我们已经整理了机器模型学习的五大模块，分别是数据，模型，损失函数，优化器，迭代训练：
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/
前面已经整理了张量的一系列操作，而深度学习啊， 其实就是对各种张量进行操作，随着操作的种类和数量的增大，会导致各种想不到的问题，比如多个操作之间该并行还是顺序执行，底层的设备如何协同，如何避免冗余的操作等，这些问题都会影响我们算法的执行效率，甚至会出现一些bug。 而计算图就是为了解决这些问题而产生的， 那么什么是计算图呢？
计算图是用来描述运算的有向无环图。 主要有两个因素： 节点和边。 其中节点表示数据，如向量，矩阵，张量， 而边表示运算，如加减乘除，卷积等。下面我们看一下具体这东西具体是什么样子：
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html?
Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/
这部分内容介绍pytorch中的数据结构——Tensor，Tensor是PyTorch中最基础的概念，其参与了整个运算过程，主要介绍张量的概念和属性，如data, device, dtype等，并介绍tensor的基本创建方法，如直接创建、依数值创建和依概率分布创建等。
Pytorch官方文档：https://pytorch.org/docs/stable/torch.html
这一块不会讲的很深， 但是应该够理解这节课的知识了，如果想更加深入的学习，可以搜一些相关的资料进行研究。 毕竟这个系列的课都是实战，理论不会涉及太多，我这里把我了解的这块描述一下，尽量通俗易懂。
首先，我们先来聊一聊在计算机中是如何表示一个词的。 比如下面一句话
““John likes to watch movies. Mary likes too.””
这句话如果想让计算机看明白，我们应该怎么表示呢？ 首先，我们会有一个词典，这个词典，就类似下面这样子：
Pytorch官方文档：https://pytorch.org/docs/stable/torch.html?
PyTorch是一个基于Python的科学计算库，它有以下特点:
缺失模块。
1、请确保node版本大于6.2
2、在博客根目录（注意不是yilia根目录）执行以下命令：
npm i hexo-generator-json-content --save
3、在根目录_config.yml里添加配置：
jsonContent:
meta: false
pages: false
posts:
title: true
date: true
path: true
text: false
raw: false
content: false
slug: false
updated: false
comments: false
link: false
permalink: false
excerpt: false
categories: false
tags: true