1. 深度学习框架概览
2015
- Scikit-Learn:Machine learning No GPU
- Caffe:2013,第一个面向深度学习的框架,No auto-grad,C++
- Keras:wrapper
- Theano:开发难,调试难
- Torch:Lua语言
- Caffe
- Facebook, Caffe—->PyTorch
- Torch—->PyTorch
- Theano
- Google—->TensorFlow
- —-> TensorFlow2.0
- Chainer
- MXNet
2. Tensorflow前世今生
- 2015.9发布0.1版本
- 2017.2发布1.0版本
- 2019春发布2.0版本
3. TnesorFlow1.0 vs PyTorch
TF 1.x Sucks
- 调试困难
- API混乱
- 入门困哪,入了门依旧困难
- 大批研究人员转向PyTorch
TF 2.0
- TF+Keras
- Easy to use
4. TnesorFlow2.0 vs PyTorch
忘掉1.0
- 计算图Graph
- 会话Session
- 变量管理Variable Scope与共享reuse
- define-and-run
- 等等一系列烦人的概念一去不复返
5.0 TensorFlow eco-system
- TensorFlow 2.0
- @tf.function
- TensorFlow Lite
- TensorFlow.JS
- TensorFlow Extended
- TensorFlow Prob
- TPU Cloud
6.0 PyTorch和TensorFlow选一主修(二者都要掌握)
为什么使用TensorFlow
- GPU加速
- 自动求导
- 神经网络Layers
神经网络API
7.0 Tensorflow安装
7.1 CPU版本
1 | # 创建隔离环境 |
7.2 CPU版本踩坑
当我们用Anaconda自带的iPython和Spyder以及jupyter notebook中输入import tensorflow as tf
的时候会失败,显示如下No module named 'tensorflow‘
,原因是我们没有在py37的环境下打开它们。
所以需要在py37 环境中安装
1 | activate py37 |
7.3 GPU版本
先选好并装好CUDA和cuDNN,看上一篇文章。
1 | conda env list |
7.4 GPU版本验证
1 | activate TF2 |
7.5 总结GPU版本
查看自己电脑是否支持NVIDIA
CUDA: v10.0
CuDNN: cudnn-10.0-windows10-x64-v7.6.5.32
Tensorflow-gpu: 2.0.0
找到适合自己的版本。三者一一对应