目录
目录
第一部分理 论 基 础
第1章深度学习简介
1.1计算机视觉
1.1.1定义
1.1.2基本任务
1.1.3传统方法
1.1.4仿生学与深度学习
1.1.5现代深度学习
1.1.6小结
1.2自然语言处理
1.2.1自然语言处理的基本问题
1.2.2传统方法与神经网络方法的比较
1.2.3发展趋势
1.3强化学习
1.3.1什么是强化学习
1.3.2强化学习算法简介
1.3.3强化学习的应用
小结
习题
第2章深度学习框架及其对比
2.1PyTorch
2.1.1PyTorch简介
2.1.2PyTorch的特点
2.1.3PyTorch概述
2.2TensorFlow
2.2.1TensorFlow简介
2.2.2数据流图
2.2.3TensorFlow的特点
2.2.4TensorFlow概述
2.3PaddlePaddle
2.3.1PaddlePaddle简介
2.3.2PaddlePaddle的特点
2.3.3PaddlePaddle的应用
2.4三者的比较
小结
习题
第3章机器学习基础知识
3.1机器学习概述
3.1.1关键术语
3.1.2机器学习的分类
3.1.3机器学习的模型构造过程
3.2监督学习
3.2.1线性回归
3.2.2Logistic回归
3.2.3最小近邻法
3.2.4线性判别分析法
3.2.5朴素贝叶斯分类算法
3.2.6决策树分类算法
3.2.7支持向量机分类算法
3.3非监督学习
3.3.1划分式聚类方法
3.3.2层次化聚类方法
3.3.3基于密度的聚类方法
3.4强化学习
3.4.1强化学习、监督学习和非监督学习
3.4.2强化学习问题描述
3.4.3强化学习问题分类
3.5神经网络和深度学习
3.5.1感知器模型
3.5.2前馈神经网络
3.5.3卷积神经网络
3.5.4其他类型结构的神经网络
3.6案例： 银行贷款用户筛选
小结
习题
第4章回归模型
4.1线性回归
4.2Logistic回归
4.3用PyTorch实现Logistic回归
4.3.1数据准备
4.3.2线性方程
4.3.3激活函数
4.3.4损失函数
4.3.5优化算法
4.3.6模型可视化
小结
习题
第5章神经网络基础
5.1基础概念
5.2感知器
5.2.1单层感知器
5.2.2多层感知器
5.3BP神经网络
5.3.1梯度下降
5.3.2后向传播
5.4Dropout正则化
5.5批标准化
5.5.1Batch Normalization的实现方式
5.5.2Batch Normalization的使用方法
小结
习题
第6章卷积神经网络与计算机视觉
6.1卷积神经网络的基本思想
6.2卷积操作
6.3池化层
6.4卷积神经网络
6.5经典网络结构
6.5.1VGG网络
6.5.2InceptionNet
6.5.3ResNet
6.6用PyTorch进行手写数字识别
小结
习题
第7章神经网络与自然语言处理
7.1语言建模
7.2基于多层感知器的架构
7.3基于循环神经网络的架构
7.3.1循环单元
7.3.2通过时间后向传播
7.3.3带有门限的循环单元
7.3.4循环神经网络语言模型
7.3.5神经机器翻译
7.4基于卷积神经网络的架构
7.5基于Transformer的架构
7.5.1多头注意力
7.5.2非参位置编码
7.5.3编码器单元与解码器单元
7.6表示学习与预训练技术
7.6.1词向量
7.6.2加入上下文信息的特征表示
7.6.3网络预训练
小结
习题
第二部分实验
第8章操作实践
8.1PyTorch操作实践
8.1.1PyTorch安装
8.1.2Tensor对象及其运算
8.1.3Tensor的索引和切片
8.1.4Tensor的变换、拼接和拆分
8.1.5PyTorch的Reduction操作
8.1.6PyTorch的自动微分
8.2TensorFlow操作实践
8.2.1TensorFlow安装
8.2.2Tensor对象及其运算
8.2.3Tensor的索引和切片
8.2.4Tensor的变换、拼接和拆分
8.2.5TensorFlow的Reduction操作
8.2.6TensorFlow的自动微分
8.3PaddlePaddle操作实践
8.3.1PaddlePaddle安装
8.3.2Tensor的创建和初始化
8.3.3Tensor的常见基础操作
8.3.4自动微分
小结
第9章综合项目实验
9.1计算机视觉
9.1.1一个通用的图像分类模型
9.1.2两阶段目标检测和语义分割
9.1.3人物图像处理
9.1.4调用远程服务
9.1.5动漫图像生成
9.2自然语言处理
9.2.1垃圾邮件分类
9.2.2词嵌入技术
9.2.3文本生成与多轮对话
9.2.4语音识别
9.3强化学习
9.4可视化技术
9.4.1使用TensorBoard可视化训练过程
9.4.2卷积核可视化
9.4.3注意力机制可视化
第三部分案例
第10章案例： 基于ResNet的跨域数据集图像分类
10.1迁移学习
10.2数据集介绍与预处理
10.2.1数据集介绍
10.2.2数据预处理
10.3数据加载与模型训练
10.3.1数据集加载
10.3.2模型训练
10.4运行结果
小结
第11章案例： 基于YOLO V3的安全帽佩戴检测
11.1数据准备
11.1.1数据采集与标注
11.1.2模型和框架选择
11.1.3数据格式转换
11.2模型构建、训练和测试
11.2.1YOLO系列模型
11.2.2模型训练
11.2.3测试与结果
小结
第12章案例： 基于PaddleOCR的车牌识别
12.1车牌识别简介
12.1.1车牌识别应用及发展史
12.1.2基于深度学习的车牌识别技术
12.2基于PaddleOCR的车牌识别实现
12.2.1PaddleOCR简介与环境准备
12.2.2CCPD数据集介绍
12.2.3数据集准备与预处理
12.2.4模型选择与训练
小结
第13章案例： 基于PaddleSeg的动物图片语义分割
13.1语义分割应用简介
13.2基于PaddleSeg的语义分割实现
13.2.1PaddleSeg简介与环境准备
13.2.2OxfordIIIT Pet数据集介绍
13.2.3模型训练
13.2.4模型的评估与测试
小结
第14章案例： 基于SRCNN图像超分辨率
14.1SRCNN介绍
14.2技术方案及核心代码
14.2.1模型训练要点
14.2.2构造函数
14.2.3构建SRCNN的结构
14.2.4模型训练
小结
第15章案例： 基于TensorFlowTTS的中文语音合成
15.1TTS简介
15.1.1语音合成技术
15.1.2TTS技术发展史和基本原理
15.1.3基于深度学习的TTS
15.2基于TensorFlowTTS的语音合成实现
15.2.1TensorFlowTTS简介与环境准备
15.2.2算法简介
15.2.3代码实现与结果展示
第16章案例： 基于LSTM的原创音乐生成
16.1样例背景介绍
16.1.1循环神经网络
16.1.2Music 21
16.1.3TensorFlow
16.2项目结构设计
16.3实验步骤
16.3.1搭建实验环境
16.3.2观察并分析数据
16.3.3数据预处理
16.3.4生成音乐
16.4成果检验
第17章案例： 基于Fast RCNN的视频问答
17.1视频问答与联合嵌入模型
17.2准备工作
17.2.1下载数据
17.2.2软件包和配置文件
17.3基础模块实现
17.3.1FCNet
17.3.2SimpleClassifier模块
17.4问题嵌入模块实现
17.4.1词嵌入
17.4.2RNN
17.5TopDown Attention模块实现
17.6VQA系统实现
17.7模型训练与可视化
17.7.1模型训练
17.7.2可视化
小结
附录A深度学习的数学基础
A.1线性代数
A.2概率论
参考文献