目 录
前言
第1部分神经网络和深度学习
第1章深度学习简介
1.1神经网络
1.2神经网络的监督学习应用
1.3为什么深度学习会兴起
第2章神经网络的编程基础
2.1二分类
2.2逻辑回归
2.3逻辑回归的代价函数
2.4梯度下降法
2.5计算图
2.6使用计算图求导数
2.7逻辑回归中的梯度下降
2.8m个样本的梯度下降
2.9向量化
2.10向量化逻辑回归
2.11向量化逻辑回归的输出
2.12Python中的广播
2.13numpy向量
2.14logistic损失函数的解释
第3章浅层神经网络
3.1神经网络概述
3.2神经网络的表示
3.3计算一个神经网络的输出
3.4多样本向量化
3.5激活函数
3.6激活函数的导数
3.7神经网络的梯度下降
3.8理解反向传播
3.9随机初始化
第4章深层神经网络
4.1深层神经网络概述
4.2前向传播和反向传播
4.3深层网络中矩阵的维数
4.4为什么使用深层表示
4.5超参数
第2部分改善深层神经网络：超参数调试、正则化以及优化
第5章深度学习的实践
5.1训练、验证、测试集
5.2偏差、方差
5.3机器学习基础
5.4正则化
5.5正则化如何降低过拟合
5.6dropout正则化
5.7理解dropout
5.8其他正则化方法
5.9归一化输入
5.10梯度消失/梯度爆炸
5.11梯度的数值逼近
5.12梯度检验
第6章优化算法
6.1mini-batch梯度下降
6.2理解mini-batch梯度下降法
6.3动量梯度下降法
6.4RMSprop
6.5Adam 优化算法
6.6学习率衰减
6.7局部最优问题
第7章超参数调试、正则化
7.1调试处理
7.2超参数的合适范围
7.3归一化网络的激活函数
7.4将batch norm拟合进神经网络
7.5batch归一化分析
7.6softmax回归
7.7训练一个softmax分类器
7.8TensorFlow
第3部分卷积神经网络及应用
第8章卷积神经网络
8.1计算机视觉
8.2边缘检测示例
8.3边缘检测内容
8.4填充
8.5卷积步长
8.6三维卷积
8.7单层卷积网络
8.8简单卷积网络示例
8.9池化层
8.10卷积神经网络示例
8.11为什么使用卷积
第9章深度卷积网络：实例探究
9.1经典网络
9.2残差网络
9.3残差网络为什么有用
9.4网络中的1×1卷积
9.5谷歌Inception网络
9.6迁移学习
9.7数据增强
第10章目标检测
10.1目标定位
10.2特征点检测
10.3目标检测
10.4滑动窗口的卷积实现
10.5Bounding Box预测
10.6交并比
10.7非极大值抑制
10.8Anchor Boxes
10.9YOLO算法
第11章特殊应用：人脸识别和神经风格迁移
11.1One-Shot学习
11.2Siamese网络
11.3Triplet损失
11.4人脸验证与二分类
11.5神经风格迁移
11.6深度卷积网络学习什么
11.7代价函数
11.8内容代价函数
11.9风格代价函数
11.10一维到三维推广
第4部分序列模型
第12章循环序列模型
12.1为什么选择序列模型
12.2数学符号
12.3循环神经网络模型
12.4通过时间的反向传播
12.5不同类型的循环神经网络
12.6语言模型和序列生成
12.7对新序列采样
12.8循环神经网络的梯度消失
12.9GRU单元
12.10长短期记忆
12.11双向循环神经网络
12.12深层循环神经网络
第13章序列模型和注意力机制
13.1序列结构的各种序列
13.2选择最可能的句子
13.3集束搜索
13.4改进集束搜索
13.5集束搜索的误差分析
13.6注意力模型直观理解
13.7注意力模型
附录
附录A深度学习符号指南
A.1数据标记与上下标
A.2神经网络模型
A.3正向传播方程示例
A.4通用激活公式
A.5损失函数
A.6深度学习图示
附录B线性代数
B.1基础概念和符号
B.2矩阵乘法〖＝（〗