目录

配套资源

第1章深度学习数学基础

1.1高等数学

1.1.1重识微分

1.1.2微分的解读

1.1.3微分与函数的单调性和凹凸性

1.1.4微分的链式法则

1.1.5梯度

1.1.6泰勒公式与麦克劳林公式

1.1.7傅里叶级数

1.2线性代数

1.2.1向量的数乘

1.2.2向量的加法

1.2.3向量的线性组合

1.2.4向量空间

1.2.5向量的线性相关和线性无关

1.2.6向量乘法

1.2.7向量的正交与基组

1.2.8矩阵乘法

1.2.9初等矩阵

1.2.10可逆矩阵

1.2.11矩阵的行列式

1.2.12矩阵的秩

1.2.13矩阵的特征值与特征向量

1.3图论

1.3.1图的表示

1.3.2图的全局属性

1.3.3图的节点属性

1.3.4图的边属性

1.4群论

1.4.1群论的定义

1.4.2对称性

1.4.3不变性与等变性

1.4.4群的表示

1.4.5常见的群

1.5量子力学

1.5.1球谐函数的定义

1.5.2球谐函数与深度学习

1.5.3球谐函数与对称性

1.5.4不可约表示与WignerD矩阵

1.5.5CG系数

1.5.6径向模型

1.5.7球谐函数与径向模型的结合

第2章几何深度学习算法理论基础

2.1深度学习简介

2.1.1线性模型的定义

2.1.2感知机模型定义与理解

2.1.3神经网络算法

2.2优化算法

2.2.1梯度下降算法

2.2.2反向传播算法

2.2.3梯度下降算法的变体

2.2.4优化过程中过拟合与欠拟合

2.2.5优化过程中梯度不稳定

2.3卷积神经网络

2.3.1二维卷积神经网络的计算

2.3.2卷积的设计思想

2.3.3卷积进行特征提取的过程

2.3.4池化与采样

2.3.5卷积神经网络的感受野

2.3.6卷积模型实现图像识别

2.3.7LeNet： 最初的卷积模型

2.3.8AlexNet： 拉开深度学习序幕

2.3.9ResNet： 神来之“路”

2.3.10卷积算法与几何深度学习

2.4LSTM算法

2.4.1RNN模型

2.4.2语言模型

2.4.3长短期记忆网络

2.4.4RNN算法与几何深度学习

2.5Transformer算法

2.5.1自注意力层

2.5.2多头自注意力层

2.5.3Transformer算法与几何深度学习

2.6生成对抗网络算法

2.6.1GAN的模型结构

2.6.2GAN模型的训练

2.6.3生成对抗网络与几何深度学习

第3章图神经网络

3.1图数据简介

3.1.1图数据的任务类型

3.1.2图数据的Embedding

3.2图神经网络模型

3.2.1消息传递神经网络

3.2.2图神经网络的层结构与连接性

3.2.3图神经网络模型的训练

3.2.4图数据的数据增强

3.3图神经网络算法基础的变体

3.3.1Graph Convolutional Network

3.3.2Graph Sample and Aggregate Network

3.3.3Graph Attention Network

3.4进阶图神经网络

3.4.1进阶图神经网络概述

3.4.2Residual Gated Graph Convents

3.4.3Relational Graph Convolutional Neural Network

3.4.4Deep Graph Infomax

3.4.5GraphGAN

第4章不变性几何图神经网络

4.1几何图神经网络

4.1.1分子性质预测问题

4.1.2QM9数据集

4.1.3图神经网络进行分子性质预测

4.1.4几何图神经网络进行分子性质预测

4.2SchNet

4.2.1SchNet模型结构

4.2.2SchNet与GNN

4.3DimeNet

4.3.1引入角度信息

4.3.2球谐函数和贝塞尔径向模型

4.3.3DimeNet的消息传递机制

4.3.4模型结构

4.3.5DimeNet++

4.4GemNet

4.4.1引入二面角信息

4.4.2GemNet消息传递机制

4.4.3模型结构

4.5不变性GNN的结构引入方式

4.5.1SphereNet

4.5.2ComENet

第5章等变性几何图神经网络

5.1EGNN

5.1.1EGNN等变性的引入方式

5.1.2EGNN等变性的证明

5.2PAINN

5.2.1PAINN的向量信息的引入

5.2.2PAINN的模型结构

5.3GVPGNN

5.3.1Geometric Vector Perceptron

5.3.2GVP结合GNN

5.3.3GVPGNN等变性的讨论

5.4ClofNet

5.4.1局部坐标系

5.4.2ClofNet模型总体架构

5.5LEFTNet

5.5.1三种图同构问题

5.5.2LSE模块提取局域信息

5.5.3EMP模块进行图的消息传递

5.5.4FTE模型进行图的消息更新

5.6张量场神经网络 

5.6.1TFN输入数据的Embedding

5.6.2点卷积

5.6.3ClebschGordan coefficients

5.6.4自相互作用层

5.6.5激活函数

5.6.6顶层结构

5.6.7TFN的消息传递机制

5.7SEGNN

5.7.1可导向特征

5.7.2可导向多层感知机

5.7.3基于可导向特征的节点信息表示

5.7.4SEGNN的模型结构与计算方式

5.8SE(3)Transformers

5.8.1SE(3)Transformer的计算流程

5.8.2SE(3)Transformer的组成部分

5.8.3SE(3)Transformer小结

第6章E3NN工具库

6.1E3NN中的数据类型

6.1.1不可约表示

6.1.2不可约表示的坐标反演与奇偶性

6.1.3E3NN库中不可约表示的定义

6.1.4E3NN库中张量积的定义

6.2E3NN中的等变卷积

6.2.1等变卷积的数学定义

6.2.2球谐张量的定义

6.2.3张量积的使用

6.2.4径向模型的定义

6.2.5邻居信息的聚合

6.3E3NN中的SE(3)Transformer

6.3.1SE(3)Transformer的计算公式

6.3.2注意力机制的代码实现

6.3.3SE(3)Transformer的代码实现

6.3.4等变性检测

6.4基于E3NN的俄罗斯方块识别

6.4.1等变模型与训练逻辑的定义

6.4.2等变模型的改进优化