课程大纲

第一阶段 深度学习基础篇

逻辑回归与梯度下降法

凸函数与凸优化

BP算法的讲解

Tensorflow、Kersa、PyTorch的使用教程

GPU配置，安装，训练模型及评估

Conv2D，Conv2DTranspos详解

Dropout, Batch Normalization详解

如何自定义网络层，损失函数

深度学习中的调参技术. 解决过拟合与欠拟合

激活函数详解：Sigmoid, Softmax, tanh, softplus, ReLU, hard_sigmoid, linear, exponential, LeakyReLU, PReLU, ELU.

优化器详解：GD，SGD，MiniBatch GD，Nesterov，RMSprop，Adagrad，Adadelta，Adam.

第二阶段 多模态模型

什么是多模态学习？

VGG16以及基于Pytorch的实现

迁移学习详解

RNN以及BPTT，梯度消失问题

LSTM, GRU详解

注意力机制

SkipGram

Elmo, Bert, XLNet

Beam Search, Greedy Decoding

BLEU评价指标

搭建系统过程中用到的工程技巧

第三阶段 物体识别

CNN卷积层工作原理剖析

卷积核尺寸，卷积步长，边界填充，输出通道，输出特征图，视场计算

LeNet-5

AlexNet

ZFNet

GoogleNet/Inception

VGGNet

ResNet

Fully-Convolutional Network

DenseNet

图像增强技术

图像增加噪声与降噪

第四阶段?目标检测技术

R-CNN，Fast R-CNN, Faster RCNN

Region Proposal，Region Proposal Network

One-Stage物体检测网络模型

SSD模型

Anchor的内涵与工作原理

IoU (Intersection Over Union)

Hard Negative Mining

Non-Max Suppression

OpenCV Haar小波滤波器

OpenCV Adaboost

图像分割 Dense Prediction

Unet，Up-Conv

Transpose Convolution/Deconvolution

第五阶段?自动驾驶

自动驾驶技术介绍

如何使用多个摄像头

DataGenerator技术

图像的空间域

频率域滤波

图像色彩变换

边缘检测

Hough Transform用于检测图像中的几何形状物体

第六阶段?图像生成

GAN 生成对抗网络

Generator，Discriminator网络结构

GAN的优化以及实现

GAN与其他生成模型的比较

图像风格化迁移的实现

Gram Matrix图像风格表达

第七阶段?低能耗神经网络

如何降低神经网络的耗能

Binarized Neural Network

MobileNet

ShuffleNet

EffNet

神经网络的节能原理

Depth-wise Separable Convolution

Spatial Separable Convolution

Grouped Convolution

Channel Shuffle

第八阶段?新颖网络结果

One-Shot Learning

Siamese Network 双子网络

人脸识别关键技术

CapsuleNet 胶囊网络

胶囊替代神经元旦原理

第九阶段?Capstone 开放式项目(Optional)

项目展示

什么是Capstone项目？

项目介绍

开放式项目又称为课程的capstone项目。作为 课程中的很重要的一部分，可以选择work on 一个具有挑战性的项目。通过此项目，可以深 入去理解某一个特定领域，快速成为这个领域 内的专家，并且让项目成果成为简历中的一个 亮点。

项目流程

Step 1: 组队

Step 2: 立项以及提交proposal

Step 3: Short Survey Paper

Step 4: 中期项目Review Step

5: 最终项目PPT以及代码提交

Step 6: 最终presentation

Step 7: Technical Report/博客

结果输出

完整PPT、代码和Conference-Style Technical Report 作为项目的最后阶段，我们 将组织学员的presentation分享大会。借此我 们会邀请一些同行业的专家、从业者、企业招 聘方、优质猎头资源等共同参与分享大会。