小象学院第三期《深度学习》视频教程 2017年3-5月
) a" j( t* |) ]& z
课程名称:8 H% I* [( G% @' q8 |7 S
2 I" L4 \% \6 I0 [ `% Z/ z3 H* F/ s
《深度学习》 第三期
$ G m1 @2 e" \. C \; @
主讲老师:
李伟, 美国纽约城市大学博士' T- n/ H: z" p4 M: t& Y& @# F
研究领域包括深度学习,计算机视觉,人脸计算以及人机交互,即将毕业加入美国顶级云计算平台人工智能研究组。在CVPR,ECCV等顶级会议上发表了多篇学术文章,同时他还是WACV,ACCV,ECCV等重要视觉会议以及MVA,CVIU等期刊的审稿人。# l7 `3 ` l3 u* M- ^% _
* F( I+ e. Y! G$ d( m' g* Z" n
课程简介:0 u3 r8 ]7 L$ Y& w9 a' M
4 K) }; y0 I# M9 b* E8 K$ ^
本次的深度学习课程主要包括三大部分:( Z Y, u Y+ X; T+ x5 H( b" t( @! Q9 K
1) 深度学习核心原理。了解深度学习运行的最核心数学原理,从而对后续的知识点扩展,模型设计与优化技能打下基础。/ M( z. F/ p9 l
2) 深度学习知识点连接。会涵盖主流的深度学习研究工程应用中碰到的大部分知识点,与大部分学习资料孤立进行知识点介绍不同,会结合主讲人自身总结找到所有知识点之间的联系,便于系统掌握。' E% ]5 H, R7 ]
3) 介绍不同知识点的代表应用。结合所学的原理以及知识点,介绍比较重要的图像和语言方面的应用,如增强学习,迁移学习,GAN等, 方便学员针对自身兴趣的目标进行强化训练。0 N8 t* {6 A% P7 v! h( l
面向人群:
1. 想了解和学习深度学习的学习者1 Y5 l4 |! Y) C5 A2 a; z. u3 d- Y
2. 想学习深度学习的相关从业人员- ]% ^. o6 z; ^" s7 n) K6 P$ B
3. 想转行从事深度的学习者
5 B6 P* `' ~' P/ x# p; F
学习收益:9 B F9 A* j' \0 [3 Y9 V* ~% j% W
7 A3 H+ d6 B" y% c
通过本课程的学习,学员将会收获:0 O, T2 M \. Q1 ^% ^, _ B. c% T
1. 帮助学员系统性的掌握深度学习的基本原理,以及从基本概念到各个先进模型的转化思路
2. 了解研究过程中定义问题设计模型的思路
3. 培养学员面对工程及学术问题的思考解决能力
4. 快速积累深度学习项目经验' \' A4 H0 P) n- B9 q
5 N# Y9 q2 ^# C; o2 Y6 R
开课时间:
+ D7 b* {7 n0 G6 W7 z$ W2 _
2017年3月4日
8 d$ B1 |, o% i0 N7 n, {- }6 i3 ?
学习方式:
$ Q/ s1 x4 e. N5 n2 H, [
在线直播,共10次课,每次2小时
每周2次(周六、日,晚上20:00 - 22:00)
直播后提供录制回放视频,可在线反复观看,有效期1年$ R% x7 {2 m3 A- Z# y
课程大纲:( T$ R! h+ Z+ K
第一课 深度学习总体介绍
$ d% i1 {) Q" K
1. 神经网络:传统到现代9 u0 H0 _" M4 ?4 `
2. 深度学习应用特点1 j: P+ ~+ O7 R4 q' K% x
3. 深度学习发展方向
4. 深度学习框架比较:用Tensorflow进行课程学习% A+ O+ L# u: ]" Y+ ?
第二课 传统神经网络 + h1 b$ k9 `" ^
. b" k) t- }* R! H/ C
1. 线性回归$ y; O8 o) p q& m5 C7 G+ a
2. 非线性激励函数
3. loss 函数,常见问题:过拟合,正则化,dropout
实例:传统神经网络络实现' j O& d0 P: H# W2 A0 y+ X* ^
第三课 反向反馈:深度学习模型优化基础1 B/ H0 Q, J! d. _
! t! O# ]$ L2 l- R# u% G3 A
1. SGD 梯度下降介绍' w e7 L/ ^" ]* b: s% }
2. 神经网络的梯度优化
3. 神经网络训练* Z: {( P. ?# ?% \* N+ K6 o) M4 r
实例:反向梯度优化对比' x6 m7 Q2 M! ?
$ ?% A7 j, d3 }5 Z! I$ {$ ~
第四课 卷积神经网络4 _2 f6 E4 M7 V5 _9 w: H
& y) P- P1 {" [; V1 X4 Y
1. 卷积核以及卷积层. K1 F# V! l0 `: B0 N: {. W
2. AlexNet 最早的现代神经网络
3. VGG,GoogleNet,,ResNet. 近期的高级网络5 e0 _3 e! M4 C% R- T9 s* r' T
实例:利用已有模型进行物体分类/特征提取$ C J# x2 Y3 T. x. t
第五课 迁移学习& c a; L, J+ A6 @
1. 理论分析
2. 迁移模型&原始训练模型0 M, u. @3 R+ X* q j: \! |
3. 如何设计新的的网络7 [1 m8 ^: Z7 w$ k; }: h
实例:表情识别/人脸识别/动物识别- |" b3 W4 p( Q6 i/ k) I' L$ ?
' [6 e% c6 { J
第六课 与时域信息相关的深度学习1 Q; p) b. T5 X- W; t% Z
1. RNN
2. LSTM
3. 图片标题生成; p* n& I# x7 E q, Q9 r; i+ Y0 M
4. 视频处理
实例:LSTM用于图片标题生成, R8 a) \' S5 U7 |, C% f
# x4 N# N& k/ Y5 U, s2 |* H
第七课 自然语言处理
1. 处理之前:speech to text% i m$ n7 F& P% Q7 s
2. 词语表达,word2vect J. M: A# W) J2 k$ ]& ^
3. 语句生成LSTM2 [- O% E e4 C7 ]! ?/ C# H7 Y$ I
实例:根据上下文回答问题
第八课 给予深度学习的目标检测! _4 N! P/ X& Y2 f) R% {
1. 传统的目标检测方法7 A5 z# V; o7 J4 C) ]9 F$ n
2. 初代算法: Region CNN5 L( Q. a7 ?3 u0 J# W/ A4 ?
3. 升级: SPP Net, Fast RCNN, Faster RCNN
4. 深度学习另辟蹊径: YoLo 和SSD/ M7 E7 L6 Z3 i: R2 c* S
实例: 自动驾驶的核心:实时目标检测
第九课 深度卷积神经偶的重要应用
" \' Y y' U" z
1. 图片问答
2. 图像模式转换+ X' P9 |6 a: z6 |
3. 图像高清化+ S# w# U! Z4 B+ `1 [ x4 Z
4. 围棋程序, Alpha go
5. 自动游戏机器人,DeepMind Atari' L }; k8 G2 }: K9 [5 W, K. c9 g
实例: 图片艺术风格转化 y$ A, S+ Z% u' Z
第十课 无监督学习:对抗网络GAN
1. 传统无监督学习 Autoencode,K Means,Sparse Coding' b, f! f3 V$ |! M1 W
2. RBM 限制博斯曼机,深度学习的另一支" X2 ]$ ~: A6 b O
3. 生成对抗网络 GAN
实例: 机器生成图片,以假乱真9 V6 @) c, i9 U8 Z
7 G7 R. L/ t, L- m# P
9 h' V! a ?6 r- W: @ l
课时1:第一课_深度学习总体介绍
课时2:视频-第一课_深度学习总体介绍
课时3:第二课_传统神经网络
课时4:视频-第二课_传统神经网络8 J- y) m# ~7 ]1 W
课时5:第三讲_卷积神经网络-基础篇
课时6:视频-第三讲_卷积神经网络-基础篇
课时7:第四讲_卷积神经网络-高级篇5 ]" Q6 E' w0 D" t! [
课时8:视频-第四讲_卷积神经网络-高级篇$ h$ w# ~* V$ t: |( m% X/ Y
课时9:第五讲_卷积神经网络-目标分类
课时10:视频-第五讲_卷积神经网络-目标分类
课时11:第六讲_卷积神经网络-目标探测3 T' i9 D; L+ v
课时12:视频-第六讲_卷积神经网络-目标探测3 e: }4 C( L2 K1 u
课时13:第七讲_递归神经网络7 t% a% g7 u$ |5 |" R; |
课时14:视频-第七讲_递归神经网络7 O7 W7 [ s* N1 \0 u; p6 }
课时15:第八讲_卷积网络+递归网络
课时16:视频-第八讲_卷积网络+递归网络
课时17:第九讲_生成对抗网络- m. @- j3 a8 f" G
课时18:视频-第九讲_生成对抗网络
课时19:第十讲_增强学习
课时20:视频-第十讲_增强学习1 d# c$ L/ j4 A$ V) H+ p4 T/ T( B
下载地址:qy
|