开始接触深度学习可能会有些困难。
值得庆幸的是，许多大学免费开放了他们的深度学习课程材料，这为您更好地理解深度学习的基础知识提供了一个绝佳的起点。
在本帖中，您将发现可以浏览和学习的深度学习课程，以发展和巩固您在该领域的理解。
这是一篇长文，其中深度链接了许多视频。它的目的是让您收藏、浏览并根据需要跳转到课程中的特定主题，而不是完整地学习一门课程。
通过我的新书《Python 深度学习》来启动您的项目，书中包含分步教程和所有示例的Python源代码文件。
让我们开始吧。
概述
我们将快速浏览以下 6 门深度学习课程。
- 牛津大学深度学习
- Udacity（谷歌）深度学习
- 蒙特利尔深度学习夏季学校
- 斯坦福大学自然语言处理深度学习
- 斯坦福大学视觉识别卷积神经网络
- 舍布鲁克大学神经网络课程
文末还有一个“其他课程”部分，用于收集其他视频课程，这些课程不免费、链接已失效或范围较小，不适合在此摘要回顾中归类。
课程建议和如何使用本帖
市面上有许多课程和优质的免费材料。
我最好的建议是：
不要选择一门课程然后从头学到尾。
这与大多数人的建议背道而驰。
您的冲动是“认真起来”，选择“最好的”课程并学习所有材料。您几乎肯定会失败。
材料很难，您需要花时间，并从多个不同的角度理解每个主题。
真正掌握这些材料的最佳方法是逐个主题地学习，并从所有课程中汲取知识，直到您真正理解一个主题，然后再继续学习下一个主题。
您不需要理解所有主题，也不需要只使用一个来源来理解单个主题。
收藏此页面，然后随着您学习如何使用 Keras 等平台在代码中实现实际的深度学习模型，随时浏览、尝试并深入研究您需要的材料。
Python 深度学习需要帮助吗？
参加我的免费为期两周的电子邮件课程，发现 MLP、CNN 和 LSTM（附代码）。
立即点击注册，还将免费获得本课程的 PDF 电子书版本。
牛津大学深度学习
这是一门在牛津大学由 Nando de Freitas 教授的机器学习课程，专注于深度学习。
我非常喜欢这门课程。我以两倍速度观看了所有视频并做了笔记。它提供了良好的理论基础，并涵盖了 LSTM 等现代深度学习主题。代码示例使用了 Torch。
我注意到课程大纲与实际视频讲座有所不同，YouTube 播放列表中的讲座顺序也是错乱的，因此下面是 2015 年视频讲座的正确顺序列表。
- 深度学习讲座 1：引言
- 深度学习讲座 2：线性模型
- 深度学习讲座 3：最大似然和信息
- 深度学习讲座 4：正则化、模型复杂度和数据复杂度（第一部分）
- 深度学习讲座 5：正则化、模型复杂度和数据复杂度（第二部分）
- 深度学习讲座 6：优化
- 深度学习讲座 7：逻辑回归，一种 Torch 方法
- 深度学习讲座 8：模块化反向传播，逻辑回归和 Torch
- 深度学习讲座 9：神经网络和 Torch 中的模块化设计
- 深度学习讲座 10：卷积神经网络
- 深度学习讲座 11：最大间隔学习、迁移和记忆网络
- 深度学习讲座 12：循环神经网络和 LSTM
- 深度学习讲座 13：Alex Graves 关于 RNN 的幻觉
- 深度学习讲座 14：Karol Gregor 关于变分自编码器和图像生成
- 深度学习讲座 15：深度强化学习 – 策略搜索
- 深度学习讲座 16：强化学习和神经动态规划
对我来说，亮点是 Alex Graves 关于 RNN 的演讲（讲座 13）。他是一位才华横溢、成就斐然的人。在我观看此视频时，我正在阅读 Alex 的许多论文，所以可能有点偏颇。
资源
Udacity（谷歌）深度学习
这是 Udacity 的 Arpan Chakraborty 和 Google 的首席科学家 Vincent Vanhoucke 之间的一次迷你课程合作。
该课程是免费的，托管在 Udacity 上，专注于 TensorFlow。它是 Udacity 上托管的更广泛的 Google 机器学习工程师 Nanodegree 的一小部分。
您必须注册 Udacity，但在登录后可以免费访问此课程。
所有课程视频都在 YouTube 上，但（有意地）非常难找，命名和链接都很差。如果有人知道包含所有视频的盗版播放列表，请在评论中发布。
课程分为 4 个课时
- 课时 1：从机器学习到深度学习
- 课时 2：深度神经网络
- 课时 3：卷积神经网络
- 课时 4：用于文本和序列的深度模型
课程虽短，但包含许多短视频，Udacity 的界面也很不错。在我查看的视频中，Vincent 似乎都出现了（这很好），视频在 YouTube 界面中播放。
还有一个讨论区，您可以在其中提问和回答问题，该讨论区由时尚的 discourse 软件驱动。
我倾向于选择我感兴趣的视频，而不是完成整个课程或做任何课程作业。
资源
蒙特利尔深度学习夏季学校
2015 年在蒙特利尔大学举办了一场深度学习夏季学校。
根据网站介绍，此次夏季学校面向已有机器学习基础知识的研究生、工业工程师和研究人员。
该领域有名的研究人员发表了至少 30 场演讲（有 30 个视频），涵盖了从入门到前沿研究的各种主题。
蒙特利尔深度学习夏季学校
这些视频是真正的宝库。花些时间，仔细选择您的主题。所有视频都托管在 VideoLectures.net 网站上，该网站的界面还可以，但不如 YouTube 干净。
许多（还是全部？）演讲在视频下方链接了 PDF 幻灯片，并且可以在官方网站的日程页面上找到更多信息。
以下是包含视频链接的完整讲座主题列表。我已尝试将相关视频放在一起（例如，第一部分、第二部分）。
- 机器学习入门
- 深度学习：理论动机
- 多层神经网络
- 训练深度神经网络
- 多层神经网络
- 深度学习在分布估计中的应用
- 无向图模型
- 受限玻尔兹曼机堆栈
- 流形和自编码器
- 视觉特征：从傅里叶到 Gabor
- 视觉特征 II
- 卷积网络
- 学习比较
- NLP 和深度学习 1：人类语言与词向量
- NLP 和深度学习 2：组合深度学习
- 通过深度学习“看见”人类
- 深度学习
- 深度学习 2
- 语音识别与深度学习
- 神经网络优化问题教程
- 深度学习（希望更快）
- 对抗样本
- 从语言建模到机器翻译
- 深度 NLP 循环神经网络
- 深度 NLP 应用与动态记忆网络
- 记忆、阅读和理解
- 平滑、有限、凸优化 深度学习夏季学校
- 非平滑、非有限、非凸优化
- 变分自编码器及扩展
- 深度生成模型
选择一个主题深入研究。非常好！
看起来 2016 年的夏季学校即将举行，希望能有视频。
资源
斯坦福大学自然语言处理深度学习
这是一门由 Richard Socher 在斯坦福大学教授的，专注于自然语言处理（NLP）的深度学习课程。
一个有趣的亮点是，您可以访问学生报告的 PDF 版本，这些报告可能能激发您的灵感或给您带来新的想法。
YouTube 播放列表中的文件命名不佳，并且缺少一些讲座。2016 年的视频尚未全部上传。下面是 2015 年讲座的列表和视频链接。这样更容易跳入特定主题。
- 讲座 1：NLP 和深度学习简介
- 讲座 2：简单的词向量表示：word2vec, GloVe
- 讲座 3：高级词向量表示：语言模型、Softmax、单层网络
- 讲座 4：词窗口分类和神经网络
- 讲座 5：项目建议、神经网络和反向传播（详细介绍）
- 讲座 6：实用技巧：梯度检查、过拟合、正则化、激活函数、细节
- 讲座 7：用于语言建模和其他任务的循环神经网络
- 讲座 7（8!?）：用于机器翻译的 GRU 和 LSTM
- 讲座 9：用于解析的递归神经网络
- 讲座 10：用于不同任务的递归神经网络（例如，情感分析）
- 讲座 11：期中复习课
- 讲座 13：用于句子分类的卷积神经网络
- 讲座 15：DL 在 NLP 中的应用
- 客座讲座：Andrew Maas - 语音识别
- 客座讲座：Jason Weston - 记忆网络
- 客座讲座：Elliot English - 高效实现和 GPU
如果您对 NLP 深度学习感兴趣，这会是很好的材料，因为深度学习在 NLP 领域表现非常出色。
资源
斯坦福大学视觉识别卷积神经网络
本课程侧重于在计算机视觉应用中使用深度学习和卷积神经网络。
这是另一门在斯坦福大学举办的课程，这次是由 Andrej Karpathy 和其他人教授。
不幸的是，课程视频已被移除，但一些聪明人找到了其他地方重新发布它们。请参阅下面的资源部分中的播放列表。
很遗憾地通知大家，我们被迫因法律问题下架了 CS231n 视频。只能造福社会 1/4 百万的观看量 🙁
— Andrej Karpathy (@karpathy) 2016 年 5 月 3 日
另一门很棒的课程。
以下是 2016 年课程的视频讲座，但我不知道链接能持续多久。如果您发现链接失效，请在评论中告知我，我会进行修复。
- 讲座 1：引言和历史背景
- 讲座 2：数据驱动方法、kNN、线性分类 1
- 讲座 3：线性分类 2、优化
- 讲座 4：反向传播、神经网络 1
- 讲座 5：神经网络 第 2 部分
- 讲座 6：神经网络 第 3 部分 卷积网络入门
- 讲座 7：卷积神经网络
- 讲座 8：定位和检测
- 讲座 9：可视化、深度梦、风格迁移、对抗样本
- 讲座 10：循环神经网络、图像字幕、LSTM
- 讲座 11：卷积网络实践
- 讲座 12：深度学习库
- 讲座 13：分割、软注意力、空间变换器
- 讲座 14：视频和无监督学习
- 讲座 15：Jeff Dean 的客座演讲
资源
舍布鲁克大学神经网络课程
这是舍布鲁克大学（魁北克省）Hugo Larochelle 教授的神经网络课程。
材料很多，非常多。
视频是进行一对一教学，而不是传统的讲座，并且每个主题都有许多短视频，而不是长达一小时的信息倾泻。
我认为这种格式可能比传统讲座更好，但我还没有完全被说服。一个困难是，有 92 个视频（！！！）需要浏览，而且很难找到特定的视频观看。
课程内容涵盖 10 个主要主题
- 主题 1：前馈神经网络
- 主题 2：训练神经网络
- 主题 3：条件随机场
- 主题 4：训练条件随机场
- 主题 5：受限玻尔兹曼机
- 主题 6：自编码器
- 主题 7：深度学习
- 主题 8：稀疏编码
- 主题 9：计算机视觉
- 主题 10：自然语言处理
我的建议是使用课程主页浏览主题，然后通过这些链接进入特定视频。YouTube 播放列表中的视频太多，难以浏览和理解。选择的悖论会让你无从下手。
资源
其他课程
以下是一些额外的视频课程，它们要么不是免费的，要么难以访问，要么范围较小。
- 纽约大学 CILVR 实验室深度学习课程（链接已失效？）
- Udemy 的小型深度学习课程
- 卡内基梅隆大学深度学习
- 英伟达深度学习自定进度课程
- 多伦多大学 Coursera 机器学习神经网络课程（很棒，但不再免费）
- 更新：您可以在此处免费观看所有视频。
- 研究生夏季学校：深度学习、特征学习, 2012
总结
在本帖中，您已经发现了许多世界一流的深度学习视频课程，涵盖了理论、计算机视觉、自然语言处理等。
请听取本帖开头的建议。
按主题浏览和选择讲座，不要试图一次性学习完整课程。学习一项内容，而不是试图学习所有内容。
花些时间，收藏此页面以便以后回来，并且享受学习过程。
您知道我没有列出的其他深度学习视频课程吗？
请在评论中告知我，我将更新列表。
关于完成 Udacity 的 Nanodegree 怎么样？
我只包含了深度学习部分，而不是整个 Nanodegree。
机器学习看起来或多或少是统计学习。如果这是真的，为什么机器学习现在如此重要？
“机器学习是一种人工智能（AI），它使计算机无需明确编程即可学习。” 这是机器学习的定义，这增加了我对理解算法何时从过去学习并预测未来输出的好奇心。
例如，在简单的线性回归中，我们使用“m”个样本，然后手动提取特征，最后基于选定的特征开发模型，通过多次迭代尝试获得最佳模型。我的问题是：在这种情况下，核心学习在哪里？
如果我们完全按照定义进行，我们只需要将数据集提供给算法，它就应该自己创建特征（在一定程度上可以说推荐系统就是这样），并通过过去的数据进行学习。随着时间的推移，它应该通过调整模型来自动提高性能。
是否存在一种能自行提高性能的学习？
请进一步阐明我的观点，我可能也有错误。
Alex Graves 对 LSTM 的幻觉做了一些简要介绍。视频 #13 描述了神经网络如何在适当时机读取、写入或擦除其已学数据。我认为这是模型学习学习的一个好例子。
感谢 Tom 的提示。
您好，先生，您认为我们应该从哪个课程开始？我了解机器学习的基础。那么，根据您的看法，哪门课程适合我？？
很好的问题。
我教授一种自顶向下、结果优先的方法。我建议您首先学习如何使用深度学习端到端地解决问题，然后再深入研究这些课程的理论。
如果您喜欢我的方法，我的书可能是一个不错的起点。
https://machinelearning.org.cn/deep-learning-with-python/
“蒙特利尔 2016 深度学习夏季学校”的视频已上传
http://videolectures.net/deeplearning2016_montreal/
太棒了！谢谢 Willy。
Jason，您做得太棒了。您在一个页面上分享了最有价值的深度学习讲座系列。非常感谢。
谢谢，很高兴您觉得这篇帖子有帮助！
蒙特利尔大学的 DL 夏季学校现在有 2016 年的视频：http://videolectures.net/deeplearning2016_montreal/
谢谢 Viktor。
很好，您有其他通用机器学习课程的列表吗？
也许是这篇帖子
https://machinelearning.org.cn/16-options-to-get-started-and-make-progress-in-machine-learning-and-data-science/
https://course.fastai.net.cn/
https://www.deeplearning.ai/
谢谢 Mike！
在 2020 年，如果您想参加 Andrej Karpathy（特斯拉计算机视觉部门负责人）的斯坦福课程，您可以使用这个来自网络档案的链接来访问 2016 年的课程笔记，而不是 2020 年的笔记。
http://web.archive.org/web/20190724082250/http://cs231n.stanford.edu/syllabus.html
感谢分享。
您好 Jason，感谢您的帮助。
正如您所说，Andrej Karpathy 的 CNN 课程链接似乎不再有效。
能否修复它们？
谢谢
你好 John……虽然我无法评论 Andrej 的博客。以下内容是可用的
https://cs231n.github.io/