想要真正了解深度神经网络是如何训练的,免不了从矩阵微积分说起。 虽然网络上已经有不少关于多元微积分和线性代数的在线资料,但它们通常都被视作两门独立的课程,资料相对孤立,也相对晦涩。 不过,先别打退堂鼓,来自旧金山大学的Terence Parr教授说:矩阵微积分真的没有那么难。 这位ANTLR之父和创始人Jeremy Howard一起推出了一篇免费教程,旨在帮你快速入门深度学习中的矩阵微积分。简明,易懂。 DeepMind研究科学家Andrew Trask评价说:
只需一点关于微积分和神经网络的基础知识,就能单刀直入,开始以下的学习啦。 深度学习所需的矩阵微积分 先来看一眼这篇教程都涵盖了哪些内容:
文章开篇,先介绍了一下人工神经元。
导数规则、向量计算、偏导数……复习完需要掌握的先导知识,文章开始进入重要规则的推导,这些规则涉及矢量偏导数的计算,是神经网络训练的基础。 比如在矩阵微积分这一节中,涵盖:
每一小节中,都有简洁明了的示例,由浅入深,层层递进。 如果你在学习的过程中遇到不理解的地方,不要着急,耐心返回上一节阅读,重新演算一下文中的示例,或许就能理顺思路。 如果实在是卡住了无法推进,你还可以在论坛(链接见文末)的“Theory”分类下提问,向Parr和Howard本人求解答。 而在文章的末尾,作者附上了所有数学符号的对照表。 以及重点概念的详细补充信息。 值得注意的是,Parr和Howard也强调了,与其他学术方法不同,他们强烈建议先学会如何训练和使用神经网络,然后再深入了解背后的基础数学。因为有了实践经验,数学会变得刚容易理解。 传送门 网页版: PDF: 论坛: — 完 — 量子位 QbitAI · 头条号签约 关注我们,第一时间获知前沿科技动态 |
|
来自: taotao_2016 > 《AI》