 第一篇 神经网络是如何实现的（十） 清华大学计算机系 马少平 第十节：深度学习框架 小明：艾博士，我看这些神经网络越来越复杂，都是用BP算法求解。我看了一些BP算法的推导过程，还是挺复杂的，网络有些变化就可能需要重新推导，而在实验过程中可能会做很多尝试，这样每次都重新推导BP算法岂不是太麻烦了？ 艾博士：你说的很有道理，好在现在有了很多深度学习框架，这些框架是专门为搭建各种神经网络设计的，你说的这些麻烦就不存在了，只要你设计好了神经网络，框架就可以自动实现BP算法，不需要自己推导了。 小明：这可太方便了，都有哪些框架可以用呢？ 艾博士：很多公司设计了很多不同的框架，目前用的比较多的有TensorFlow、PyTorch、Keras等，近几年国内也推出了一些框架，比如百度公司的飞桨（paddlepaddle）、一流科技公司的OneFlow等，都是可以选用的框架。这些内容涉及很多编程的内容，而且一直在发展中，我们就不介绍了，有很多参考书可以参考。 第十一节：总结 艾博士：小明，关于神经网络我们就介绍这么多，你总结一下，我们关于神经网络都讲了哪些内容？ 小明边回忆边回答说：让我想想，还是讲了很多内容的。 （1）以一个简单的数字识别引出了什么是神经元，什么是神经网络。 （2）详细介绍了神经元的结构以及全连接神经网络，并以如何调节热水器为例，讲解了神经网络训练的基本原理和BP算法。 （3）介绍了神经网络训练中可能会遇到的过拟合问题、梯度消失问题，以及常用的解决方法。 （4）介绍了什么是卷积神经网络，并列举了一些具体用例。 （5）介绍了什么是循环神经网络，并列举了一些具体用例。 （6）简单说明了深度学习框架。 艾博士：小明总结的非常全面，但这些内容还只是最基本的内容，这些年神经网络的研究和应用发展都非常快，出现了很多新的网络结构和应用，要想解决实际问题，还需要多看相关的论文，了解别人的工作，结合自己要解决的问题，提出合适的架构。有了这些基础，其他的学习起来也就相对比较容易了。 小明：谢谢艾博士给我讲解了这么多的内容，使我对神经网络有了基本的了解，我一定努力学习，做出更好的实用系统来。 艾博士：小明，加油！ 神经网络篇已完结
|
|
|
