|
《深度学习：智能时代的核心驱动力量》
最近看的书是世界十大AI科学家之一，美国四大国家学院（国家科学院、国家医学院、国家工程院、国家艺术与科学学院）在世仅3位的“四院院士”之一，全球AI专业会议NIPS基金会主席特伦斯·谢诺夫斯基的新书《深度学习：解析智能时代的核心驱动力量》，同样把书中我觉得有意思的观点和内容分享给大家（以下文中划线句子为书中原文）。 “深度学习是机器学习的一个分支，它根植于数学，计算机科学和审计科学。深度网络从数据中学习，就像婴儿了解周围世界那样，从睁开眼睛开始，慢慢获得驾驭新环境所需要的技能。” “我们对世界上的大量事实都觉得理所当然， 其中大部分都是基于经验。” “符号的美妙之处在于，它们让我们能够对复杂的概念进行压缩，并运用它们；而符号的问题在于，这种过于概括的表达形式使其很难在现实世界中被精确地描述出来。” “概率论是现在机器学习的核心，在描述现实世界中的不确定性方面比逻辑方法要好用得多。” “无脊椎动物中所谓的简单神经系统，实际上比进化阶梯上那些更高级动物器官里的更复杂，因为无脊椎动物必须依赖更少的神经元存活，每个神经元都是高度特异化。” “视觉皮层的组织结构为最成功的深度学习网络提供了灵感。” “光照的变化包含了研究对象周围的移动刺激和对比边界的重要信息。” “独立分量分析是无监督的，它可以揭示能够协同工作的大脑区域网络，并能够扩充试图将区域中的活动与感官刺激或运动反应联系起来的监督技术。” “世界上发表的所有论文里有一半从未被引用过，甚至连作者自己都不引用；一篇被引用了100次的论文都会在领域内产生巨大反响。” “大脑网络的维度非常高，我们对其甚至没有很好的估计。大脑皮层中的突触总数约为100万亿，几乎是个天文数字。人类的寿命不过几十亿秒。” “虽然神经网络可以给出一个问题的正确答案，但目前还没有办法解释它们是如何得到这个答案的。” “所有对输入进行分类的神经网络都存在偏倚。” “如果利润是唯一的目标，网络就会使用被提供的任何信息来最大化利润，解决这个问题的方法是将公平性作为代价函数中一个参数。” “反向传播需要将详细的错误信号反馈给神经网络每层中的每个神经元，其精度比生物神经网络中已知反馈链接的神经都要高得多。” “关于技术的一个奇妙之处在于，技术背后通常都有一个很好的解释，并且有强烈的动机来得到这种解释。” “游戏的好处在于，其规则都有明确的定义，玩家对棋盘十分熟悉，决策也不像现实世界中那样复杂，但又不失挑战性。” “我们所创造的深度学习系统都不能依靠自己独立生存。这些系统的自主性只有在它们包含了迄今为止一直被忽视的，类似于大脑其他部分的功能时才有可能实现。” “要追寻科学思想的源头并非易事，因为科学是分布在不同时空中很多个体活动的集合。” “目前，人工智能的进展主要集中在感官和认知方面，运动和行为智能的进展还未见端倪。” “我们发现教育中最大的问题不是科学方面的，而是来自社会和文化。” “教学从根本上来说是一项劳动密集性活动。最优质和最有效的教学方式是让经验丰富的成人教师和学生之间进行一对一交流。我们背负着一个专为大众教育而设计的流水线系统，对学生按年龄进行划分，教师在大班里年复一年地传授相同的课程。这可能是一种生产汽车的好方法，在劳动力只接受基本教育就能满足社会需求的年代，这样的方法还算行得通。” “我们的教育体系是为工业时代设计的，学校传授的知识曾经是你今后维持工作，以及作为一名有生产力的公民所需的基础知识。然而现在，学生刚一毕业，学校传授的那些知识就已经过时了。” “算法为创造出比现有世界更为复杂的世界提供了新的机会。” “我们正在目睹电脑芯片行业一个新格局的诞生。该领域的竞争主要在于如何设计和制造新一代的芯片，能够运行学习算法——不管是深度学习，强化学习还是其他的学习算法——比在通用计算机上的模拟学习算法快上几千倍，能耗也更低。” “大脑运转所需的功耗大约是20瓦，占整个身体运转所需功率的20%，尽管大脑仅占身体质量的3%。相比之下，一台远不如大脑强大的千万亿次超级计算机，功耗却为5兆瓦，是大脑功耗的25倍。大自然是怎么创造出这一高效奇迹的呢？首先，神经元接受和发送信号的部分被微缩至分子水平。另外，神经元是在三维空间上链接的，这样就可以使所需空间最小化。由于大自然很久以前就进化出了这些技术，想要追赶大脑的能力，我们还有很多工作要做。” “我们的眼睛能看到东西，但没人知道其背后的原因。我思故我在，但思考背后的机制仍是一个谜。” “人工智能中最难解决的问题之一是常识，显然这是儿童并不具备的，只有在长期与外界接触后，大多数成人才会获得常识。” “仅仅因为我们每个人都相信某种解释，并不能证明它就是真理。有时需要花费整整一代人的时间，才能从群体中剔除一个普遍持有的信念。” 去年看过腾讯研究院编写的《人工智能》，这周看的特伦斯·谢诺夫斯基撰写的《深度学习：智能时代的核心驱动力量》算是去年那本书的进阶版。如果把《人工智能》归为初中教材，那《深度学习：智能时代的核心驱动力量》这本书可以归为高中教材了，这本书比《人工智能》更深入，作者下沉到现象和应用背后的逻辑和算法，从更专业的角度解释了深度学习的前世今生。 我们常常用走马观花来形容现在大部分游客的常态，到此一游，打卡景点和网红店，拍照发圈，却很少有人真的静下心认真去感受当地的风土人情和日出日落，人们习惯于漂浮在这些美景之上，却从没真正走进这些美景。以此类推，生活中方方面面，我们都在止步于表面，从浮光掠影的外相去判定一件事或者一个人，不愿深入了解，把目之所及的3%扩大为100%，然后振振有词的宣告于每个人，社会就是在这种浮光掠影中建立起来的。人工智能的发展，必然会带领人们重新认识这个世界，机器需要算法才能智能，算法需要逻辑，逻辑隐藏在现实之下。未来，人工智能不仅是人类科学的一次质的飞跃，也会是人类文明和人类自我认知的一次质的飞跃，由这个工具作为导火索，我们会不得不再次深入的了解自己。 |
|
|
