【原】【企业之道】中国在xPU领域有多少胜算？（上篇）——产业研究系列之七

文/李方

xPU又是什么鬼？

你听说过CxO么？

就是企业里各种高管职位

CEO COO CTO CMO CFO 

......

好吧

CPU GPU TPU NPU IPU……

就是各种芯片的称谓

笔者在年初“产业研究系列”头篇

《中国芯之痛何时解？（上&下）》

就谈到芯片

可以把这篇看作是那篇的姊妹篇吧

那篇主要说到

中国企业在5G芯片方面

有了崛起的机会

那这篇就要讨论

中国企业在AI芯片领域

有没有机会？

要想谈清楚AI芯片

就不得不从通用芯片说起

据说每过18天

芯片领域就会多出一个xPU

直到26个字母被用完

当26个字母用完后

还会出现xxPU、xxxPU……

先不管那么多

目前xPU领域

主要是各种AI芯片的竞争

我们先选取竞争最激烈的

几个AI芯片来谈

 

我们找出瓜众们在此领域最关心的几个问题来谈：

• 集成电路芯片演变历史概述

• 目前几种主要AI芯片介绍GPU TPU NPU IPU

• 寒武纪芯片是中国AI芯片的希望所在吗？

• 中国在AI芯片领域整体发展态势

集成电路芯片演变历史概述

要把这段历史说清楚

还得从世界上第一台电子计算机说起

1946年

世界上第一台电子计算机ENIAC

在美国诞生

这个庞然大物重达30余吨

占地170平方米

由18000只电子管

组成核心计算单元

当然它的功能

比现在一个最普通的手机

差得很远

但不要忘了

这是世界上第一次

用机器代替人来计算

1951年

世界上第一台商用计算机投入实用

这台通用自动计算机

交付给了美国人口调查局使用

1955年

“晶体管之父”肖克利离开了贝尔实验室

回到硅谷圣克拉拉

建立了自己的公司

这是世界上第一个

真正研发半导体的公司

肖克利实验室

为硅谷引来了大批技术人员

使硅谷取代了美国东部

成为了美国半导体（芯片）产业中心

1957年

克雷（Crey,1923-2005）

设计了全晶体管超级计算机

之后的20年

主流计算机

都是以晶体管集成电路为核心组成的

所以克雷被誉为超级计算机之父

 

1957年10月1日

Robert Noyce 

率领着“8叛逆”

离开了肖克利实验室

创建了著名的

“仙童半导体”公司

这是硅谷历史上

一个里程碑事件

1959年

仙童半导体

首次以晶体管集成电路技术

在商业上大力推广

之后若干年

一大批著名芯片厂商

像Intel、AMD、美国国家半导体等

都是由仙童半导体出来的人创立的

1962年

世界上第一块

基于硅片的集成电路制造成功

这是划时代的历史事件

计算机芯片进入了

硅芯片时代

1966年

美国贝尔实验室

使用完善的硅外延平面工艺

制造出第一块

公认的大规模集成电路

 

1968年

Robert Noyce放弃了他创立的

仙童半导体

与Gordon Moore（提出摩尔定律的）

一起创立了Intel

1970年

Intel推出第一片DRAM存储器

1971年

Intel推出SRAM和EPROM

但此时

日本的硅芯片产业突然崛起

同样也能大规模生产DRAM等存储器

并且成本比Intel的有居大优势

日本芯片产业的崛起

给Intel造成了巨大压力

Intel频临破产

此时就发生了那段最经典的

Intel转型的历史故事

一天

两位Intel领导人

董事长摩尔、总裁格鲁夫

在一起讨论经营困境

面对已经被对手逼到死角的绝境

二人也是面面相觑

......
格鲁夫突然问摩尔：

“摩尔，如果我们下了台，

你认为新进来这个家伙

会采取什么行动？” 
摩尔犹豫了一下，说：

“他会完全放弃存储器的生意。” 

格鲁夫目不转睛地盯着摩尔：

“既然这样，

你我为什么不走出这扇门，

然后再进来

自己动手这样干呢？”

随后他们作出了重大决策：

放弃存储器业务

开始研发微处理器！

很快

他们就研发出来第一款

基于硅集成电路的微处理器4004

当然

面对只有二进制4位的微处理器

Intel也不知道有用没用

能否改变他们要关门的命运

反正已经走出了这一步

不走肯定是死

走出来没准有一线生机

1972年

Intel又推出了8008微处理器

这款微处理器从4位扩展到了8位

性能有了明显改善

可是业界几乎没人认为

这种芯片可以用于计算机的

中央处理器

最多可以用于工业控制设备

（如数控机床）的处理器

而拼死一战的Intel并没有止步

坚持做出了

8088

8086

这两块芯片

正式开启了以微处理器

为计算机中央处理器的时代

当然

并不是所有人都能看清

微处理器的划时代意义

只有个别具有良好计算机基础的

同时具有产业洞察力的人

才能看懂这点

盖茨与乔布斯

就是当时全世界

不超过10个人中的两个

这两个从中学时代

就可以用机器语言编程的

电脑天才看到了

微处理器的应用前景

他们认为

这个小芯片必将改变世界的未来！

然后就开始动手了。

盖茨与他创业伙伴保罗

基于8088

开发出来第一款

微操作系统DOS

1980年

IBM用8088和DOS

制造出了世界第一台

微计算机IBM PC

而同年

乔布斯与他创业伙伴沃滋

基于摩托罗拉芯片6502（与8088类似）

开发出了第一台

实用的苹果电脑Apple II

Intel继8086之后

相继开发出

286 386 486 奔腾

……

微处理器从

8位

16位

奔腾4前32位

奔腾5后64位

完全满足了大型计算机的需要

从此x86处理器体系

成为了计算机CPU的标配

 

从以上芯片产业历史发展的介绍

我们看到

经过50多年的发展

芯片产业发生了

翻天地覆的变化

计算机产业

也发生了同样巨大的变化

从最原始的电子管

到晶体管

再到集成电路

体积越来越小

功能越来越强大

并且为后面

全球芯片业的发展

打下了良好的基础

目前几种主要AI芯片介绍GPU TPU NPU IPU

前面讲述了

计算机处理器芯片的

发展历史

我们了解到：

计算机中央处理单元

从电子管到晶体管

最后到硅晶圆集成电路

最终主流计算机CPU（中央处理器）

均定位在x86芯片上

此类芯片

以Intel、AMD公司为主

占领了计算机CPU

90%以上的市场

而其他厂商

如摩托罗拉、IBM、DEC等

也曾经做过非x86芯片

但都没有形成主流

最后都慢慢退出了市场

但无论是x86

或非x86体系芯片

在计算机体系结构上

都属于冯·诺依曼体系结构

冯·诺依曼体系结构

是1946年

由美籍匈牙利科学家

冯·诺伊曼提出的

简单地说

就是将运算程序与数据

均放在存储器中

然后依一系列控制指令

使程序按照一定顺序执行

最后输出运算结果

再说的通俗一点就是：

无论多复杂的运算公式

最终都能拆解成数值的加减法

然后以二进制的加减法

进行运算

这样

就能将复杂的运算

用机器自动完成

大大提高了效率和质量

最初

计算机率先使用在核武器研制

及航空航天领域

就是解决那些领域

繁琐庞杂的计算工作的

可是随着计算机技术的发展

越来越多的领域

需要由计算机来参与解决问题

而冯·诺依曼体系结构的计算机

最擅长的就是科学计算

无论多么复杂的问题

只要你能把它分解成某种“算法”

计算机就能通过运算

得到满意的结果

随着计算机应用领域

不断扩展

人们发现

冯·诺依曼体系

越来越难以适应

更复杂的应用领域了

或者说

有些可以解决复杂领域的需求

但是效率变得很低很不合理

特别在人工智能领域

尤为突出

人工智能的核心诉求

是试图模仿人脑

来解决各种复杂的问题

可是人们发现

冯·诺依曼体系

对于人脑来说

就是个小儿科

太多的问题

不是以冯·诺依曼体系的逻辑

来处理的

举个例子

笔者在英国的博士论文课题是

“地图的自动概括”

这是个典型的

人工智能课题！

传统的“地图概括”

是由有经验的工程师来完成的

在地图从大比例尺

到小比例尺到转换过程中

很多问题要人来判断：

原来一堆单个房屋

要以什么规则

合并成建筑块？

其他各种地物

以什么规则决定

删除？

合并？

夸张？

等处理？

人在处理这些问题时

凭看到的实际情况

与工作经验

马上就改过来了

可是面对这些问题

冯·诺依曼体系计算机

基本是“傻”掉了！

尽管笔者使用了当时最先进的

Prolog语言

C语言

Oracle数据库等

也是勉强解决了部分问题

不能全部解决问题

归根到底

冯·诺依曼计算机体系

就不是为解决这类问题而生的

随着人工智能时代越来越近

越来越现实

冯·诺依曼体系结构

显然是力不从心了

落实到计算机大脑——芯片

就必须要设计出全新的

系统结构

从此

各种类型的、更适合AI领域的芯片

应运而生

在此我们主要介绍几种AI芯片

GPU TPU NPU IPU

 

GPU全称为

Graphics Processing Unit

中文为图形处理器

就如它的名字一样

GPU最初是用在

个人电脑

工作站

游戏机

和一些移动设备

（如平板电脑、智能手机等）

上运行绘图运算工作的

微处理器

为什么GPU

特别擅长处理图像数据呢？

这是因为图像上的

每一个像素点

都有被处理的需要

而且每个像素点

处理的过程和方式

都十分相似

也就成了GPU的天然温床

GPU简单架构如下图所示：

从架构图

我们就能很明显的看出

GPU的构成相对简单

有数量众多的计算单元

和超长的流水线

特别适合处理大量的

类型统一的数据

但GPU无法单独工作

必须由CPU进行控制调用才能工作

CPU可单独作用

处理复杂的逻辑运算

和不同的数据类型

但当需要大量的

处理类型统一的数据时

则可调用GPU进行并行计算

虽然GPU

是为了图像处理而生的

但是通过前面的介绍可以发现

它在结构上

并没有专门为图像服务的部件

只是对CPU的结构

进行了优化与调整

所以现在

GPU不仅可以在图像处理领域

大显身手

它还被用来科学计算

密码破解

数值分析

海量数据处理

（笔者的地图概括处理）

金融分析等

需要大规模并行计算的领域

所以GPU也可以认为是

一种较通用的芯片

 

TPU全称为

Tensor Processing Unit,

张量处理器

就是谷歌专门

为加速深层神经网络运算能力

而研发的一款芯片

其实也是一款ASIC

图：谷歌第二代TPU

TPU与同期的

CPU和GPU相比

可以提供15-30倍的性能提升

以及30-80倍的

效率（性能/瓦特）提升

初代的TPU只能做推理

要依靠Google云

来实时收集数据

并产生结果

而训练过程

还需要额外的资源

而第二代TPU

既可以用于训练神经网络

又可以用于推理

图：TPU芯片布局图

TPU在芯片上

使用了高达24MB的

局部内存

6MB的累加器内存

以及用于

与主控处理器进行对接的内存

总共占芯片面积的37%

（图中蓝色部分）

到目前为止

TPU其实已经干了很多事情了

例如

机器学习人工智能系统

RankBrain

它是用来帮助Google

处理搜索结果

并为用户提供更加相关搜索结果的

还有街景Street View

用来提高地图

与导航的准确性的

当然还有下围棋的

计算机程序AlphaGo

 

NPU

Neural network Processing Unit

即神经网络处理器

顾名思义

这家伙是想用电路

模拟人类的神经元

和突触结构啊

怎么模仿？

那就得先来看看

人类的神经结构

生物的神经网络

由若干人工神经元结点

互联而成

神经元之间

通过突触两两连接

突触记录了

神经元之间的联系

如果想用电路

模仿人类的神经元

就得把每个神经元

抽象为一个激励函数

该函数的输入

由与其相连的

神经元的输出

以及连接神经元的突触

共同决定

为了表达特定的知识

使用者通常需要

（通过某些特定的算法）

调整人工神经网络中

突触的取值

网络的拓扑结构等

该过程称为“学习”

神经网络中

存储和处理是一体化的

都是通过突触权重来体现

而冯·诺伊曼结构中

存储和处理是分离的

分别由存储器

和运算器来实现

二者之间存在巨大的差异

当用现有的

基于冯·诺伊曼结构的

经典计算机

（如X86处理器和英伟达GPU）

来跑神经网络应用时

就不可避免地

受到存储和处理

分离式结构的制约

因而影响效率

这也就是

专门针对人工智能的

专业芯片能够对传统芯片

有一定先天优势的原因之一

NPU的典型代表有

国内的寒武纪芯片

和IBM的TrueNorth

 

IPU

Intelligence Processing Unit

是一种为AI计算而生的

革命性架构

IPU处理器

是迄今为止

最复杂的处理器芯片

它在一个16纳米芯片上

有几乎240亿个晶体管

每个芯片

提供125 teraFLOPS运算能力

一个标准4U机箱中

可以插入8张卡

卡间通过IPU链路互连

8张卡上的IPU

可以作为一个处理器元件工作

提供两个petaFLOPS的运算能力

与芯片在CPU和GPU中的

存在形式不同

它为机器智能

提供了更高效的

处理平台

这个产品将用于

云计算服务器

也极有可能

用于自动驾驶汽车

目前在IPU方面领先的是

英国Graphcore公司

Graphcore公司

于2016年创立

如今该公司在伦敦

剑桥

台湾

北京

Palo Alto

Oslo

都设有办公室

员工人数

将在2019年底达到400人

首款IPU

也已经于19年底推出了

Graphcore专家认为：

“我们接触过的

所有创新者都说

使用GPU

正在阻碍他们创新

如果仔细看一下

他们正在研究的模型类型

你会发现

他们主要研究卷积神经网络

递归神经网络

和其他类型的结构

例如

强化学习

并不能很好地映射到GPU

这也正是

我们将IPU推向市场的

主要原因”

Graphcore的IPU里面

有1216个核

我们称之为Tile

每个Tile里都有

计算单元和内存

由于同时有

上千个处理器工作

所以单个IPU的存储带宽

能达到45TB

比性能最快的HBM

提升了50倍以上

在相同算力下

功耗也降低了一半

Graphcore专家总结

IPU与其它的AI芯片相比

有三个比较核心的区别

第一

处理器核的架构不同

IPU是MIMD架构

第二

IPU的模型在处理器内

     第三

大规模并行

IPU核之间的通信效率

也非常高

 

总结几种AI芯片

GPU

是最早开发出来的

图形处理芯片

要与CPU配合使用

在一定程度上

解决了并行处理问题

TPU与NPU

开始从原理上

模拟人脑神经网络系统

真正进入

人工智能应用领域

IPU是最新的

专门为人工智能服务的

AI芯片

由于它内部强大的

并行处理能力

相信在未来

人工智能领域

将大放异彩

另外我们也相信

随着人工智能领域的

快速发展

越来越强大的新型AI芯片

还会继续涌现

 

（未完待续）