这可不是无知老百姓的愚蠢担心，有「爱因坦斯之后最杰出的物理学家」之誉、《时间简史》作者史蒂芬.霍金（Stephen Hawking）认为，完整的人工智慧可能会终结人类。
电动车大厂特斯拉创办人马斯克（Elon Musk）也认为次人类应该担心。马斯克认为，人工智慧的发展，可能是人类面临的最大威胁。
就连微软创办人比尔盖兹（Bill Gates）也说:当心人工智慧！
害怕人类的创造物，反成人类的主子、甚至是消灭人类，并不是什么新鲜事，但从知名宇宙学者、硅谷创业家和微软创办人口中说出来，这样的恐惧也显得更有份量。
▍目前机器人能力狭窄，只有特定用途，没有办法决策
那么，我们如何担心，又不致杞人忧天？
第一步就是了解电脑目前的能耐，以及它们未来可能拥有的能力。
当今的「深度学习」系统，已经可以学会处理部分任务，而且表现直逼人类；例如，Facebook的DeepFace演算法，辨识人脸的正确率就高达97%。
关键之处在于，这样的能力范围狭窄且只有特定用途，没有办法推论、判断和决策。
不过，人工智慧也已经强大到足以大幅改变人类的生活；例如，智慧型手机上的语音辨识系统，就让发展中国家的数百万文盲得以使用网络。
▍机器人不只是让蓝领工人失业，下一步是让白领失业
但就算只是短期而言，人工智慧也不会只带来益处；国家拥有监控数十亿对话的能力、可以从群众中挑出任何人的声音或长相，都会严重威胁自由。
此外，正如原始的「电脑」取代了计算人员，人工智慧也可能会让许多白领阶级失去工作。
不过，霍金、马斯克和盖兹担心的，并不是监视和失业，而是更遥远、更末日的情境：拥有超人类认知能力、与人类有利益冲突的自主机器。
▍必须对于机器人产业和人工智能产业，进行监管。
虽然这种霍金口中的「全」人工智慧仍旧十分遥远，社会还是得预先计画、思考该如何应对。
那其实没有表现上看起来这么难，人类早就在创造拥有超人类能力、又有利益冲突的事物了，例如政府、市场和军队等。
正如军队需要接受公民监督、市场得受监管、政府必须透明担责，人工智慧系统也得接受仔细检视，系统也要有办法强制关闭；
人类一直在使用技术和法律限制强大的革新，从核弹到交通规则皆是如此。是的，人工智慧确实有风险，但也不该因为这些风险，就放弃了人工智慧能带来的巨大利益。
