人工智能未来可能会摧毁人类的真正原因
2019年10月31日
图像来源, Getty Images
图像加注文字,
专家说，即使友善机器人也会倒戈
从英国著名理论物理学家史蒂芬·霍金（Stephen Hawking）到特斯拉创始人伊隆·马斯克（Elon Musk）等世界顶尖人工智能（AI）专家，都曾表示过人工智能对人类生存的威胁。
真有一天，人类会成为自己发明的机器人的受害者吗？
加州大学伯克利分校（University of California, Berkeley）的斯图尔特·罗素教授（Stuart Russell）是该领域的专家。
- 人工智能：永远铁面无私的入境边检员
- 我们能用大脑意识控制电脑和机器吗？
- 人工智能帮助写电子邮件是好事还是坏事
他在刚出版的《人类相容：人工智能与控制问题》（Human Compatible: AI and the Problem of Control）一书中指出，这种威胁并非来自机器人开始有了自我意识，并起来反抗人类主人。
而是因为这些机器人能力变得超强，最后有可能是因为人类的疏忽，为机器人设置了错误的目标，让他们无意中把我们都消灭了。
罗素教授表示，这才是我们应该担心的，而不是像好莱坞大片中所描绘的那样，人工智能开始有自主意识，并向人类倒戈，最后把我们都杀光。
罗素教授强调：我们应该担忧的不是意识，而是它们的能力（competence）。
“超强能力”
图像来源, Getty Images
图像加注文字,
机器人对人类交给他们的任务越来越胜任。
罗素教授在接受BBC的采访时表示，假设我们发明了一个可以用于控制气候变化的强大人工智能系统，并且能将大气中的二氧化碳水平恢复到工业革命前的水平。
该人工智能系统经过分析后认为，最容易的方式就是消灭人类，因为人类活动是产生二氧化碳的最主要来源。
当然人类可能会对机器人说，你做什么都可以但就是不能把人类全灭绝。人工智能系统然后可能会说服人类少生孩子，直到最后没有人生孩子，人类慢慢灭绝为止。
这个例子是想强调与人工智能有关的风险，这些风险都是人类在创造人工智能前并没有想明白的。
- 关于人类灭亡的几大末世猜想
- 机器人如何“抢走2000万工人的饭碗”
- AI的前世今生：神话、科幻和现实
超级智能
英国剑桥大学存在风险研究中心（Centre for the Study of Existential Risk, Cambridge University）表示，当前大多数AI系统都是相对“狭窄”的应用程序，专门用于解决某一领域中的特定问题。
但1997年，超级电脑深蓝（Deep Blue) 打败了国际象棋世界卫冕冠军加里·卡斯帕罗夫（Garry Kasparov），成为人工智能史上里程碑。
图像来源, Getty Images
图像加注文字,
深蓝的胜利是人工智能发展史上的一个重要时刻。
然而，虽然深蓝击败了世界象棋卫冕冠军，但深蓝却可能连一场简单的跳棋游戏都赢不了。因为深蓝的设计者是专门让它下象棋的。
但这才仅仅是开始，随着人工智能的发展和进步，阿尔法围棋的最新版AlphaGo Zero在经过短短3天跟自己练习之后，已经达到了超人水平。
AlphaGo Zero通过深度学习，已经不太需要太多的人工程序。 它成为围棋、国际象棋以及将棋（又称日本将棋）的高手。
这里，最让人感到震惊的是，AlphaGo Zero完全是自学成才。
剑桥大学存在风险研究中心表示，随着人工智能逐渐强大，它可能会成为超级智能。它会在许多，或是几乎所有领域都超越人类。
罗素教授说，这就是为什么人类需要收回控制权。
如何收回控制权
图像来源, Getty Images
图像加注文字,
罗素教授说，人类需要收回控制权，否则就晚了。
罗素说，赋予人工智能更明确的目标并不是解决这一难题的方法，因为人类自己都无法确定这些目标是什么。
罗素表示，人们应该彻底改变建立人工智能系统的整体基础，例如，不再给机器人一个固定目标，而是让人工智能系统必须明白，它不知道目标是什么。
一旦人工智能系统以这种方式运作的话，它就会听从于人类的指挥。在执行任务之前，它会寻求人类的许可，因为它不确定这是不是你想要的。
罗素教授表示，最至关重要的是，它们（AI）会乐意接受被随时关闭的选择，因为它们也希望避免做那些你不喜欢的事情。
神灯中的精灵
图像来源, Getty Images
图像加注文字,
科幻片《2001：太空漫游》中，机器人电脑拒绝被关闭。
罗素说，我们现在发明的AI系统有点像传说中的神灯中的精灵一样，你轻拍神灯，灯里的精灵出来了。你对精灵说：“你给我做这件事吧。”
“如果AI系统足够强大，它就会完全按照你的要求去做，你也会得到你所要求的一抹一样的结果。”
但罗素表示，问题是跟神灯中的精灵故事那样，第三个愿望总是要求精灵“取消前面的那两个愿望”，因为我们无法确定自己到底想要什么。
其结果就可能造成，那个试图完成错误指令的机器人实际上变成了人类的敌人，一个比我们强大得多的敌人。
到那时，一切就太晚了。
哈尔滨工业大学机器人研究所; 机器人技术与系统国家重点实验室
作者简介：蔡鹤皋，中国工程院院士，哈尔滨工业大学机电控制及自动化系教授。主要研究方向为机器人与自动化。
摘要: 21世纪是一个机器人大发展的时代。在这个时代，机器人的应用领域不断扩大，机器人的智能化水平进一步提高。机器人将成为人类社会生产活动的主力，人类生活的亲密助手与朋友，探索世界奥秘的探险者，维护社会治安与安全的钢铁战士。机器人技术的发展会推动社会经济与文明的进步，并对人类生活方式产生深远的影响。
说到"机器人"这个词，最早是由捷克剧作家恰佩克在1920年提出来的，在他所编写的《罗萨姆的机器人万能公司)(R.U.R)剧本中，第一次用到了" robot" 这个词，其本意是苦役、劳工的意思。后来，中国翻译家在翻译这个剧本时，将" robot" 翻译成" 机器人" ，从此外国和中国分别有了" ro-bot" 和" 机器人" 这两个词。当时，" robot" 仅具有科幻意义，并不具有现实意义。随着科学技术的发展，诞生于小说中的机器人从科幻走进了现实。20世纪60年代，美国人创造了一种类似人的手臂，可以代替人干活的示教再现型的自动化机器，他们把这种机器就叫做" robot" ，中国将这种机器叫做" 机器人" 。但机器人并不是人，而是一种自动化的机器。联合国标准化组织采纳了美国机器人协会对机器人下的定义" 一种可编程和多功能的操作机; 或是为了执行不同的任务而具有可用电脑改变和可编程动作的专门系统。
一、 机器人大发展的时代已经到来
上世纪60年代，人类制造出了工业机器人，机器人在车间里可以从事焊接、喷漆、搬运、装配等工作，通过编程能够很方便地改变作业程序，不仅大大提高了生产效率，而且非常适合于柔性制造系统。日本、德国、瑞典等国家在上世纪80年代实现了工业机器人的产业化。由于其具有强大的生命力，工业机器人在汽车工业、电子工业、制造工业领域得到了越来越广泛的应用。目前，全世界应用的工业机器人装机总量达到100多万台，工业机器人已经成为现代先进制造技术的一个重要标志。
进入21世纪，机器人已成为世界科技发展的一个热点。当代计算机、自动控制、人工智能、传感器、机械、电子、互联网、通讯等科学技术的快速进步，为机器人技术的发展提供了强大的技术支撑。现在机器人已经冲破工业应用领域，向更广泛的领域发展。农业机器人、矿业机器人、林业机器人、建筑机器人、家庭与社会服务机器人、科学考察机器人、军用保安机器人等各种用途的机器人层出不穷。机器人的种类越来越多，智能化程度越来越高。机器人已经驶进技术发展的快车道，快步走进人类社会的各个领域，对人类社会的进步和生产生活方式产生深远影响，机器人大发展的时代已经到来。
二、 机器人的应用领域迅速扩大 1. 各种各样的产业机器人成为人类生产活动的主劳力
市场需求是产业机器人发展的根本动力。随着人类社会的科技进步和经济发展，必然会出现劳动力数量的减少和劳动力成本的提高，从而加剧社会对各种产业机器人的需求，正是这种需求推动了产业机器人的发展。各种各样的产业机器人成为人类生产活动的主劳力。
在工业生产活动中，经过半个世纪的发展，工业机器人的产业化与应用已经取得了很大成功，全世界已有100多万台工业机器人装机使用，但是还不能说工业机器人的应用已经很普遍，因为在工业领域中还有很多工种离不开手工作业。为了进一步扩大工业机器人的应用领域，需要研发比现在应用的示教再现型机器人更为先进的工业机器人，使这些机器人能够完成非结构环境下的作业，以及工艺条件和环境经常变化的作业。这种具有感知功能和一定智能的新一代工业机器人能够更适应复杂多变的制造环境，示教方法更为简便，工作更安全可靠，与人的合作更为和谐。新一代工业机器人的应用领域将会进一步扩大。
人类的生产活动范围很大，不仅包括工业生产，还包括农业、林业、畜牧业、养殖业、渔业、采矿业、建筑业等非工业产业。机器人取代人从事生产作业与劳动是历史发展的必然，这个过程已经率先在工业生产领域发生，非工业产业中机器人的研发、应用与产业化也已经开始。
农业是一个需要大量劳动力的产业，即使现代农业采用了机械化，但是在许多情况下仍需要大量人力采用手工作业方式完成，如蔬菜、水果的采摘与挑选。农业劳动作业需求的季节性很强，劳动力问题经常难以解决，且劳动力不足的现象越来越明显，因此对机器人的需求越来越迫切。用机器人种地，进行田间管理，收获农作物，已经成为未来农业的发展方向。现在已开发出来的农林业机器人有:育苗机器人、耕耘机器人、施肥机器人、除草机器人、喷药机器人、嫁接机器人、收割机器人、采摘机器人、林木修剪机器人、果实分拣机器人等。农业机器人技术正在快速发展，机器人替代人从事农业劳动的时代已经为期不远了。在人类的其他生产活动中，用机器人盖房子、修路、建桥、下矿井采矿、制鞋、做衣服、做家具、育林采伐、养殖、捕鱼等都会成为现实。
产业机器人在人类各种生产活动中的广泛应用，不但使人类从繁重、枯燥、有害健康和危险的生产劳动作业中彻底解放出来，而且产业机器人比人的作业效率更高，生产出的产品质量更好，使产业能创造出更大的经济效益。毫无疑问，产业机器人的推广应用将会加速社会经济与技术的进步，以产业机器人取代人从事各种生产劳动作业是历史发展的必然，势不可挡。这一过程可能需要几十年，但是人类生产活动中的全部体力劳动最终会被各种产业机器人所代替。到那时，再也见不到从事体力劳动的工人、农民、矿工、建筑工、渔民，生产活动中的脏活、累活和危险工作都由机器人完成。那么人还做什么?机器人会不会造成大量失业?
世界经历了多次工业革命，每一次工业革命都带来社会的进步和经济的繁荣，同时也会造成大量工人和职员职业的升级转型。随着机器人应用数量的增多，会使一些工种消失，但是也会出现一些新的工种和就业机会。机器人代替人从事体力劳动，人类就会有更多的时间去学习，去研究，去创造，这无疑对人类文明与社会进步是非常有益的。
2. 服务机器人将进入家庭，成为人类的助手与朋友
比尔·盖茨在《科学美国人》上发表了一篇有影响力的文章" A Robot inEvery Home" 。他通过比较机器人和电脑行业的发展状况，预言机器人将走进千家万户，重复20世纪70年代以来计算机产业崛起的道路，并将再一次彻底改变人类的生活方式。
服务机器人将成为人类生活的得力帮手和亲密朋友。目前，人口老龄化加剧和众多残障人口成为制约社会发展的突出问题，对各类服务机器人提出了非常迫切地需求。家庭服务机器人可以从事各种家务劳动，可以护理老人小孩、陪伴儿童学习、看家护院、修剪草坪、管理庭院、医疗监护。家庭服务机器人可以提高人类的生活质量，使人的家庭生活更加舒适幸福。由于家庭服务机器人会与人紧密接触，因此对这种机器人的安全性、可靠性和人机交互性能有非常高的要求，同时要求家庭服务机器人价格低廉、易操作维修，从而更加适合在家庭应用。社会服务机器人可以为人看病、做手术、护理病人，可以做导游导购、为汽车加油充电、自动化存车、自动驾驶、智能交通、递送货物和餐饮娱乐服务等，在生活中将会见到越来越多的服务机器人的身影，它给人类社会带来方便，使人类生活更加安全舒适和丰富多彩。
3. 特种机器人将进入各种极端作业环境，成为国家安全和科学探险的主力军
科学考察机器人将成为大无畏的探险者。包括空间机器人和水下机器人在内的机器人能上天、入地、下海，到达那些人类难以到达、难以生存的地方，去探查宇宙的奥秘和大自然的未知世界。科考机器人不断扩大人类的视野，帮助我们揭开更多未知世界的奥秘。例如，机器人在火星探测、月球探测、深空探测、深海探测、火山探测、极地科考等已经投入使用。相信随着科学技术的进步，人类还会创造出更多的科考机器人去探查无限的未知世界。
军用与保安机器人将成为勇敢善战、不怕牺牲的钢铁战士。美国正在实施" 未来战争系统" 计划，他们认为，即使造价最昂贵的机器人，也比合同役士兵廉价; 而且可以避免因伤亡而造成的心理恐慌与压力。用机器人代替士兵打仗，实现军队机器人化，是未来战争的理想选择。空中作战机器人、陆地作战机器人、水下作战机器人大量出现，军用机器人还可以站岗放哨、侦察、救护、运输、狙击、排雷，还会组成联合作战的机器人兵团，进行多机器人协同作战。保安机器人可以完成反恐、排爆、防险、救灾、抓捕逃犯等任务。军用与保安机器人可以使部队在执行任务中减少伤亡、提高作战能力、提高后勤及辅助作战能力、完成排雷排爆任务、提高防恐反恐能力，使人类社会更加安全。
三、 机器人的智能化程度不断提高
机器人技术的发展经历了三个阶段:(1)第一代机器人是示教再现型机器人。这种机器人严格按程序进行动作，可以不断重复作业，但是不具备感知功能，因为它不了解作业环境的变化，也不可能对作业环境的变化做出动作上的反应。(2)第二代机器人是具有感知功能的机器人。这种机器人具有力觉、触觉、视觉、听觉、温度觉等感知功能，能够感知外界环境的状况与变化，通过数据处理与识别，机器人能够对外界环境的状况与变化做出判断和决策，并对原有的作业程序做出相应的改变，使机器人在外界环境变化的情况下仍能很好地完成作业。(3)第三代机器人是智能机器人。智能机器人不但具有感知功能，而且还具有思维功能。智能机器人具有任务理解、环境理解、作业规划、路径规划、学习、推理、分析、决策等功能。
目前在世界装机使用的100多万台机器人中，超过90%是第一代机器人，少数是第二代机器人。作为当代智能机器人代表的火星探测机器人、深海探测机器人及空间机器人也是具有局部自主加遥控功能的智能机器人，但不是全自主的智能机器人。全自主的智能机器人目前还没有。
科技的进步会使机器人的能力越来越强大，最终智能机器人会超过人而统治世界吗?所谓机器人的能力，是指它的体能、感知能力和智能水平，因此回答这个问题需要考虑以下三个方面:(1)机器人的体能能否超过人?机器人的力量、速度、灵敏度、灵活度、精确度都能超过人，因为现代的机械、驱动、控制技术完全可以使机器人的力量比人大，使机器人的运动速度比人快，使机器人的运动灵活度和精确度比人高。现在，一个机器人可以轻易地将一辆汽车举起，而一个人的体力是做不到的。(2)机器人的感知功能能否超过人?现代的传感器技术已经非常先进，机器人具有力觉、触觉、视觉、听觉、热觉、嗅觉、接近觉等感知功能，有的已经超过人的感知功能，比如机器人的接近觉、红外视觉、超声听觉等感知功能是人类所不具备的; 力觉、触觉、听觉的灵敏度也超过人的感知能力。当然，机器人的有些感知功能不如人类，例如目前机器人的实时视觉不如人眼的反应速度快。打乒乓球机器人目前仅能打低速球，如果球速较快，机器人的视觉就跟不上高速运动的乒乓球，不能获得乒乓球的实时运动轨迹与位置，与人快打乒乓球就无法进行下去。但是随着计算机运算能力与速度的提高，机器人的实时视觉总会有一天超过人类眼睛的实时感知能力。据报道，大黄蜂的视觉速度是人类的5倍，一些学者通过研究大黄蜂的视觉原理，研制仿大黄蜂眼睛的视觉传感器，试图提高机器人的实时视觉功能。总之，随着科学技术水平的不断提高，人类完全有能力使机器人的感知功能超过自己。(3)机器人的智慧能否超过人?计算机是机器人的大脑，机器人的思维功能是靠计算机实现的，机器人的智能化水平主要取决于计算机。现在一些国家的科学家正在对人类大脑的构造进行研究。计算机、人工智能和脑科学方面的专家正在努力研制一种能像人类大脑一样的人造大脑。
IBM公司研制了由32个处理器组成的超级计算机" 深蓝" ，每秒钟可以运算2亿次; 一批有经验的专家也开发出了一套能下国际象棋的软件，该软件中包含了100年以来200多万个国际象棋对局。1997年5月12日，国际象棋大师卡斯帕罗夫与会下国际象棋的计算机" 深蓝" 对弈，结果卡斯帕罗夫输给了" 深蓝" 。这件事在国际社会引起很大反响，许多人担心，计算机的智慧将来会不会超过人?其后果又会是什么样?
2011年2月16日，IBM公司超级电脑" 沃森" 战胜詹宁斯和鲁特这两位高智商、知识渊博的前优胜者，赢得智力竞答电视节目《危险》的100万美元大奖，再一次引起大家的忧虑。
随着计算机、人工智能和脑科学的不断进步，具有类人智慧的人造大脑一定会被人类创造出来，这个人造大脑具有强大的学习能力和进化功能，能够越来越聪明。但是，这个大脑毕竟是由人创造出来的，它的智慧是人类赋予的，人造大脑可能超过某个人的智慧，但是永远不会超过人类的集体智慧。所以对智能机器人将会统治世界的恐惧是没有必要的。如果某个智能机器人真的要造反，不用害怕，人类会造出一个比它更强大的智能机器人打败它。
四、 结束语
21世纪是机器人技术大发展的时代。让我们以满腔热情去迎接机器人大发展时代的到来，发挥我们的聪明才智去幻想与创造未来奇妙的机器人世界。机器人的发展是没有止境的，它只受到人类想象力和创造力的限制，而人类的想象力和创造力是无穷的。
好奇心、观察力、想象力、创造力永远是推动科技创新发展的动力与源泉。一个个新型的机器人将会不断地被创造出来，机器人的种类将越来越多，机器人的智能化程度也会越来越高。
机器人将成为人类生产活动的主劳力、人类生活的亲密朋友和伙伴、勇敢的探险家、保家卫国的钢铁战士，机器人正快步走进人类社会的各个领域，它会对人类生活方式产生深远影响，机器人会造福于人类社会，使人类生活更加美好。
A Great Age of Robots
CAl He-gao
lnstitute of Robotics, Harbin lnstitute of Technology; State Key Lab of Robotics & Systems
Abstract: The 21st century will witness the great development of robotics.ln this era, robots are employed in more and more fields, with the rapid progress of their intelligence level.They will be-come the main workforce in production activities of human society, close aides and friends in our dailylives, explorers to unravel mysteries around the world, and iron soldiers to maintain the peace and safe of our living environment. Thus the development of robotics will promote the prosperity of so-cial economics and our civilization, which will influence the mode of our lives profoundly.
Key words: Keywords:the great development of robotics age influence