[学习时报]上海交大黄庆桥：警惕机器人时代的“潘多拉魔盒”[图]

近日，俄罗斯一款名为Promobot的机器人受到全世界的关注。因为它居然能利用主人忘关实验室门的“疏忽”，成功“逃逸”，跑到了俄罗斯郊区的大街上，并导致交通堵塞。  

对于这件事，有人兴奋，更多的人则表达了担忧。机器人时代的到来不可避免，担心和忧虑也并非是杞人忧天。这其实涉及一个非常严肃的重大问题，即机器人的发展，应该受到怎样的伦理和法制规范?在中国已成为世界第一大机器人消费国的当下，对这一问题的讨论更具现实意义。  

中国：世界第一大机器人消费国

根据国际机器人联合会(IFR)的报告，2013年，全球工业机器人销售量约17.9万台;其中，在中国销售量约3.7万台，占全球总销量的约五分之一。就在这一年，中国成为全球最大的机器人消费国。在相当长的一个时期内，这种局面仍将持续。中国在近几年迅速跃升为机器人第一大销量国，有着深刻的国际国内背景。  

先看国际大环境。2008年金融危机后，美国、欧洲都高调宣布重整制造业的山河。工业制造业一直是发达经济体的强项，他们要回归制造业，不可能走老路。从《重整美国制造业框架》《构筑英国的未来》《面向光辉日本的新成长战略》，到更加著名的德国工业4.0计划，发达国家重整制造业，走的是大幅提高科技含量、提高产品附加值的路子。大规模使用机器人就是他们所走的新路子之一。  

在此背景下，中国企业如果不升级换代，其产品的竞争力可想而知。这几年，中国人赴外“海淘”、爆买已不是什么新闻了。再者，中国制造业还深受高能耗、高污染、低附加值的束缚，升级换代不仅是制造业面对生存危机的选择，而且已成国家发展的必然战略。让机器人走向前台，已从先前的“备选”项成为“必选”项之一，这充分体现在《中国制造2025》里。  

另外一个重要原因是国内劳动力成本的持续上升。当前，人口红利逐渐消失，招工难、用工荒已不再是个别现象、局部问题、季节性问题，而逐渐成为常年困扰各行业的大难题。尤其是近年来，“90后”劳动人口逐渐成为劳动力市场的主体，他们不再愿意像父辈那样，大量从事单调重复而且环境差的工作;社会的进步、物价的上涨和城市生活成本的上升，客观上也必然增加劳动力的成本。廉价劳动力的时代，已经一去不复返了。  

形势的变化正在倒逼我国制造业转型升级，各行业对机器人的需求已呈井喷之势。不过，虽然我们机器人销量全球第一，但与国际上主要经济体相比，我国机器人的使用密度还比较低。据国际机器人联合会统计，每万名制造业工人的机器人保有量，韩国为396个、日本332个、德国273个，世界平均水平58个，而中国只有23个。因此，中国机器人产业的发展前景依然很广阔。  

机器人狂飙突进引发种种问题

当世界各国都热情拥抱机器人的时候，另一种声音犹如清醒剂，让人们逐渐冷静下来。机器人会不会失去控制?机器人会不会伤害人类?机器人会不会抢人类的饭碗?机器人犯法了怎么办?诸如此类的问题不断被“多虑”的人们提出。必须承认，对这些 “多虑”的问题的解答，其重要性可能并不亚于机器人技术本身的发展进步。如果不从伦理、法律等角度对机器人进行反思与调控的话，许多科幻电影中机器人与人类发生激烈冲突的场景极可能会变成灾难的现实。  

当前，机器人对人类最现实的威胁就是它可能“抢夺”很多人的饭碗。据2013年剑桥大学的一项调查研究，德国已有的3000万个工作岗位中至少有1800万个都可能被机器人所取代。不同工作岗位的失业风险程度取决于专业化分工、职位等级和工作性质，这引起德国就业者的高度关注。德国的情况是如此，那些雄心勃勃要实现“机器换人”的国家，同样面临着类似的问题，以至于很多人对此忧心忡忡。  

不过，对于机器人抢人类饭碗这个问题，也有乐观派。有人就认为，就像马车制造商最终会让位于汽车工厂一样，技术在毁掉一些工作的同时，也会创造出许多新的工作，只是我们现在还不知道具体情况罢了。另外，有一些人类才有的技能，机器可能永远无法复制，比如直觉、应变性和创造性等。总之，岗位的专业化程度越高，被机器人取代的风险就越小;而岗位的专业化程度越低，被机器人取代的风险也就越大。  

另一个引起高度关注的深层次问题是机器人所引发的诸多伦理问题和法律困境。自机器人被发明以来，对它的伦理考量就已经开始。早在1950年代初，美国著名科幻作家艾萨克·阿西莫夫就提出了所谓的“机器人伦理三定律”：第一，机器人不得伤害人类，或看到人类受到伤害而袖手旁观;第二，机器人必须服从人类的命令，除非这些命令与第一条相矛盾;第三，在不违背第一、二条定律的前提下，机器人必须保护自己不受伤害。  

未雨绸缪：提前立规、提前立法

伴随着机器人技术和产业的蓬勃发展，关于机器人伦理的研究也方兴未艾，并引起诸多政策层面的广泛关注。比如，美国国家科学基金会、欧洲机器人研究网络、韩国工商能源部等都致力于机器人伦理的研究与规则制定，并以此指导机器人产业的发展。  

与伦理挑战相伴而生的问题还有法律的不健全。当前，围绕机器人制造和使用的法制建设显然远远跟不上机器人技术发展的步伐。其实，对机器人立法归根结底是对人类的立法，规范人类对机器人的制造和使用。  

伴随着智能机器人产品走向社会生活领域，类似无人驾驶汽车等涉及的法律问题层出不穷。  

科技应该为人类服务，而不应该成为人类发展的威胁，这是共识。但只有规范技术开发者和使用者的行为，才能使科技更好地为人类服务。就像当初科学家发明计算机的时候，没能预见到会出现电脑病毒一样，今人同样很难预见机器人将会给我们带来什么麻烦。但可以肯定的是，机器人的应用会越来越普及，机器人与人类的关系会越来越紧密，机器人将很快走进我们每一个人的生活。展望未来，如果没有道德规范和法律的约束，机器人技术就很有可能被别有用心的人利用，机器人产品就很有可能在现实生活中给我们制造意想不到的麻烦，人类也就真的可能会面临所谓的机器人灾难。所以，趁机器人还没有真正广泛普及，规范人类对机器人的制造和使用，谁说不是未雨绸缪的明智之举呢?  

当前，中国机器人产业正蓬勃发展，但与机器人相关的伦理法制建设却比较滞后。在这方面，应是主管部门、行业协会和学术界大有可为之处，未雨绸缪，提前立规，提前立法，让机器人真正成为社会的福音而不是打开了的“潘多拉魔盒”。 

（作者为上海交通大学科学史与科学文化研究院副研究员） 

来源：《学习时报》 2016.07.25 第A7版 科技前沿 

原文： 警惕机器人时代的“潘多拉魔盒”