人工智能应不应该享有独立的权利和义务？

　　《人人都应该知道的人工智能》书影。供图：湛庐文化浙江人民出版社
　　牛津大学出版社的人人都应该知道的事系列丛书，旨在用简洁客观的启蒙读本和问答形式来探讨目前存在或即将到来的复杂的社会问题。本书《人人都应该知道的人工智能》的主题是人工智能（ArtificialIntelligence，简称AI）。经过60多年的发展，人工智能正在改变我们生活、工作和社交的方式，甚至可能改变我们对自身在宇宙中所处地位的看法。
　　大多数与人工智能相关的图书要么是入门教材，要么是对某个子学科或者研究机构的评述，或者是某个学者或未来学家（比如我）的预言。但在这本书里，我试着用简洁的语言来探讨人工智能在未来几十年里可能带来的一些复杂的社会、法律和经济问题。
　　在这本书中，我没有把重点放在技术细节上，而是试着概述一些存在重要争论的基本问题和各方论点，例如机器是否会变得比人类聪明和如何赋予它们法定权利。还有，能自我学习、灵活多变的新一代机器人将如何影响劳动力市场和收入不均的现象。这些都是富有争议的话题。我在此提出的许多问题，在人数众多、气氛活跃的学者社群里也在激烈地争论着。我不打算进行面面俱到的文献综述，也不准备对每种观点都花费同样多的笔墨。当然了，并不是所有人都赞同我的观点。为了帮助你分辨我和其他人的观点，每当我开始陈述自己的见解时，就会采用第一人称的视角，以示区分。
　　在适当之处，为了让论述更生动，我会使用当下正在进行的项目或应用来举例，以阐明论点。但是，由于人工智能的发展非常迅速，我并不打算对目前新的发展状况做出完整的纵览，因为这样做注定将是不完整的，并且很快就会过时。相比之下，我会提及一些更引人注目的思想者和项目作为入门，好让感兴趣的读者可以继续深入研究。因此，本领域的理论家和从业者可能会发现，与他们所习惯的专业期刊和学术论坛比起来，我这个方法更随意。为此，我先行致歉。
　　总的来说，本书不打算宣传原创研究，也不准备对该话题进行深入探讨，更不能作为新入行的从业者的教科书。相反，《人人都应该知道的人工智能》这本书的目的是向好奇的非技术读者提供一条捷径，一份扼要且易读的简介，让他们了解这个话题，以及这项重要技术在未来可能造成的影响。
　　现在，让我们通过一个问题来热热身：你为什么应该读这本书？
　　近年来，机器人、认知科学和机器学习领域取得了很大的进步。计算机技术的发展越来越快，使得其在特定领域或特定任务上比肩甚至超越人类的新一代系统成为可能。这些系统的自动化程度远超过大多数人的认知水平。它们可以从自己的经验中学习，并能采取其设计者都想不到的行动。计算机只能做人类安排它们做的事这一广为流传的既定认知，已经不再适用。
　　机器在智能和体能方面的进展将改变我们生活、工作、娱乐、寻找伴侣、教育子女和照顾老人的方式。它们还将颠覆我们的劳动力市场，对社会秩序进行重新洗牌，并让私营企业和公共机构都面临紧张的局面。不管我们是否认为它们拥有意识，也无论我们是将它们视为一种新的生命形式还是聪明的家用电器，都无关紧要。无论如何，它们都很有可能会在我们的生活中扮演越来越重要和密切的角色。
　　能独立思考和行动的系统会带来一些严肃的问题。例如，它们应该为谁的利益服务？社会应该为它们的制造和使用设置什么样的限制？困扰哲学家多年的一些深奥的伦理问题陡然降临于我们这代人的法庭之上。机器是否应该为自己的行为负责？智能系统应不应该享受独立的权利和义务？或者，它们是否只能算别人的财产？如果无人驾驶汽车撞死路人，应该由谁来负责？你的私人机器人能否帮你排队或者被迫做出不利于你的证词？如果你把思想上传到一台机器里，那这台机器算是你吗？这些问题的答案可能会让你大吃一惊。
　　解决这些问题并不容易，我们应该从历史中，从我们与动物和公司等的关系中，从我们对待女性、儿童和残疾人的态度变化中去寻找方向。
　　在接下来的几十年里，人工智能将会肆意拉扯我们的社会结构。未来会像《星际迷航》（StarTrek）中那样空前繁荣与自由，还是会像《终结者》（Terminator）中那样爆发人与机器之间无尽的战争，将很大程度上取决于你我的行动。
　　【作者杰瑞卡普兰（JerryKaplan）系斯坦福大学人工智能与伦理学教授，他设计了世界上第一台笔触式计算机并预示了iPhone和iPad的出现，曾著有畅销书《人工智能时代》；译者系汪婕舒。本文经授权摘编自《人人都应该知道的人工智能》一书中文版序言，现标题系编者所加】
　　责任编辑：许革，张彦武