站内搜索        项目查询   专家查询   网站地图   重大项目要览   基金管理办法
加入收藏 加入收藏     设为首页 设为首页   

全国哲学社会科学规划办公室>>最新成果集萃

杜严勇:机器人伦理研究方法论原则

  2015年09月10日10:34  来源:中国社会科学报

目前,世界各国高度重视机器人技术与产业,制定专门的发展战略,投入大量资金,积极抢占世界市场。比如,中国的科技部制定了机器人发展专项规划,强调“十二五”期间将重点发展工业和服务机器人产业。

在不久的将来,机器人完全可能像个人电脑那样,与我们的日常工作与生活息息相关,密不可分。但是,机器人在带给我们便利的同时,也可能产生各种风险,甚至对人类的生存构成威胁,来自科学、技术、文学与哲学等不同领域的学者以各种方式表达了对机器人发展的忧虑。如何与机器人和谐相处,已经是一个日益紧迫的现实问题,而不是纯粹的理论思辨,这也是近10年来西方学术界中机器人伦理研究蓬勃发展的根本原因。在机器人伦理研究中应该坚持贯彻哪些基本原则,是我们首先要面对和反复思考的问题。

阿西莫夫的机器人学

三原则

在机器人伦理原则中,阿西莫夫 (IsaacAsi-mov)于1942年提出的机器人学三大原则最为著名:第一,机器人不得伤害人类,或坐视人类受到伤害而袖手旁观。第二,除非违背第一法则,机器人必须服从人类的命令。第三,在不违背第一法则及第二法则的情况下,机器人必须保护自己。在1985年出版的《机器人与帝国》一书中,阿西莫夫强调了“整体人类比单独一个人更重要”的思想,将保护整体人类作为机器人学的本初法则,而第一法则主要强调的是人类个体。

阿西莫夫的机器人法则具有明显的人类中心主义色彩。在生态伦理学中,人们一般认为人类中心主义过分强调人类的利益,忽视或贬低自然界其他生物的价值,是不合理的。

在生态问题十分突出的现代社会,非人类中心主义强调自然界不是人类的奴隶,其他生物与人类具有同等的道德地位,显然具有更大的合理性。不过,从根本上讲,非人类中心主义乃至生态伦理学的最终目的还是为了保护人类的根本利益。更何况,机器人本身就是人类制造出来为自己服务的,跟自然界天然存在的生物有着本质的差异。也就是说,阿西莫夫的机器人法则虽然存在某些不足,但其强调人类的根本利益这一点应该是机器人伦理的出发点与落脚点。

从道德哲学的角度看,人先天地具有道德本能,而不是通过学习伦理学而变得善良。机器人伦理与人类的道德本能完全相反,机器人不具有道德本能,它所拥有的道德判断与行为能力完全是人类应用自己的理性进行设计并赋予机器人的,是典型的“人类中心主义”。当然,与阿西莫夫的本初法则类似,这种人类中心主义的伦理并不是以单个或少数消费者为核心,而是以保障作为整体的人类安全与道德水平为目的。

方法论原则

从一般的意义上讲,机器人伦理研究需要遵循人们普遍接受的伦理原则。针对目前的机器人伦理研究现状,我们尝试提出以下几条机器人伦理研究的方法论原则。

第一,灵活性与开放性原则。与生命伦理、核伦理等科技伦理不同的是,由于机器人应用非常广泛,希望某一种或几种伦理原则可以解决所有问题是不现实的。同时,由于文化的多元性与地域性等原因,导致对于同样一项机器人技术,不同的受众群体在不同时期可能会做出完全不同的伦理价值判断,需要具体问题具体分析。为了准确把握受众群体的伦理诉求,必须按照一定程序进行理性对话与调查研究,并建立相应的反馈机制。也就是说,机器人伦理研究需要在特定的社会情境中展开。这些都要求机器人伦理研究要遵循灵活性与开放性原则。

第二,阶段性与综合性原则。虽然机器人在某些方面远超过人类,但限于目前计算机、人工智能以及机器人学的发展水平,机器人在常识性知识、学习能力等方面还不如人类。而且,由于学者们关于在机器人中实现哪些伦理原则,以及如何实现等许多问题尚未达成一定程度的共识,所以在研究过程中需要分阶段进行。已有的研究成果表明,在对机器人进行伦理设计的研究中,可以首先让机器人成为“伦理顾问”,然后对其伦理判断进行综合评价,再对相应的伦理原则与计算机程序进行调整,如此反复进行。在已有的机器人伦理研究进路中,主要有人工智能进路、心理学或社会学进路,以及哲学进路等,在分门别类进行详细考察的基础上,最终需要将各种研究进路统一起来。

第三,安全性与预防性原则。在科技伦理当中,安全性原则的重要性尤为突出。在机器人能力越来越强大的时代背景下,安全性原则应该是首要原则。在许多关于机器人的科幻小说与影视作品中,大多折射出悲观主义的立场,认为机器人会超越甚至战胜人类,由此更加突显了安全性原则的重要地位。即使机器人技术可能对人类及其生存环境形成危害的因果关系没有得到充分证实,只要其可能性存在,我们就有理由对其开发应用保持足够的警惕。另外,机器人的研发机构对于机器人的应用可能产生的风险也必须尽到告知义务,等等。总之,从机器人的设计、开发到使用,安全与预防原则都必须一以贯之。

(本文系国家社科基金项目“机 器 人 伦 理 问 题 研 究 ”(15BZX036)阶段性成果)

(作者单位:上海交通大学科学史与科学文化研究院)

(责编:李叶)