人工智能与人的“新异化”(13)

如果智能机器人具有类似人类的智能，在一定意义上是“人”，或者在一定程度上具有“人的本质”，那么这将是人类自诞生以来所遭遇的最新颖、最诡异的异化：人类兴致勃勃地创造了人工智能，希望它成为类似机械一样“驯服的工具”，帮助人类实现各种目标、创造美好生活，却发现打开的是一个神秘的“潘多拉魔盒”，释放出前景莫测、难以驾驭的异己力量。
首先，“人是什么”这一曾经清晰的问题变得越来越不确定了，人们被迫重新反思和界定人的类本质，重新反思和清理一切立足于人的立场的理论和实践。目前，智能技术正与生物技术加速结合，具有自主意识、创造能力、类人情感、社会交往属性的智能机器人已经渐露端倪，未来很可能变得与自然人难分彼此。玛蒂娜·罗斯布拉特（M.Rothblatt）更是提出通过思维克隆技术，创造不死的“虚拟人”，并为此进行了全方位的社会构建。“一旦被创造出的有意识的思维克隆人——即智能的、有情感的、活的虚拟人，成为一个普遍的人类追求，我们将面对很多新的个人问题和社会问题，因为它从根本上扩展了‘我’的定义。”在经过漫长的演化之后，人们蓦然发现必须重新“认识自己”，在将“人”与智能机器人加以必要区分的基础上，重新探索界定人的类本质的视角和方式。
与此同时，面对智能系统的智能表现和日新月异的“进化”速度，人作为“万物之灵”的优越感受到颠覆性打击，人类的“自我认同”面临前所未有的危机。
其次，自主性是智能系统正在获得的主要特征和功能优势，这对人类享有的“唯一的主体”地位造成了冲击。智能无人系统在运作过程中，其所处的环境、条件往往是动态变化的，需要应对各种不确定性，需要权衡多方面因素，因而需要自动识别目标、自主选择操作方式，并排除外界干扰完成任务。无论是无人驾驶汽车、船舶、飞机，还是各种自动操作系统、智能管理系统，乃至致命性的自主武器系统，其先进程度往往主要通过自主等级加以刻画。事实上，它们的自主性正日益增强，自主等级正日益提高。而各种智能无人系统越是自主、自由，越是能够自主进行评价、选择和决策，它的主体地位问题以及相应的责任问题就越是突出。人们对于让渡给它们的自主评价、选择、决策权一直惴惴不安；一旦它们“闯祸”，之后的责任归属和责任分配也令社会各界争论不休。是否、或者在何种程度上承认智能无人系统是“主体”，“如何设计机器人的行为伦理”，都对人作为世界主宰的地位构成了挑战。