人工智能与人的“新异化”(5)

由于智能系统比工业机器的运转更快，要求更细致、更严格，相关员工的工作节奏也越来越快，工作与生活之间的界限日益模糊，曾经的私人空间和闲情逸致被压榨得无迹可寻；由于社会交往加速，“虚拟交往”成为普遍的交往模式，人们甚至更愿意与方便快捷、“贴心”服务的各种智能系统打交道，冷漠的人际关系和紧密的人机互动形成了鲜明的对照；由于经济和社会运转驶上快车道，人财物与信息一样全球高速流动，流行疾病、群体骚乱、生态灾难等的跨地域扩散也前所未有。以上各种加速往往叠加在一起，越来越多的人感觉眼花缭乱，整天疲于应付，陷入紧张、焦虑和不安之中，却并不知晓相关变化的意义、方向，无力掌控自己的命运。
最后，人工智能的能力和自主性日益增强，可能通过自主升级获得远超人类的智能和力量，将人类的前途和命运置于巨大的不确定性和风险之中。例如，智能无人系统往往是以任务为中心制造的，为了完成任务，其自主性行为是否可能偏离设计者的初衷和预设？尽管超级智能最初的算法可能是友善的，但是否可能通过自主的调适、学习产生“异心”，变得富于攻击性？超级智能是否可能突破算法中预设的限制而不断升级，获得人类难以理解的智能和力量，采取人类未曾预料、却极具危险性的行动？超级智能是否会与其他意图相似的超级智能结成超级智能组织，通过“脑机接口”、人工神经网络之类实现对人脑的监控，反过来统治虚实结合的未来世界？超级智能是否可能依据自己更宽广的视野和更丰富的背景知识，形成一套“非人类中心”的“智能标准”，重估一切价值，特别是判定身体和智能都存在限度的人类“数量太多”“浪费资源”“扰乱秩序”“用处不大”，从而为人类的繁衍、发展设限？
面对这一切，技术悲观主义者一直忧心如焚，陷入了一种不断强化的心理异化状态。如詹姆斯·巴拉特（J.Barrat）认为：“机器并不憎恨我们，但随着它们获得宇宙间最不可预测、我们自己都无法达到的高级力量，它们会做出意想不到的行为，而且这些行为很可能无法与我们的生存兼容。”尼克·波斯特洛姆（Nick Bostrom）觉得，人类很可能会遭遇“整体存在性风险”：“如果有一天我们发明了超越人类大脑一般智能的机器大脑，那么这种超级智能将会非常强大。并且，正如现在大猩猩的命运更多地取决于人类而不是它们自身一样，人类的命运将取决于超级智能机器。”科学家史蒂芬·霍金（Stephen Hawking）生前更是语重心长地告诫人们，要警惕智能“新物种”招致人类的灭亡，“终结”人类文明史。