陈冲：梦中呼喊的人丨AI时代的人类意见(5)

他们拥有了包罗万象的知识和所向披靡的认知，还会有神秘的体验吗？还能遐想和惊异吗？还需要意义吗？人类文明的驱动力——不管是发展科技还是人文——都源于对意义的渴求，而并非对真理的渴求。AI完全不需要意义。
增强型AI的自主性加上人的天然惰性，会不会使这个新物种变成人工智能的寄生载体？就像那些被寄生蠕虫侵入了大脑神经的蟋蟀，跳到河里去自杀，从而让寄生蠕虫进入更有利于其繁殖的水环境。
人与新物种之间会发动战争吗？就像那些科幻小说和科幻电影里的那样？使用AI自主武器打仗将是什么样的情景？
每个美梦都能在镜中看到一个噩梦的深渊，就像我们仰望苍茫的夜空时，看到自己灵魂的深渊……
不管发生什么，结局是不是都一样？朝代来了又去，文明来了又去，人类也将来了又去，就像恐龙来了又去，星球来了又去，宇宙来了又去。这种宿命的感觉或许也导致了我对废墟的迷恋？古罗马的格斗场，秘鲁的马丘比丘，墨西哥的玛雅遗址…… 我们不仅能从断壁残垣看到昔日的辉煌，也能看到我们自己的未来，看到地球上每一个终将被自然或非自然吞噬的文明。婷婷九岁的时候我带她去了庞贝——公元79年被维苏威火山爆发埋没了的古城。记得她一动不动地望着玻璃展柜中被岩浆定了格的人，神情那么严肃。我问，你在想什么？她转头看我，如梦初醒。然后她做了个怪脸，笑着模仿起那些岩石的人体。也许她没有语言表达对生死懵懂的思绪？也许她从扭曲的肢体中看到人类永恒的痛苦和挣扎？
艺术家描绘的未来，往往是一派反乌托邦的衰变景象和某种怀旧的惆怅，而你总是说人类会因为科技的进步而越来越幸福。我欣赏你的乐观，以及你对自己领域的信念和期待，但是人怎么可能因为科技进步而变得越来越幸福呢？幸福与苦难从来是成正比的，就像光明与黑暗，科技能让阳光没有阴影吗？医学的发展可以减轻人肉体的疾痛和折磨，但是苦难本身是人类的生存境况（human condition）。也正是痛苦的体验，让我们对他人的苦难有了温柔和同情。幸福的基石不是科技的进步，而是对苦难的忍耐、抗争和释怀。幸福与苦难怎么平衡？一边是几粒金色的麦穗，另一边是无际的苦海。然而，它们是平衡的，就像宇宙是平衡的一样。那几粒麦穗包含了每一片日出，每一片日落，每一份滋养你的美丽，每一个值得你的渴望。今天你在天平的这边，明天你也许在天平的那边，不需要太多理由。
我们唯有珍惜。
今年以来，你参加了各种AI安全使用的峰会和论坛，并起草了AI对人类的具体威胁以及给管理者的建议。我觉得这些努力值得敬佩，跟你说：你在为人类做一件伟大的事情。半秒钟内你发来一个字：No——有点不容置疑，不像谦虚或客气。或许你惯常的乐观是一种心灵取向，而并不依赖于现状或对未来的评估。你很清楚，人的本性和未来都像洪流一般汹涌，而“自由意志”只是洪流中的一株浮草；驱使我们创造出惊人奇迹的动力，也必将导致自我毁灭。