陈冲：梦中呼喊的人丨AI时代的人类意见(2)

你开玩笑说，可怜的ChatGPT，被你这么折磨。我回，问题是你可以折磨它直到你筋疲力尽或老死，它都毫发无损，怎么跟它竞争啊？你说，而且你越折磨它，它越强大。
第一次正式派上GPT的用场，是因为航空公司丢失了彼得托运的高尔夫球棒，管事人说球棒放在超大行李传送带上了，那之后不见的就不关航司的事了。我怀着好奇的心理向ChatGPT求助，没想到一封完整的法务信件瞬间出现在屏幕上，井井有条，面面俱到，振振有词。没有ChatGPT我自己也能写出来，但是为什么要花那么多时间精力去写一封枯燥乏味的法务信件呢？何况结果还不一定有它写的那么奏效。
所有这些不再被我们需要的人的能力，所有能省略掉的过程，都将不复存在。这是生命的效率，人是通过如此淘汰进化而来的。过不了几代人，母亲说的“笨小孩”也许就会越来越多了吧——毕竟，挣扎的过程是形成独立思考的唯一途径。你和你的同仁们都预言，AI很快会在感知和认知能力以及任务方面超越人类，它将为我们完成95%或者更多的工作，为我们创造巨大的价值。每次听到这样的话我都纳闷，那人自身的价值呢？
今年五月，好莱坞编剧工会开始罢工游行，其中一个重要的协商内容，就是关于生成性AI的使用规定。我跟你说，目前AI对我们行业的影响还没有真正显现，但我仿佛看着一个巨大的陨石，燃烧着惊艳火光，以每秒十公里的速度从天边向我们飞来，像电影《不要抬头》那样。你回，AI会是你最好的工具。
同月，你发来了一封世界尖端AI创造者的联名信，其中包括了你的署名，“……在短短几个月的时间里，从最初只是生成美丽图像和有趣对话的机器人开始，这一潜力迅速膨胀，导致了一种如此强大的技术，以至于我们现在对其可能产生的影响感到恐惧…… 人类正在因此面临着灭绝的危险”。增强型通用智能的出现，将彻底改变人类的进程，重新建立人与人、人与机器、机器与文明、机器与社会的秩序，而正如尼科洛·马基雅维利在《君主论》中所说，“没有任何事比引入和执行一个全新的秩序更困难、更危险和无法保障成功”。2023年将载入史册。
其实，“智能机器”的概念——它作为一个不知疲倦的助手、终极士兵，甚至一个贴心的伴侣——已经吸引了人类的想象力数千年。早在三千年前，荷马史诗中就描写了，火神赫菲斯托斯利用他的特殊能力创造了“由金制成的仆人，看起来像活生生的少女”。这些似人的机器“有智慧，有声音和活力，它们从不朽的神祇那里学到了技艺，整天匆匆忙忙地围着主人服务”。 这个与文明一样古老的愿望眼看就要实现了，如此伟大的创举却让我想起一个说法：小心你的愿望。下半句一般不用说出来：它恐怕会成真。Be careful what you wish for（lest it come true)。