年度最理性AI分析文章：预测AI未来，大部分人陷入了7大误区(8)

在想象未来技术的时候我们都会出现这样的问题。如果它距离我们今天能够理解的技术太遥远的话，那么我们是无法知道该技术的局限性的。这时候它开始变得与魔法无异。
当一项技术超越了这条魔法线之后，一个人说的任何东西都不再可以证伪，因为它是魔法。
在试图跟人争论我们是否应该对纯粹的AGI（且不说上述C、D情况）感到恐惧时，我经常会遇到这样的问题。我被告知我并不理解它有多强大。这不是一个论据。我们甚至都不知道这样的东西是否存在。我看到的一切迹象均表明我们对怎么造这样的东西毫无头绪。所以它的属性是完全未知的，在修辞上它就迅速变成了魔法和超级强大。没有限制。
要小心哪些有关具有魔力的未来科技的论据。因为这些论据你永远也无法反驳。因为它以信念为基础，而不是科学依据。
3. [A、B、C]表现与能力
估测与我们互动的个人的能力是我们大家都会的社会技能之一。诚然，有时候“脱离群体”的问题往往会超出我们的预计，而这些就是种族主义、性别歧视、阶层歧视的根源。不过就一般而言，我们会利用一个人执行特定任务的表现作为线索来估计他们执行不同任务的表现。我们能够通过观察执行一项任务的表现来进行归纳，猜测其是否胜任其他范围大得多的任务。我们凭直觉来理解如何从一个人的表现水平去归纳出他们在相关领域的能力。
当我身处外国城市时我们在街道上找陌生人问路时，我自信地用我们使用的语言回答并且给出似乎有道理的方向指示，我们认为把我们的幸运往前推进一步是值得的，然后再询问当地的支付系统在哪里因为我们想搭公交到处走走。
如果我们的小孩能配置自己的游戏机连上家庭wifi我们就会猜测如果激励手段足够的话他们还会帮我们把新的平板电脑也连上相同的网络。如果我们注意到某人会开手动挡的车，我们就会相当肯定他们一样也能开自动挡的。
如果我们走进一家大型硬件商店询问一位员工特定物品放在什么地方，比方说家庭电气安装用具放在哪里，而那个人却带我们去到园林工具通道，我们下次大概不会再问同一个人去哪找某个浴室设施。我们会估计他们不仅不知道电气安装用具放在哪里，而且连整个商品布局都不清楚，所以我们会另外找一个人去问位置。
现在我们再来看看更接近今日AI系统表现的另一个例子。
假设有个人告诉我们一张照片是有人在玩飞盘，然后我们自然会假设他们能够回答类似“飞盘是什么样的？”，“一个人大概能扔多远？”，“人可以吃飞盘吗？”，“一次大概有几个人在玩飞盘？”，“今天的天气适合玩飞盘吗？”这样的问题。我们不会预期会说自己不知道图片中发生了什么的、来自不同文化的人能够回答所有那些问题。今天的图片标记系统通常可以给网上的照片出正确的标签，比如“人在公园玩飞盘”，但是不可能回答出那些问题。它们能做的只是可以给更多图像打标签，根本不能回答问题。此外，它们对人是什么，公园往往是在户外，人有年纪，天气不仅仅是决定照片的样子等东西都一无所知。