对话《哥德尔、埃舍尔、巴赫：集异璧之大成》作者：现在的AI还不够看

CNET科技行者 10月13日 北京消息： 有关人工智能领域的讨论，我们可以追溯到一个名叫Douglas Hofstadter，一位美国作家的往事上。自从在1979年因《Gödel, Escher, Bach: an Eternal Golden Braid》（《哥德尔、埃舍尔、巴赫：集异璧之大成》）获得普利策奖以来，72岁的Hofstadter一直在考虑“思考”这件事——如何让电脑做到这一点（思考）。

美国作家Douglas Richard Hofstadter（中文名侯世达）

20世纪五、六十年代，人工智能研究还处在早期阶段。当时人工智能的目标是通过重塑我们直观地了解周边世界的能力，创造出一种能够以人类的方式思考和学习的电脑。但是，思考需要的是比20世纪五十年代的计算机程序复杂得多的载体。结果是令人失望的。

最终产生结果的做法是放弃整体思考，把计算机聚焦在高度具体的任务上，给它们提供大量的相关数据——这才成就了我们今天看到人工智能的繁荣。一台电脑可以在国际象棋中击败人类，依靠的不是寻求下了一步精妙的好棋带来的满足感，而是通过数以百万计以前进行过的棋局筛选工作，看看哪一种下法更有可能导致胜利。

然而，在2017年的人工智能看起来可能需要解决如何教会电脑更加人性化的老问题。神经网络之父Geoffrey Hinton最近对Axios（一家网站）表示，他对于通过使用一大堆象棋比赛中的数据来教会电脑下棋的方法“深感怀疑”。相反，计算机应该能够学习任何东西——不用数百万的具体数据点——而是采用人类的方式。

通过人工智能所有的这些转变，印第安那大学认知科学和比较文学教授Hofstadter一直在试图了解思维是如何运作。他根本不相信我们现在拥有的人工智能是“智能”的，而且他担心这个领域已经把人类引向了危险的道路上。最近，Hofstadter与一家叫Quartz的网站谈论了人工智能目前的发展状况，哪些做法是错的以及前方会遇到什么危险。

Quartz：我们来谈谈一下电脑对语言的理解如何。要把一种语言有效地转换成另一种语言，一台机器必须对这个世界有深刻的了解，不是吗？

Douglas Hofstadter：当我想到翻译时，我想到的是用第二种语言创建一个与原文一样准确的文本。所以如果原文中的文字是艺术化的而且是美丽的，那么第二种语言中的文字应该是同样的艺术化并且美丽的。这就超出了谷歌翻译的范畴。

谷歌翻译的翻译并不是建立在理解之上的。其理解的小洞出现在各种意想不到的地方。德语文本中有一句话说“女仆带来了汤”，当我更仔细地看着这句话时，谷歌翻译给出的翻译是：“女仆进了汤”。“女仆”翻译的是正确的，但这里的形象和动作绝对和在真实世界中发生的任何事情都没有关系。

我并不是在侮辱谷歌翻译。我想说的是，在任何时候都要记得计算机使用的词语并没有拥有绝对正确的意义。

QZ：这就是你所说的“Eliza效应”吗？

DH：Eliza效应指的是我们使用的单词或短语，就好像它们有意义，但这只是因为我们使用语言。而当另一个实体操纵这些词并将它们喷吐到我们的屏幕上，或者在我们和对方说话的时候使用这些词语的时候，我们倾向于假设背后会有想法。而这种想法可能是非常错误的。

QZ：你觉得电脑是否有可能在没有这种想法的情况下，能够在人类的水平上进行文学的或者优雅的翻译？

DH：不，我真的不这样认为。因为我认为这个世界实在太复杂了。

QZ：我们是不是需要用另一个术语来定义人工智能所做的一切，以便进一步表达它并不是一种令人难以置信的智能表征？

DH：这是一个有趣的问题。我不认为我们拥有的是“智能”。回到一件熟悉的事情上，这件事距今已有很多年了，是一个关于自驾出行的故事。

这件事发生在我自己身上，所以这是一个真实的故事。

我正在从我的家乡印第安纳州布鲁明顿市开车到芝加哥去进行一场演讲。然后在出发一两个小时之后，我在高速公路上遇到了很严重的交通堵塞。当时离芝加哥还有很远的距离，可是高速公路上的车堵得死死的。现在，我该怎么办？我看到有些人正试图穿过分隔南行和北行交通的绿化带，认为他们可以在高速公路上往南走一段，然后下了高速公路走一些比较小的道路。这是有可能的，但后来我看到一些车被困在了草地上，草地并不平坦，而且非常泥泞。所以我在想，“我是不是要这样做，我想要承担这种风险吗？”

假设我等一会然后回到高速公路上，可是当时我已经处于极大的压力之中，想要赶往芝加哥。已经过了一个小时，我几乎没有时间了。现在我该怎么办？我要承担多少风险？到这所大学做这个讲座对我来说有多重要？如果我打个电话过去说我要迟到半个小时会如何？还是我应该说我要迟到一个小时？于是我一边开车一边思考，我要开到每小时80英里还是90英里的速度？到底我要开多快？

对于我而言，这是“驾驶”的一部分。这表明现实世界在许多方面都影响着驾驶性质。

如果你看看世界上的情况，就会看到根本没有框架，像在象棋游戏、围棋游戏或类似的东西中的框架。世界上的情况根本就没有界限，你不知道情况之中有什么，没有什么。

QZ：人们会推测（机器智能）在独立思考，这一点会让你感到烦恼吗？

DH：如果你问我原则上说，计算硬件是否有可能做一些像思考这样的事，那我会说这绝对是有可能的。计算硬件可以做任何大脑可以做的事情，但我不认为现在我们正在做大脑做的事情。我们正在模拟其表面层次，而许多人则陷入了幻想。有些时候，这些机器的性能是非常壮观的。

我我有以下感觉：创建可以进行一点思考的程序很有趣，并让你感觉你正在接近一些思考的本质。而且细微之处越多越好。我很高兴机器慢慢地变得更好。它使我认为人类是最终目标，人类智能是一件伟大的事情。

换句话说，我的感觉是计算机智能正在向人类智能渐行渐近。渐近的意思是从下方接近，但不会超越它。当曲线接近于直线时，它将接近人类智能。它将在直线下方达到平衡。

但是到最后，由于AlphaGo和DeepBlue等获得的所有的胜利，人们开始怀疑这条线是不会超越，就像下棋一样。两条线正在相交。而不是两条渐近线。它们只是交叉，然后电脑的线继续上升。

这对我来说这是一个不同的场景，这不是我喜欢的画面。

人类的思想被彻底压倒并留在尘埃之中，这个场景令我感到惊恐。不是得到电脑的帮助或支持，而是被彻底压倒，而我们之于计算机将会变成像蟑螂或者跳蚤之于我们一样的存在。这会是非常恐怖的。

注明：

Douglas Richard Hofstadter：中文名侯世达，美国学者、作家。他的主要研究领域包括意识、类比、艺术创造、文学翻译以及数学和物理学探索。 因其著作《哥德尔、埃舍尔、巴赫：集异璧之大成》获得普立兹奖（非小说类别）和美国国家图书奖（科学类别）。此外，侯世达还是美国印第安纳大学文理学院认知科学杰出教授，主管概念和认知研究中心。他本人和他辅导的研究生组成“流体类推研究小组”。1977年，侯世达原本属于印第安纳大学的计算机科学系，然后他开始了自己的研究项目，研究心理活动的计算机建模（他原本称之为“人工智能研究”，不久就改称为“认知科学研究”）。

侯世达定律（Hofstadter's law）：是一句自指的格言，由侯世达在《哥德尔、埃舍尔、巴赫：集异璧之大成》一书中提出。指做复杂任务需要花费的时间总是很难预计的。程序员经常会引用这一定律，特别是在进行有关提高效率的讨论时。

《哥德尔、埃舍尔、巴赫：集异璧之大成》：该书通过对哥德尔的数理逻辑，艾舍尔的版画和巴赫的音乐三者的综合阐述，引人入胜地介绍了数理逻辑学、可计算理论、人工智能学、语言学、遗传学、音乐、绘画的理论等方面。