埃隆·马斯克推荐了一本麻省理工教授的书，没想到作者“怼”了他的AI威胁论

一直致力于宣传“AI威胁论”的大V马斯克最近又有新动作，上个月底，马斯克在Twitter上推荐了麻省理工学院的物理学家Max Tegmark的新书《生活3.0：人工智能时代的人类》，并写道：“@Tegmark的新书Life 3.0值得一读。AI可能是人类史上最好或最坏的事情，我们需要正确对待它。”再次提醒人工智能的威力不容小觑。

不过，马斯克被Max Tegmark怼了!近期，Max Tegmark接受THE GUARDIAN采访时表示看好AI发展潜能，“我认为AI时代我们需要做的就是保持幽默感和讽刺意识。不能因为自己是这个星球上最聪明的生物而沾沾自喜，恰恰是因为我们能够将所有奇思妙想变成技术，而发明这些技术的目的就在于不让我们人类成为地球上最聪明的人。”

Max Tegmark是谁?麻省理工学院的物理学家，马斯克的小伙伴

Max Tegmark是麻省理工学院物理学家、宇宙学家，他一直专注于平行宇宙的研究。近些年，它开始关注人工智能，并成为“机器威胁论”的主要拥护者。

Max Tegmark联合了若干同事和朋友，成立了Future of Life组织，用来分析那些可能对人类构成威胁的技术。过去几年，该组织曾在《The New York Times》和《The Washington Post》发表文章，提出自动武器的危险。该文章联合了包含霍金、马斯克、Steve Wozniak在内的20000人进行签名。而在2015年1月，Tegmark召开了第一届讨论人工智能威胁的会议。该会议以1975年召开的有关重组DNA的Asilomar会议为模板，在Puerto Rico进行了三天的讨论。据参会者透露，其中的一个核心讨论内容就是机器智能何时能够赶超人类。像Ng这样的人工智能专家认为这还需要数百年，而马斯克和Stuart Russel等则认为这很快就会实现。最终，Tegmark给出的中间答案是40年。他表示，机器不需要本身就是邪恶的才会对人类构成威胁。

近日，Max Tegmark发表了其撰写的新书——《生命3.0：作为人工智能时代的人类》，这本马斯克强烈认可的书到底写了什么?其探索分析了人类进化的最新阶段。Tegmark指出，像我们的宇宙进化历程一样，生命逐渐变得更加复杂和有趣，我发现这将有助于将生命形式分类成3个复杂等级：生命1.0、生命2.0和生命3.0。书中的简介向我们提出一连串的发问：如何在避免人类失去收入与目标的情况下用自动化让社会更繁荣?我们能给孩子怎样的职业建议?怎样才能让未来的AI系统足够强大，无视一切故障、崩溃和黑客攻击为人类服务?有必要担心致命的自动化武器的军备竞赛吗?机器最终在所有问题上都比人类聪明吗?它是会为生命带来史无前例的发展，还是会带来人类不可控的力量?

马斯克一直对AI心存畏惧，这是公认的事实，他曾读过Bostrom的《超级智能》一书，这也是他首次在twitter上呼吁“AI威胁论”的起因，不过，Bostrom站出来“怼”过马斯克，他在USI演讲上曾表示，“我想借此机会说一句，我对此其实并没有那么悲观。”

而这次，马斯克推荐了Max Tegmark的书《生活3.0：人工智能时代的人类》，也被作者无情的怼了…

AI并不一定是“坏事儿” 其发展比气候变化更为迫切

几年前的一天，在南肯辛顿科学博物馆外面，Max Tegmark突然开始哭泣，泪如雨下。那时，他刚刚参观完一个有关人类知识增长的展览，展示内容包括了从查尔斯·巴贝奇(英国发明家、电脑先驱)的差分机到阿波罗11号的复制品。而让他感到激动不已的却不是这些标志性的技术发现，而是由这些展品所激发的顿悟。

他回忆说：“某种观念就像砖块突然击中了我，即每当我们了解了自然界中的某些东西，或者了解了自己的某些方面时，这些知识就已经过时了。如一旦了解肌肉如何工作，便以机器的形式制造机能更强大的肌肉。也许如果了解了大脑如何工作，将建立更好的大脑，但这也将使得这些知识变得完全过时。”

Tegmark的看法并不是什么虚无缥缈的假设，而是人工智能时代的黎明时期其对自己的智力所发出的挑战。受其启发，他开始产生疑问，即如果我们设法创造出超越自己的智慧，那人类将变得如何呢?

当然这也是科幻小说一再描述的一个问题。然而，随着AI成为科学事实，它也具有了不同的意义和紧迫性。Tegmark认为：现在是时候研究人工智能的可能性了，特别是可能创建出所谓超级智能的可能性。

Jaan Tallinn是Skype的联合创始人，也是Tegmark的好朋友。Tegmark与其共同合作，受马斯克的资金支持，他们成立了未来生命研究所，致力于研究人类面临的生存风险。该研究所位于马萨诸塞州剑桥市，与牛津大学人文学院的人类未来研究院不同，后者是由Tegmark的同事，瑞典哲学家Nick Bostrom建立。

Tegmark推出了新书《生活3.0：人工智能时代的人类》。曾写过像多元文化这样深刻且有理论深度的作家，Tegmark并不害怕自己成为知识渊博但只能进行天马行空般推测的人。

弄清AI的困难之处在于它总是陷在各种神话和误解的泥泞沼泽之中。Tegmark试图解决AI这一固有形象问题。即先仔细解释其所涉及或与智慧、记忆、学习、意识等相关的概念，再以通俗易懂的方式解释。

首先，在波士顿，Tegmark虽以电话形式发言，但他却十分真诚的希望能够阐明AI的本质。

“我认为好莱坞电影误导了我们，”他说，“对机器发展变成自我意识和邪恶的恐惧实际只是一种转移人们注意力的观点。高级人工智能真正担心的不是其可能危害人类，而是其不够智能无法帮助人类。如果你拥有超智能AI，从理论上说，它将非常擅于实现目标。我们能做的是确保其目标与我们的目标一致。我不讨厌蚂蚁，但如果让我负责在一个蚁冢地区建设绿色能源水电站，这对于那些蚂蚁来说就太糟糕了。我们不想让自己处于这些蚂蚁的位置。”

《生活3.0：人工智能时代的人类》一书远非悲叹人工智能的未来，更像在庆祝超级智能未来的发展潜能。但什么是超级智能呢?或者更近一步，什么是智力?Tegmark将其定义为：“完成复杂目标的能力”。因此，计算机是智能的。但它们的智慧又是狭隘的。

目前，计算机能够在远超出人类能力范畴的某些领域处理信息。例如，世界上最好的棋手对阵现代计算机程序时就没有取得成功。但是，这个程序对于一个玩简单画圈打叉游戏的孩子而言又是无用的。人类，即使是年纪轻轻却已拥有广泛的能力，而电脑，只能处理某些特定的任务。

顾客拍摄的东京三越百货公司Toshida人形机器人Aiko Chihira的照片

所以计算机的智力仅限于我们的掌控范围之内，像我们预先编程设计的那样。然而，随着进入AI时代，事情开始发生转变。先例如Google人工智能技术DeepMind，其计算机自学就是通过不断犯错，尝试实现自我提升。到目前为止，该技术仅在视频游戏和棋盘游戏中体现，但可能会扩展到其他媒体。如果该技术传播开来，将对我们的生活和思考许多其他问题产生深远影响。

Tegmark开始创建环境定义，且通过不同发展阶段的网格来研究这些问题。在他看来，生命最开始的阶段是最原始的生活形式，如细菌，称之为“Life 1.0”。而这还只是一个简单的生物阶段，生命也只是复制，只有进化才有可能适应环境。

“Life 2.0”或者称之为文化舞台，是人类所在之处：在这里人类能够学习，适应不断变化的环境，有意识的改变环境。然而，我们还不能改变我们自己的身体，或是生物遗传性能。Tegmark将这种情况描述为硬件和软件。我们设计自己的软件——“走路、阅读、写作、计算、唱歌和说笑话”的能力——但我们的生物硬件(大脑和身体性能)则受演变的限制。

Life 3.0的第三个阶段是技术阶段，在此阶段人类不仅可以重新设计其软件，还可以重新设计硬件。Tegmark写道，这种形式的生活中，人类是“自己命运的主人，终于完全摆脱了进化的束缚”。

这种新的智慧将是不朽的，能够帮助我们探索宇宙的奥秘。换句话说，这将是生命(但不是我们熟知的那种生命)形式。但其究竟是生命还是某种别的东西呢?Tegmark作为物理学家绝不是多愁善感的人。他是唯物主义者，将世界和宇宙视为超越由不同层次的粒子组成的不同层次的活动。他对生物、凡人智慧、智能、自我持续的机器之间并不持有任何特定意义或道德上的区别观点。

Tegmark在Life 3.0中描述了未来有无限可能性，有时他的描述如梦如幻，甚至带着某些必胜的信念;但他也是一名理论家，总是为大多数人设身处地的考虑有什么事物难以想象或带来不愉快感觉。

尽管如此，持不同观点的人可能会在实现时间上争论，但即使是他的诋毁者也认同他的假设不是凭空而来。简单来说，我们正处于AI——自驾车、智能家居控制单元等自动机时代的早期阶段。但是，如果这种趋势持续快速发展，那么某个时候，假设30年、50年、200年后呢?——计算机将以许多方式成为拥有人类智力的等同物。

一旦电脑达到这个阶段，改善将持续增速，因为其将拥有更为强大的处理能力，并利用该能力进一步帮助增强其能力。这是Bostrom在2014年出版的《超级智能》一书中提出的观点，而这种智力大规模扩张(或者称之为完成复杂目标的能力)也的确是超级智慧。

然而，超级智能并不是必然。现场有很多人认为电脑永远不会与人类智慧相匹敌，或者如果电脑真的达到了人类智慧，人类则会自我适应。但是，如果这有可能成为现实，Tegmark认为迫切需要人们认真思考这个问题。

“当真正处于戏剧性事件可能发生的情况下，我认为我们最好在这几十年就开始做准备，以便其成为我们的助力。如果30年前就已为气候变化做好了准备，这对现在将是很好的事情。”

像Bostrom一样，Tegmark认为AI的发展比气候变化更为迫切。然而，如果我们正在创造的是连我们自己都不太能理解的人工智能，那么依靠其所做出的准备又会产生怎样的影响呢?又将如何能够限制一项超出我们自身智力范围的智能呢?

Tegmark承认，这一问题目前还无人能回答，但他认为还有许多其他任务值得我们优先考虑。

“担心超级智能可能导致的长期问题之前，我们需要解决一些目前较为迫切的问题。不要将追求完美变成我们的敌人。毫无疑问，任何情况下我们都不希望飞机飞进山区或撞上建筑物。当Andreas Lubitz感到沮丧时，他告诉自动驾驶仪下降到100米，电脑听从了他的指令!电脑完全不知道人类的目标，即使我们现在有能力建造一种模式：只要飞行员进入飞行状态，将进入安全模式，将驾驶舱和陆地定位在最近的机场。但即使是这种最基本的操作规范，也应该在开始时将这些指令设置在机器中。”

但在此之前，Tegmark说我们还有更紧迫的工作要做。我们如何将现在这种充满漏洞和易被入侵的计算机打造成我们能够真正信任的、强大的AI系统?这非常重要，尽管目前我们社会作为一个整体，在处理这个问题上仍然非常轻率。世界各国政府应该将其作为计算机科学研究的重要部分。

Tegmark认为，通过放弃人工智能研究以阻止超级人工智能的兴起，这个办法不可行。“得益于技术进步的2017年，我们的生活无论从哪一方面来说都比石器时代更好。讨论支不支持AI这个话题，就像询问是支持还是反对火一样可笑。火给我们的家庭带来温暖，我们都喜欢火，同时我们也都需要防止纵火。”

因此，我们需要火但同时身肩防止纵火的责任。正如Tegmark所指出的那样，各国开始进行能够致命的自主武器的军备竞赛，互争雄长。俄罗斯总统曾说，谁掌握了AI，谁就是“世界的统治者”。与生物和化学武器被禁止的方式大致相同，联合国会议于11月审议了一项可行的国际条约以禁止这些武器。Tegmark说：“AI团体强烈支持这一条约”，“技术方面，自主暗杀无人机和亚马逊交付书籍无人机相差无几。”

BAE系统的塔拉尼斯无人隐形机原型被描述为“第一个自主无人机”

“未来十年的另一个大问题是工作自动化。许多著名经济学家认为，不平等日益扩大才导致英国脱欧和特朗普当选总体，而这一切都是自动化驱动的。如果政府能重新分配机器带来的巨大财富，那这是一个很好的机会让大家的生活变得更美好，会使每个人都受益。“

Tegmark认为：秉承对自由市场的信仰，英国作为一个有悠久国家医疗服务体系的福利国家，可以利用企业创新为国家谋取利益方面发挥主导作用。分析认为：事实上，很多AI研究是俄罗斯和中国政府主导。除此之外，大部分的AI技术进步都来自于美国政府或公司。但作为一个社会整体，美国并没有像过去那样习惯性地过度关注不平等问题。

这本书中，Tegmark向Google的Larry Page(地球上最富有的人之一)致敬。Larry Page有可能成为有史以来最有影响力的人。Tegmark说：“根据我的猜测，我有生之年如果超级智能数字生活能彻底改变世界，那将多亏了Larry的决定。”

Tegmark确实是周到又真诚地关心着人类困境。毫无疑问他确实是真的关心。但作为一个商人，他首先关心获取利润，打败竞争对手。而事实证明，不具代表性的科技亿万富豪手中掌握着太多的决策权。

在我看来，虽然AI的直接问题本质上是技术性的，或者说在政治意义上是技术性的，那些尚未解决的问题本质上远不止是哲学问题那么简单。

他说：“重要的是要意识到智力等通于权力，我们能驾驭老虎的原因，不是因为我们有更强壮的肌肉或更尖锐的牙齿，而是因为我们更聪明。更高的权力最终可能控制地球。可能是有些人借助先进的人工智能获得了巨大的权利，或者可能是机器比我们更聪明并设法取得自主控制权。这不一定是坏事。父母与孩子的目标是一致的，所以孩子们不介意有更聪明的生物，叫妈妈和爸爸。AI可以解决我们所有棘手的问题，帮助人类前所未有地蓬勃发展。”

但是，这会不会从根本上改变人类的本性，寻求优秀的代理人来照顾我们吗?我们将不再是塑造我们这个世界的主要力量。

安博，作为中国第一个智能警察机器人，于2016年9月在广东深圳宝安机场巡视

他笑着说：“没错，当今世界有很多人认为事情本该如此，并对此乐见其成。宗教人士认为世上存在一个比他们更强大更聪明的人，而这个人正在寻找他们。我觉得我们真正需要戒掉的是一种傲慢观念，即将自我价值错置于人类例外论的观念。如果我们学会谦虚，说或许有比我们更聪明的生物，那么人类会变得更好。但是没关系，我们可以从其他事情中获得自我价值：与人类有真正、深厚的关系以及奇妙的启发经验。”

此刻，与一些沉迷于思索宇宙新时代的教授不同的是，Tegmark听起来不太像一个坚定的唯物主义物理学家。但毫无疑问，推动建造这些机器的现代主义项目的，是基于上帝不再需要发明的信念——如果发明了新的神来取代旧神，这难道不是一个痛苦的历史讽刺吗?

Tegmark笑道，“我认为AI时代我们需要做的就是保持幽默感和讽刺意识。不能因为自己是这个星球上最聪明的生物而沾沾自喜，恰恰是因为我们能够将所有奇思妙想变成技术，而发明这些技术的目的就在于不让我们人类成为地球上最聪明的人。

研究和撰写这本书之后，与在南肯辛顿的悲观时期相比，Tegmark现在更加乐观。但乐观不是建立在假设之上，即每件事情最终都会完美收官。相反，他认为如果我们要收获果实，就必须采取行动。他说，人民和政府必须把注意力转向不久的将来，准备适当的安全工程，深入思考我们究竟想要创造什么样的世界。

11月份的联合国会议上他可以讲些什么呢?

“AI安全研究基金禁止致命的自主武器，倡导扩大社会服务，使每个人都能获得AI创造的财富。”

综上所述，未来的发展不可预见，需要明确的是生于忧患死于安乐，但是只要我们落实了上述三点，人工智能未来的发展将值得期待。

<来源：THE GUARDIAN；编译：科技行者>