微软沈向洋与北大教授共话新书《未来计算》 引发人工智能伦理大讨论

科技行者 5月22日 北京消息（文/于艺婉）：微软全球执行副总裁，微软人工智能（AI）及微软研究事业部负责人沈向洋与微软总裁及首席法务官施博德共同主持的新书《未来计算：人工智能及社会角色》中文版（以下简称《未来计算》）将于近期由北京大学出版社正式出版发行。同时，《未来计算》也将成为北京大学法学院人工智能相关课程的参考教材。

在由北京大学法学院和北京大学出版社共同举行的“人工智能与社会角色”主题论坛中，沈向洋博士与北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯，北京大学计算机系主任黄铁军以及北京大学哲学系教授何怀宏共同就人工智能的观点认知、道德准则、商业应用和未来发展等话题进行深入探讨，观点碰撞，火花四溅。

微软的人工智能发展

微软全球执行副总裁，微软人工智能及微软研究事业部负责人沈向洋博士表示：“我们正处在一个计算变革的时代，未来计算将影响每一个人和每一个组织。人工智能的发展让我们站在了一个史无前例的巨大机会的门口，在为人类带来便捷的同时，人工智能也在社会、道德、法律、规范及其所扮演的社会角色等方面，给我们带来了新的问题和思考。我们将有机会，以前所未有的方式塑造我们的未来。在这个历史机遇的面前，我们必须以负责任的态度，确保打造一个所有人都能参与和分享的美好未来，让人工智能为全人类造福。”

微软全球执行副总裁，微软人工智能及微软研究事业部负责人沈向洋博士

为此，微软也在人工智能方面做出了很多努力，相信大家对微软小冰一定不陌生，不断升级的对话式人工智能产品小冰总是能给人们带来惊喜。微软识花、微软小英，微软基于人工智能技术推出的产品正在丰富且影响着人们的生活。沈向洋博士在论坛上对微软研究院在人工智能上取得的突破进行了介绍。

微软152层残差网络是目前已知最深的应用于ImageNet数据集的网络，微软使用的方法最终对ImageNet测试数据集的误差为3.57%，此前同样的实验中，人眼辨识的错误率大概为5.1%。微软的对话语音识别技术在产业标准Switchboard语音识别基准测试中实现了低至 5.9%的词错率，首次达成与专业速记员持平而优于绝大多数人的表现。

微软亚洲研究院自然语言计算组于2018年1月提交给斯坦福大学SQuAD文本理解挑战赛的R-NET模型在EM值(Exact Match, 表示预测答案和真实答案完全匹配)上以82.650的最高分领先，率先超越人类分数82.304。今年3月，微软亚洲研究院机器翻译系统在通用新闻报道的中译英测试集上，达到了人类专业译者水平，测试结果表明，专业译者平均得分68.6分，而微软机器翻译系统平均得分69.9分。

尽管如此，人工智能技术的发展还是会不断遭遇问题。《纽约时报》曾针对“黑人女性的错误率高达21%-35%，而针对白人男性的错误率则低于1%”的AI人脸识别率诟病IBM和微软。同时，人们对于可解释的AI以及最终的决定是人还是AI等问题亟待解答，这也是微软此次推出新书《未来计算》的初衷。

《未来计算》一书分别从人工智能的未来，负责任地使用人工智能的原则、政策和法律，以及人工智能与职业和工作的未来等三个方面进行深入剖析。面对人工智能带来的巨大变化，《未来计算》一书创造性地提出了人工智能开发的六大原则：公平、可靠和安全、隐私和保障、包容、透明、责任。这六大原则在论坛上引发了热烈讨论。

乐观？悲观？最终绕不过法律关

已经谢世的伟大科学家史蒂芬·霍金在最近几年最关注的话题就是人类如何才能离开地球和告诫人类警惕人工智能。特斯拉CEO埃隆·马斯克对人工智能也发出了不祥的警告：它可能引发第三次世界大战。马斯克认为，人工智能时代的战争不是由某国领导人发起的，这一切都将自动化。人工智能会自动规划战略，找出获胜几率最高的战法。

从左向右分别为：北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯，沈向洋博士，北京大学哲学系教授何怀宏，北京大学计算机系主任黄铁军

“哲学家本来就是悲观的。” 北京大学哲学系教授何怀宏以这句话开场。“人工智能到底会引发什么？开始的时候，人们一定会感觉到很方便、很惊喜、很舒服，在某种程度上来说，是一种体力外包。然而，伴随着人工智能技术的不断发展，人类的智慧会不会被外包？以人工智能为基础的机器人会不会轻而易举地就可以摆弄人类？人工智能在达到人类的智能后，很快就会超过人的智能。人们会不会不明所以地舒服至死？”

“悲观”的何怀宏教授还假设了一种场景。能够陪伴老人的家政机器人从积极的方面看，固然是好的。如果家中闯入歹徒，机器人在保护老人的同时，要不要出手制服歹徒？这个口子要不要开？更有甚者，如果老人指使机器人去做坏事，怎么办？这必然绕不开法律问题。据何怀宏教授介绍，德国已经在以人类为中心的立场对人工智能进行立法。

沈向洋对于立法在先的做法持有保留意见。他认为，人工智能的发展还处于初级阶段，应该先让科技发展起来，在初级阶段以道德原则进行约束，在发展的同时加以总结，而后再上升到法律高度。“AI还没有到达超智能阶段，AI还有很长的路要走。”

北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯对人工智能在法律领域的应用前景表示看好，认为其正当性非常充分。他提到，目前中国司法体系面临“案多人少”的问题，基于这种情况最高司法机关提出了“向科技要生产力，向科技要效率”的口号。人工智能在中国法律的应用首先从法检系统开始，其可以帮助司法机关更有效率地处理案件。

北京大学计算机系主任黄铁军教授是我国《新一代人工智能发展规划》起草工作主要参与者之一。我国《新一代人工智能发展规划》中更多地提到了大数据智能、跨媒体智能、群体智能、混合增加智能、自主无人系统和类脑智能等词汇。对于人工智能，黄铁军表示：“以前担心过，后来不担心了。因为这是与未来对接的唯一手段，机器人的结构脱胎于人，迈出这一步是早晚的事儿。” 黄铁军曾预言，未来 15-30年，人类将亲眼见证人造大脑变为现实。

无疑，创建安全、可靠的人工智能系统不是某一个人的责任，而是人类共同的责任。要设计出可信赖的人工智能，各方必须采取体现道德原则的解决方案，而且这些道德原则应深深根植于重大和永恒的价值观。人工智能怎样立法尚无结论，但在人工智能发展的道路上，无时无刻不在考验人类的智慧，尤其是“关键少数人”（科学家、技术专家、投资人、政治家、媒体……）的智慧。