人工智能与深度学习技术16大回顾，承包你一年的知识点

https://www.coursera.org/specializations/deep-learning

• 相关研究

https://stanfordmlgroup.github.io/projects/ecg

不过，过去一年当中，失误也仍然存在。DeepMind对英国国民健康保险制度（简称NHS）数据分析犯下了“不可原谅”的错误，而美国国立卫生研究院向科学界发布的胸部X射线数据集亦最终被证明并不适合用于训练诊断型AI模型。

- 应用方向：艺术与GAN -

今年当中，另一大引发广泛关注的应用方向在于图像、音乐、蓝图以及视频的创成式建模。NIPS 2017大会今年亦首次推出了“创新与设计型机器学习”工作室：https://nips2017creativity.github.io

此类方案当中，最为流行的成果之一当数谷歌公司的QuickDraw，其利用神经网络对我们的涂鸦内容加以识别。利用已经发布的数据集，大家甚至能够教会机器将自己的绘图补充完全。

• QuickDraw快速涂鸦

https://quickdraw.withgoogle.com

创成式对抗网络（简称GAN）亦在今年取得了重大进展。以CycleGAN、DiscoGAN以及StarGAN为代表的各类新型模型在人脸生成方面取得了令人印象深刻的成就。从传统角度讲，GAN一直难以生成逼真的高分辨率图像，但如今 pix2pixHD 的成果展示让人眼前一亮，亦证明我们已经开始攻克这一难题。GAN未来会成为艺术家们新的画笔吗？

• CycleGAN

https://arxiv.org/abs/1703.10593

• DiscoGAN

https://github.com/carpedm20/DiscoGAN-pytorch

• StarGAN

https://github.com/yunjey/StarGAN

- 应用方向：自动驾驶汽车 -

自动驾驶领域的巨头分别为Uber、Lyft、Alphabet下辖的Waymo以及特斯拉。Uber的方案由于软件错误而在旧金山的试验性驾驶当中闯了几次红灯，但并不像之前媒体报道的那样出现过人为失误。在此之后，Uber共享了其内部使用的汽车可视化平台细节信息。Uber的自动驾驶车辆项目到去年12月已经累计行驶了200万英里。

https://eng.uber.com/atg-dataviz

与此同时，Waymo的自动驾驶车辆在去年4月正式开始服役，并在随后的亚利桑那州凤凰城车赛中击败人类选手。Waymo方面同样公布了其测试与模拟技术的细节信息。

Lyft宣布其正在着手构建自己的自动驾驶硬件与软件方案。其部署于波士顿的首套试验性方案目前正在推进当中。特斯拉的Autpilot还没有作出太多更新。 另外，苹果公司也已经加入这一领域，Tim Cook证实称苹果方面正在开发用于自动驾驶车辆的软件，且研究人员已经在ArXiv上发布了一篇与测绘相关的论文。

https://arxiv.org/abs/1711.06396

- 应用方向：酷炫研究项目 -

过去一年中，出现了大量有趣的项目与演示成果，我们不可能在这篇短短的文章中将其全部囊括。不过下面是我汇总自过去一年的各大焦点项目：

• 利用深度学习实现背景消除
  

https://towardsdatascience.com/background-removal-with-deep-learning-c4f2104b3157

• 利用深度学习创造动漫角色
  

http://make.girls.moe/#/

https://blog.floydhub.com/colorizing-b&w-photos-with-neural-networks/

• 神经网络玩《马里奥赛车》（超任版）

https://www.polygon.com/2017/11/5/16610012/mario-kart-mariflow-neural-network-video

• 面向《马里奥赛车64》的实时AI
  

https://github.com/rameshvarun/NeuralKart

• 利用深度学习发现伪造品
  

https://www.technologyreview.com/s/609524/this-ai-can-spot-art-forgeries-by-looking-at-one-brushstroke/

https://affinelayer.com/pixsrv/index.html

以下为其它研究方向：

• 无监督情感神经元 - 这是一种在学习情感方面拥有极佳表现的系统，不过其训练目的仅仅是为了预测Amazon评论文本中可能出现的下一个字符。

https://blog.openai.com/unsupervised-sentiment-neuron/

• 学习交流 - 各代理将开发出自己的语言。

https://blog.openai.com/learning-to-communicate

https://arxiv.org/abs/1712.01208

https://arxiv.org/abs/1706.03762

• Mask R-CNN – 一套面向对象实例拆分的通用型框架
  

https://arxiv.org/abs/1703.06870

• Deep Image Prior：去噪、超分辨率与修复
  

https://dmitryulyanov.github.io/deep_image_prior

- 数据集 -

用于监督学习的神经网络一直以对数据素材的迫切需求而闻名。正因为如此，开放数据集的出现对研究界而言亦成为一项非常重要的贡献。以下是今年出现的几套关键性数据集：

• Youtube Bounding Boxes
  

https://research.google.com/youtube-bb/

• 谷歌QuickDraw Data
  

https://quickdraw.withgoogle.com/data

https://deepmind.com/research/open-source/open-source-datasets

• 谷歌语音命令数据集
  

https://research.googleblog.com/2017/08/launching-speech-commands-dataset.html

• Atomic Visual Actions
  

https://research.google.com/ava/

• Open Images数据集的多项更新
  

https://github.com/openimages/dataset

• Nsynth音符注释数据集
  

https://magenta.tensorflow.org/datasets/nsynth

• Quora Question Pairs
  

https://data.quora.com/First-Quora-Dataset-Release-Question-Pairs

- 深度学习、重现性与炼金术 -

过去一年来，一部分研究人员对于学术论文结果的可重现性提出了担忧。深度学习模型通常需要大量超参数的介入，必须对其进行优化才能获得理想的结果。但这种优化工作可能需要大量成本，意味着只有谷歌以及Facebook这类巨头级企业才有能力负担。研究人员们有时并不会发布其代码，选择不在论文当中体现重要的细节，使用略有不同的评估程序，或者通过在同一分组之上重复优化超参数来过度使用数据集等等。这一切使得重现性成为一大难题。研究人员们指出，在强化学习领域，利用不同代码库采取相同算法将得出完全不同的结果与高方差：

在《GAN是否会得出对等的结果？一项大规模研究》当中，研究人员们发现利用成本极高的超参数搜索进行调整的GAN往往具有更出色的成效，并以此种结果作为其优越性的证明。同样的，在《神经语言模型的评估现状》一文中，研究人员们表明只要经过适当的规范化与调整，简单的LSTM架构也能够获得超越其它更新模型的效能。

• 两篇论文地址

https://arxiv.org/abs/1711.10337

https://arxiv.org/abs/1707.05589

在有多位研究人员共同参与的一次NIPS讨论当中，Ali Rahimi将近期的深度学习方法与中世纪的炼金术进行了比较，并呼吁应采取更为严格的实验设计。Yann LeCun则将这样的说法视为侮辱甚至是挑衅，并于第二天作出了回应。

https://www.youtube.com/watch?v=Qi1Yry33TQE

- 人工智能：加拿大与中国制造 -

随着美国移民政策的收紧，越来越多的企业开始在海外开设办事处，而加拿大则成为首选目的地。谷歌在多伦多开设了新的办公室，DeepMind在加拿大埃德蒙顿建立新的办公室，Facebook AI Research也将业务扩展至蒙特利尔。

中国则是另一个广受关注的目的地。由于拥有大量资金、可观的人才储备以及现成的政府数据，中国正在立足人工智能开发与生产部署同美国开展直接竞争。谷歌公司还宣布即将在北京开设新的实验室。

硬件之争：英伟达、英特尔、谷歌与特斯拉

现代深度学习技术的一大特色，在于其要求利用昂贵的GPU资源对最先进的模型加以训练。到目前为止，英伟达公司一直是这一领域中的大赢家。今年，该公司公布了最新TITAN V旗舰级GPU。然而，竞争热度正在持续升级。谷歌公司的TPU目前已经开始通过其云平台交付，英特尔旗下的Nervana推出一款新型芯片，甚至特斯拉公司都表示其正在开发自己的AI硬件。当然，中国也可能贡献更多竞争势力——专门从事比特币采矿的硬件制造商们也希望迈入以人工智能为核心的GPU业务领域。

- 炒作与失败 -

目前的炒作态势仍然非常夸张。主流媒体的报道与研究实验室或者生产系统中的实际结果几乎毫无关系。IBM沃森即是过度营销层面的传奇之作——其根本无法带来与名声相符的能力。2017年，每个人都对IBM沃森感到失望——考虑到其在医疗方面的一再失败，这样的结论并不令人意外。

而另一大炒作故事当数Facebook中“研究人员们关闭了一套自行发明语言的AI”，好奇的朋友可以自行搜索相关内容。总而言之，这就是彻头彻尾的标题党，真实情况是研究人员们因为实验结果不好而关闭了一项测试。

当然，这一切也不能全怪新闻媒体。研究人员本身也存在过度描述的问题，包括在某些论文当中作出与实际实验结果不符的说明。

- 加盟与离职 -

Coursera联合创始人吴恩达于2017年3月离开了百度并创立自己的AI公司，随后他筹集到1.5亿美元资金并建立起新初创企业landing.ai，专注于制造业。此外，Gary Marcus辞去了Uber人工智能实验室主任的职务，Facebook吸纳Siri自然语言理解负责人，另有几位著名研究人员离开OpenAI开创自己的机器人公司。

学术界的科学家们也在纷纷“下海”，各大高校实验室纷纷抱怨称他们无法在薪酬层面同各行业巨头进行竞争。

- 初创企业投资与收购 -

与上一年一样，217年的AI初创企业生态系统仍在蓬勃发展，并完成了多项重要收购：

• 微软收购深度学习初创企业Maluuba公司
• 谷歌云收购Kaggle公司
• 软银收购机器人制造商Boston Dynamics公司（但该机器人厂商很少使用机器学习技术）
• Facebook 收购AI助手初创企业Ozlo公司
• 三星收购 Fluently以巩固Bixby技术实力
  

此外还有几家刚刚筹得可观资金的新公司：

• Mythic筹得880万美元以研发芯片上AI技术
• Element AI平台可供企业客户构建AI解决方案，融资1.02亿美元
• Drive.ai融资5000万美元，并喜迎吴恩达加入董事会
• Graphcore筹得3000万美元
• Appier在C轮融资中筹得3300万美元
• Prowler.io融资1300万美元
• Sophia Genetics 筹得3000万美元，旨在帮助医生利用AI与基因数据实现诊断

新年快乐！感谢您的耐心阅读：）