神经网络确实有希望，但也有局限性

文章作者:Rick Merritt

在围绕人工智能的炒作中，专家称人工智能实际上是对神经网络的误称，神经网络不能解决人类推理和理解的基本类型。

然而，在纪念艾伦·图灵奖50周年的活动上，一个专家小组表示，神经网络仍处于早期阶段，有其局限性，但该技术将有广泛的应用，并有很大的前景。

考虑到图灵认为机器总有一天会在智能上超越人类，关于深度学习的讨论就显得尤为重要。“图灵预言人工智能将超越人类的智慧，这就是这场竞赛的结局——如果我们幸运的话，我们可以关闭它们，”斯图尔特·拉塞尔(Stuart Russell)说。他是伯克利大学计算机科学教授，也是人工智能研究人员，目前正在撰写一本有关该领域的新教科书。

“在我们实现(人工智能)之前，我们至少还有六项重大突破，但我非常肯定它们会实现的，我正竭尽全力寻找解决这一问题的办法。”

他指出，神经网络只是谷歌的AlphaGo系统的一部分，它打败了世界上最好的棋手。

“AlphaGo……是一个经典系统……深度学习(构成)它的两个部分……但他们发现，使用表达性程序来学习(游戏规则)更好。”一个端到端的深度学习系统将需要……从过去数百万个围棋游戏中获取的数据，以便它能够映射出下一步的行动。人们试过了，但它在双陆棋中不起作用，在国际象棋中也不起作用，”他说，并指出一些问题需要不可思议的大数据集。

Russell将今天的神经网络描述为“某种突破……实现了1980年代的承诺……但它们缺乏编程语言和声明性语义的表达能力，而这些语言和语义使数据库系统、逻辑编程和知识系统变得有用。”

神经网络也缺乏人类给问题带来的丰富的先验理解。他补充说，“一个深度学习系统永远不会从强子对撞机(Hadron Collider)的原始数据中发现希格斯玻色子”。“我担心过度强调大数据和深度学习来解决我们所有的问题。”

自动驾驶汽车的限制，图像识别

其他顶级研究人员表示，神经网络在自动驾驶汽车和图像识别等领域有着巨大的前景和局限性。

在多伦多大学(University of Toronto)教授机器学习并运营优步高级研究中心的拉奎尔•尤塔桑(Raquel Urtasun)表示:“我研究的是自动驾驶汽车……(它)必须是强大的系统。”“这对神经网络来说相当具有挑战性，因为它们不能很好地模拟不确定性。”

神经网络“会说有99%的可能性有一辆车在那里……但你不能容忍错误的阳性结果……当你犯错时，你需要明白你为什么会犯错。”

她同意伯克利大学的罗素的观点，即“深度学习不能解决我们所有的问题。”将神经网络与图形模型相结合“是一个有趣的领域”，它可能有助于系统利用人类的先验知识。

考虑到它们的局限性，用户需要“理解(机器学习)系统可能会有偏见……(有时)会做出不公平的决定，”她说。

Urtasun把今天神经网络的成功归功于“一些让训练变得更好的技巧，但在过去的25年里(对核心算法)没有根本的改变。”突破部分来自大数据集的可用性和更好的硬件，这使训练更大规模的模型成为可能，”她说。

尽管如此，深入学习已经“启用了应用程序，我们没有考虑过健康，运输 - 我们几乎无处不在。”

斯坦福大学谷歌Cloud首席科学家李飞飞(Fei-Fei Li)目前正在休假，他同意神经网络正处于炒作的高峰期，具有真正的前景和真正的局限性。她刚刚完成了斯坦福大学迄今为止规模最大的神经网络课程的770名学生教学。

李彦宏将这一时刻描述为机器学习从实验室实验走向商业应用的开端的结束。她说，许多行业和科学领域正在“受到海量数据和数据分析能力的影响”。

然而，“认为我们已经解决了大多数问题的乐观情绪并不真实。”当我们庆祝ImageNet在图像识别方面的成功时，我们很少谈论它的失败……许多涉及推理的挑战仍然存在。”

“一个人工智能算法在房间着火的情况下做出完美的象棋动作，”她重复了另一名研究人员编造的关于深度学习中缺乏上下文意识的笑话。

更广泛地说，“我们对人类认知的理解非常有限。正因为如此，这两个领域都处于起步阶段。”

神经网络的多头和空头

该小组最乐观的成员、OpenAI的联合创始人和研究总监伊利亚·苏茨基弗(Ilya Sutskever)表示，现在说神经网络会把我们带多远还为时过早。苏茨基弗曾是谷歌Brain的研究科学家。

“这些模型很难理解。例如，机器视觉作为一个程序是不可理解的，但现在我们对一个不可理解的问题有了一个不可理解的解决方案，”他说。

虽然神经网络核心的反向传播算法已经存在多年，但运行这些算法的硬件直到最近才出现。Sutskever补充说，神经网络的新架构有望“在未来几年内，我们将看到惊人的计算机显示出巨大的进步。”

在另一个专题讨论会上，微软Azure云服务FPGA加速器的杰出工程师Doug Burger表示同意。“尽管神经网络处于炒作曲线的顶峰，但它是真实的……其中有一些深层次和根本性的东西我们尚未完全理解。”

他指出，初创企业、学者和知名企业都在研究加速神经网络的处理器，其中许多使用精度较低的向量乘法矩阵。“这需要三到四年的时间，之后会发生什么对我来说真的很有趣。”

小组成员Norm Joupi表示同意。这位经验丰富的微处理器设计师和谷歌TPU加速器团队的领导者称神经网络是当今计算机科学中“最重要的东西之一”。

伯克利大学(Berkeley)的机器学习专家迈克尔·i·乔丹(Michael I. Jordan)是人工智能小组中的代表人物。他认为，计算机科学仍然是最重要的学科，而不是人工智能，而神经网络是其中仍在发展中的一部分。

“这都是一个大工具箱，”他说。“我们需要(围绕神经网络)建立基础设施和工程，而我们离那还很远。我们需要用数学和机器学习来进行系统思考。”

和其他演讲者一样，他指出人类的推理能力超出了神经网络的范围。“自然语言处理非常困难。今天，我们把字符串匹配到字符串，但那不是翻译。”

例如，他注意到中国对聊天机器人的热情。自动化的对话代理可以让人参与，但是如果没有对抽象和语义的支持，它们就不能说出关于这个世界的任何事实。

他总结道:“我们正处于一个巨大的学习时代，但我们还没有(在人工智能方面)。”尽管如此，他还是同意神经网络的重要性，需要将其纳入修订后的计算机科学课程中。

首次由EE Times U.S.出版