人工智能和人工智能会带来什么风险?

文章作者:Adriana Veasey

如此多的可能性;如此多的实相已经降临在我们身上。不管普通人是否意识到，人工智能(AI)和机器学习(ML)已经控制了他们在线生活的很大一部分。例如，这些技术决定在他们的新闻源中显示什么，并定制他们访问Amazon时看到的内容。

算法现在决定我们的保险费率，我们是否有资格获得贷款，或者我们的简历是否会被选中进行进一步审查。人工智能和机器学习目前在医学领域很“热门”，用于诊断、预测疾病爆发等等。

我们正面临一场物联网(IoT)革命——无人驾驶汽车、智能家居、智能家电、智能电网，甚至是智能城市。医疗专业人员远程监控患者，当然，我们不能忘记Siri和Alexa。

的确，我们生活在一个美好的科技世界里，它承诺继续让我们的生活更轻松、更高效。

权力和责任

伴随着所有这些改变我们生活的力量，也带来了更大的责任——而滥用这种力量正是许多人所拥有的，比如Elon Musk,担心。最近，在一次采访中，埃隆谈到了人工智能和人工智能:

“我们正迅速走向一个远远超过任何人类的数字超级智能——我认为这是很明显的，如果一个公司或一小群人成功地开发出了像神一样的数字超级智能，他们可以统治世界，至少当有一个邪恶的独裁者时，人类将会死亡，但对于人工智能来说，不会有死亡。它会永远存在，然后你就会有一个永生的独裁者，我们永远无法逃脱。“*

一些研究人员和科学家也加入了马斯克的行列，比如斯蒂芬·霍金(Stephen Hawking)，他们预测，如果人工智能和人工智能的研究和实施不受严格监管，世界末日就会到来。

争论的另一方是反对者，他们坚持认为人工智能和人工智能永远不会取代人类的全部智能，因此是可以控制的。

人工智能和人工智能究竟有哪些危险?

这是争论的关键所在。目前，我们有一种被称为窄型或弱型人工智能，它被设计用来完成一系列离散的任务(驾驶汽车、确保电网安全、下棋、通过面部识别识别人脸等)。

然而，许多人的长期目标是开发出能够执行认知(思考、推理)任务的强大人工智能。例如，想象一下，一个致命的武器系统可以在没有任何人为干预或控制的情况下决定在哪里和什么时候部署它的武器。这样一个系统，在一个民族国家的手中，可能会让世界其他地方屈服。

(来源:Pixabay.com)

另一个危险吗?超级智能的人工智能不会有人类的情感，因此本质上也不会是善良或邪恶的。然而，它将是高效的，采取“最短路径”来实现一个目标，而不考虑在这个过程中可能会破坏什么。例如，假设一台人工智能设备的任务是清理一大片土地，用于建设新的铁路系统。如果在执行这项任务的过程中，破坏了地下输油管道，从而释放有毒污泥，破坏该地区的整个生态系统，并使当地的供水系统处于危险之中，会发生什么呢?如果保护生态系统没有被定义为机器的目标之一，那么它可能会不顾一切地继续运行。

那些担心这些场景(认知AI和ML不断学习，变得比人类“更聪明”)的人表示，我们必须在AI系统变得超级智能之前弄清楚如何(将我们自己的目标嵌入AI系统)。

不是革命，而是进化

我们预计短期内不会出现认知人工智能。事实上，即使是专家也不同意超级智能人工智能成为现实需要多长时间，如果它真的成为现实的话。但随着技术的发展，我们必须提前为可能发生的事情做计划，在它降临到我们身上、恶意的人参与进来或出现意想不到的后果之前。

许多认知人工智能不会产生可怕的后果，但其可能性仍令人担忧。考虑到这样一个事实，今天的许多学生已经找到了让他们的论文和论文为他们写的方法。有一些公司，如[Wow Grade.net]，提供写作和内容创作服务。在未来，使用认知人工智能可以让学生简单地转题，让超级智能技术来决定关于论文、识别资源和创作“原创”作文的所有决定。虽然这个学生显然没有完成作业，但孤立地考虑，其后果并不是毁灭性的，尽管这个学生实际上没有学到任何东西(除了如何作弊)这一事实对他的未来来说不是一个好兆头。

让我们回到之前的场景，即AI系统被要求做一些有益的事情，但却无意中导致了毁灭性的结果;也就是说，生态系统和当地供水系统遭到破坏。超级智能人工智能避免此类行为的程序本应被编程。

因此，超级智能人工智能的整个问题似乎不是人工智能的效率问题(它将是完全高效的)，而是将其认知智能与我们人类自身的目标结合起来。如果我们只关注效率，那么我们将通过人工智能选择的任何方式得到我们想要的东西。

规划和法规必须现在就开始

在波多黎各举行的“2015未来生命人工智能安全大会”(2015 Future of Life AI Safety Conference)上，大多数人工智能研究人员预测，到2060年，认知人工智能将出现在我们面前。如果是这样的话，那么安全研究必须现在就开始。

人类目前统治着这个星球，因为我们是地球上所有物种中最聪明的。但是，如果一个超级智能的人工智能能够不断学习和提升自己，变得更聪明，会发生什么呢?到时谁来统治?