基于AI的网络安全：炒作或现实？

文章：Ludovic F. Rembert

AI和ML曾经曾经想到了努力寻找真实应用的技术，但它们是我们生命中越来的内在的一部分。

五分之一的组织已经在某种程度上使用了AI技术，并且三分之二的组织未使用计划在今年年底之前实施。

然而，这些技术不仅是一种良好的力量。有两者挑战和机遇对于机器学习，这是比网络安全部门更清楚的。与此同时，网络安全团队正在使用ML技术 - 特别是神经网络 - 识别威胁，黑客正在使用相同的技术攻击他们。

鉴于ai周围的炒作然而，ML，非常容易高估这些技术呈现的威胁水平，同样容易高估它们提供的保护。

因此，在本文中，我们将对黑客和组织使用AI和ML如何使用AI和ML的现实评估。

威胁

有大量猜测涉及ML技术呈现的威胁。其中一些猜测要求难以信用的未来能力。

例如，在此类别中，可以找到类型的AI驱动恶意软件，这将智能地探测受害者系统中的缺点。ML的真正威胁 - 至少目前 - 更有限，而且在很大程度上依赖培训神经网络（NNS）模仿合法的网络流量或通信。

在网络内使用的AI的现实生活中的例子是IBM的AI驱动的概念证明Deepplocker.。该系统能够利用公开可用的数据来隐藏自我的网络安全工具，躺在休眠状态，直到它到达其预期目标。一旦它检测到目标 - 通过面部或语音识别 - 它就会执行其恶意有效载荷。

另一个真实的恶意使用的实际典范是最近的事件其中一个尚未知道的黑客集团设法使用DeepFakes - 使用NNS创建的假视频 - 以欺骗英国的能源公司在攻击者的银行账户中转移到攻击者。虽然这种黑客依赖于ML技术，但是值得认识到，在最基本的层面，这用于促进相当“传统的”网络钓鱼骗局，而不是呈现完全新的威胁。

AI在网络ecurity.

目前，在网络安全中使用NNS似乎更发达，并且比在攻击系统中使用这些技术的使用更广泛。是已经提高了组织安全而且AI网络安全市场也有价值88亿美元，预计为380亿美元到2026年。

乍一看，ML系统似乎在威胁预防方面提供了许多好处。识别异常网络流量是人类运营商的困难且缓慢的过程，以及NNS - 特别是专用的措施在加速这一过程方面可以是有用的。

然而，它也值得认识到这些系统在很大程度上依赖于NNS，而不是真正智能的AIS。机器学习网络安全系统是用于发现不寻常的网络活动这可能是即将发生的早期攻击。

这些系统的好处仍然主要是它们的速度，而不是他们智能地响应攻击的能力。例如，网站安全系统可以扫描Web活动以检测机器人用于探测弱点，但目前他们无法直接响应疑似攻击。

挑战

这并不是说ML不会发现在网络安全或黑客中不断使用。然而，目前ML系统的效用受到了a的限制挑战数量。

其中最重要的是计算资源，以及培训这些系统所需的大量数据。最近寻求评估ML模型的值的研究是检测TOR交通的良好的迹象这个的。

本研究表明，通过部署ML技术来分析传入请求，可以通过匿名流量来实现良好的防止数据exfiltration水平。然而，研究人员还指出，本研究中使用的数据集远远小于平均网络安全环境的典型信息。

这个规模问题仍然是寻求使用ML技术的黑客和网络安全工作人员的最大挑战。即使是恶意软件扫描仪通常也不会受到足够大的数据集以克服的训练偏见，如果只是因为普通公司无法访问所需的全球数据集。

• 目前，AI和ML（用于黑客和网络安全专业人员）的主要使用是网络流量的自动分析。谷歌和Facebook等主要技术公司利用机器学习识别大规模数据集的趋势和模式。目标是开发可以随着时间的推移而发展的算法，导致人为现实的未来。

• 具体而言，Facebook一直在使用机器学习来开发他们的面部识别技术，而Google正在使用机器学习算法来扫描每秒运行的新查询。最后，两者都将用于帮助了解世界的行为如何转化。因此，系统可以向两个群体提供威胁情报，但目前AI工具的自主权极为有限。

未来

鉴于上述所有观察结果，易于对AI和ML系统制造的权利要求持怀疑态度。一方面，很清楚，这样的系统将变得更加常见，并非最不重要的是，因为他们在IoT网络中的用法。

然而，目前这些系统击败网络威胁的能力，或者确实要执行新型网络攻击，仍然有限。

- Ludovic Rembert是一个安全分析师，研究员和创始人privacycanada.net.。