|
网络安全业务依赖于技术炒作周期和流行语。从零信任到区块链，从数字化转型到态势管理，防御者一直在不断寻找变革性的、跨越式的技术来阻止网络攻击的蔓延。 去年，人工智能 (AI) 和大型语言模型 (LLM) 蓬勃发展，成为安全创新最令人兴奋的前沿领域，OpenAI 的 ChatGPT 展示了生成式 AI 应用程序的强大功能。 现在还处于早期阶段，但人工智能的预测能力和快速数据处理的令人兴奋和承诺感觉非常真实。风险资本投资者正在向承诺将人工智能整合到网络安全中的初创公司投入大量资金，我们开始看到独特的用例出现在模糊测试和漏洞研究、事件响应和威胁狩猎自动化以及用户教育培训等领域。。 众多安全专家，探讨最有意义的人工智能驱动的网络安全用例。这些专业人士，从经验丰富的首席信息安全官到先锋研究人员，都设想了一个未来，人工智能不仅是一个被动的工具，而且是一个主动的守护者。他们梦想的用例涵盖从自主发展以应对新威胁的实时自适应防御系统，到使用行为分析进行复杂的内部威胁检测。 瑞恩·赫斯特 (Ryan Hurst)，Peculiar Ventures 首席执行官： 人工智能的核心是处理大量数据并从中得出有意义的见解。从历史上看，我们要么未能从已有的数据中提取出重要的价值，要么花了太长时间才理解它。我首先会考虑我们通常难以从数据中提取价值的领域。然后，我会考虑在全球范围内检查这些数据可能会带来哪些潜在好处。 我们在设计能够共享精细信息的系统方面做得越来越好，同时保留各方的隐私义务和需求。这种从数据中智能提取价值的技能与此类系统相结合，可能会非常强大。例如，国家行为者可能旨在损害美国能源部门，并开始调查各种能源公司，直到它们在某个地方站稳脚跟。人工智能和可信计算概念能否结合起来，使整个行业都能参与到事件的信息交换中？这些可以保持 k-匿名性，同时允许他们共享匿名的、经过蒸馏的数据，以增强整个部门的安全性。 虽然人性和商业利益常常抵制此类价值主张的信息共享，但更大的挑战是大规模这样做的实用性。这两种技术趋势正在推动创新，以弥补这一差距。因此，我的第一个愿望（排名不分先后）就是让这个概念成为现实。 Kymberlee Price，Zatik Security 首席执行官/创始人： 虽然科幻小说启发了许多现代技术，但我对人工智能创新在这十年中可以改善网络安全特别感兴趣，因为公司现在需要可靠的帮助。我不梦想未来安全工程师和项目经理会被汽车人取代，我希望通过提高安全洞察力和效率来产生有意义的影响。虽然用于日志分析和违规检测的人工智能是许多公司的首要考虑，但该市场充满了已经开发的潜在解决方案，我希望防止违规，而不仅仅是更快地检测到违规。 通常，导致违规的问题可以在设计过程中避免，而设计阶段通常不包括安全工程师。将威胁模型作为最终安全审查的一部分已经太晚了，就像在 CI/CD 管道中投入更多安全工具不会影响“设计安全”一样– 如果您只是在部署或生产过程中发现问题，那么您就完全错过了设计阶段。如今，软件和基础设施设计很大程度上是一个手工制作的过程，几乎没有可用的辅助工具或产品——对我来说，这似乎是一个真正的市场机会领域。 我对人工智能的愿望清单主要是辅助性的，专注于提高软件质量和人类效率——一旦我们掌握了辅助性人工智能，我们将能够获得更大的自主性和生成性人工智能。 Chris Castaldo，Crossbeam 首席信息安全官： 在我为公司构建网络安全项目的职业生涯中，我一直看到一些事情。我想要一个副驾驶工具，我可以指向我所有现有的工具、基础设施和系统，并立即得到答案。当你第一次加入时，你会花很多时间来了解企业的风险所在。然后我希望同一个工具能够采取行动，超出我们对反复运行相同工作流程的重复性 SOAR 工具的想象。 Jon Callas，Zatik Security 杰出工程师： “如果我挥动魔杖，用当今的技术创建一个真正能够对安全产生影响的人工智能系统，那么我将面对一个长期存在的威胁，即虚假电子邮件。 明显有用的地方是阻止垃圾邮件、网络钓鱼和商业电子邮件泄露 (BEC)，因为超过90% 的网络攻击都是从网络钓鱼开始的。当在大型 ISP 中运行时，它会特别好，因此新调整的训练将帮助整个用户群避免收到欺诈消息。当今垃圾邮件过滤器中的正则表达式和贝叶斯统计很难对电子邮件中的不一致进行分类，而这正是人工智能系统的基础。 此外，人工智能可以对工作消息、我们不想取消订阅但通常只是删除的个人消息进行个性化分类。法学硕士甚至可以抓到许多冒充者等等。在更高级的模式中，它可以指导我们并告诉我们可能不想要的事情，以及它预测我们可能会感兴趣的事情。 Costin Raiu，APT 恶意软件逆向专家： 我希望 [AI 技术] 每天 24 小时实时检查网络中的所有日志，并模仿熟练分析师的眼睛来发现可疑的事物。 我想要一个有能力的人工智能实时监视我的日志。所有日志——来自我的手机、我的路由器、我的电脑和网络中的所有智能设备。只要观察日志，每当出现可疑情况时就拍拍我的肩膀。 对于恶意软件研究人员来说，我希望人工智能能够编写和理解 APT 报告。只需能够询问接受过来自所有不同供应商的所有私人 APT 报告培训的人工智能即可。想象一下，人工智能阅读并理解所有 APT 报告，不仅仅是来自一个供应商，而是来自所有供应商，然后你只需问一个问题，我的公司今天应该担心什么？这个问题的答案每天都会不同，但却非常有价值，它可以节省时间，并且可以为公司带来巨大的改变，无论公司有多大或多小。 Rob Ragan，Bishop Fox 首席技术官办公室： 我的魔杖要解决的基本安全挑战涉及使用人工智能进行自我修复技术。具体来说，这需要为人工智能提供任何复杂的系统和相关的代码库作为输入，并让人工智能充当安全工程团队。 人工智能将承担系统所需的安全工程师和站点可靠性工程师（SRE）的角色。这包括了解业务需求、构建安全需求、为这些需求开发以网络安全为中心的单元测试，以及修复未通过这些安全单元测试的代码或组件。 我们可以使用多个人工智能代理来帮助评估业务目的和功能需求。这些代理将负责更加一致、高效和透明地评估目标系统将面临的威胁以及目标系统需要的弹性。然后，他们将承担具有挑战性的任务，定义如何通过单元测试来评估系统是否具有足够的弹性，如果不够的话，甚至可以通过编码必要的修复程序或修改配置来更进一步。这样，我们就可以实现计算机系统的自我修复。 有很多公司和想法都超前于时代。在增强智能和下一阶段自动化功能的帮助下，应该重新审视其中的许多问题。 瑞恩·赫斯特（Ryan Hurst），奇特风险投资公司： 我们拥有大量数据但未充分利用的另一个领域是二进制数据和配置数据。在检查已部署的系统时，我们如何评估代码的哪些部分是可访问的，防火墙是否会减少对给定漏洞的访问，或者是否需要更改访问控制？ 回答此类问题需要时间和专业知识。然而，这些数据都是结构化的，这使得它非常适合机器学习技术的应用。我们可以构建理解云配置、部署脚本、系统架构、访问控制系统等的模型。这将帮助我们快速推断真实的暴露和故障，从而更主动地响应安全问题。它还将允许更多有数据支持的人员配置请求，有助于更好地保护我们日常依赖的系统。 第四，大多数组织并不真正了解自己相对于竞争对手和监管要求有多差（或多好）。我可以看到随着时间的推移，机器学习和相同的可信计算概念可以如何应用，使组织能够了解他们的相对状况。这种理解可以帮助他们通过映射其业务风险和应对竞争对手的能力来证明进一步投资的理由。 通过足够的隐私保护计算和机器学习，您甚至可以构建预测功能，帮助在风险增加的时刻启动锁定，甚至在失败时简化和自动化相关的事件响应。 原文：https://www./security-experts-describe-ai-technologies-they-want-to-see/
|
|
|
