2024 黑帽大会最热门的九大 AI 网络安全工具

在 2024 年的黑帽大会（Black Hat 2024）上，AI 驱动的网络安全工具和技术成为焦点，引领了网络安全行业新趋势。众多安全厂商和初创公司展示了他们的最新成果，利用生成式 AI 来管理风险、检测并对抗网络犯罪，保障企业安全。以下是大会上一些备受瞩目的 AI 驱动网络安全产品和服务：

Apiiro：软件开发设计阶段的风险智能检测

Apiiro 推出了一项名为“设计阶段的风险检测”的 AI 驱动功能，旨在分析功能请求，以在应用开发的早期阶段识别风险并启动安全审查或威胁模型。该功能依托 Apiiro 的专有 LLM，使应用安全实践者能够在编码前的设计阶段缓解安全和合规风险，从而节省时间、减少返工并加速安全软件交付。主要风险分析领域包括架构设计、敏感数据处理、用户权限、生成式 AI 技术和第三方集成。

SentinelOne：Purple AI、CIEM、xSPM 和 SIEM

SentinelOne 在其 Singularity 平台中新增了一系列功能，旨在利用生成式 AI 技术增强端点、身份和云环境的安全性。新功能包括 Purple AI，它提供自然语言警报摘要和查询支持，帮助分析师简化警报。云基础设施权限管理（CIEM）帮助控制对云资源的访问权。此外，SentinelOne 还推出了扩展安全态势管理（xSPM）和 AI 驱动的 SIEM，以提供实时洞察和可扩展的安全解决方案。

Cymulate：AI Copilot

Cymulate 宣布推出其 AI Copilot，这是一款生成式 AI 解决方案，旨在启用针对实时威胁的安全控制。AI Copilot 引入了动态攻击规划器，允许用户通过复制和粘贴威胁通告、新闻文章和安全研究发现中的 URL 或内容来执行自定义威胁评估。该功能旨在快速识别和修复安全漏洞，减少威胁评估所需的时间和专业知识。AI Copilot 还生成定制的产品文档并简化故障排除，优化安全验证流程并解放 IT 资源。

Cequence：生成式 AI 驱动的统一 API 保护（UAP）

Cequence 对其统一 API 保护平台进行了多项更新，重点是安全使用生成式 AI 应用程序和大语言模型。主要增强功能包括针对 OWASP LLM 十大威胁的测试套件、自动检测和阻止 AI 机器人活动、用于可视化 API 流的流图以及针对全面 API 发现的新集成。该平台还在本地处理 API 流量，提高效率和隐私，并提供针对 API 网关和基础设施的攻击面检测。

RAD Security：AI 驱动的事件调查

RAD Security 推出了其 AI 驱动的事件调查功能，旨在通过行为检测和响应提高云安全性。该方法通过结合 LLM 驱动的调查和行为检测，减少误报并提高事件评估的准确性。RAD Security 的云检测和响应（CDR）解决方案创建行为基线，以检测零日攻击，并通过实时身份和基础设施上下文丰富检测。新功能包括 Amazon EKS 插件、自动 AI 驱动的调查、用于事件导航的发现中心和更新的 RAD 开源目录，以提高检测能力。

Code42：Incydr 支持生成式 AI 的数据泄漏防护

Mimecast 旗下的 Code42，推出了其 Incydr 解决方案的升级版，以防止数据泄漏到生成式 AI 工具。Incydr 的新数据可视化和 PRISM 系统可以帮助安全团队定位和响应数据向 ChatGPT 和 Google Gemini 等生成式 AI 工具的移动。该解决方案包括检测和阻止风险活动、为员工提供教育视频，并即将支持 ChatGPT 桌面应用程序。

Legit Security：AI 安全指挥中心

Legit Security 推出了 AI 安全指挥中心，旨在为安全团队提供一个控制台，以在开发环境中实现 AI 可见性和保护。该仪表板将帮助缓解在应用代码中使用 AI 模型的风险，提供 AI 模型清单的集中可见性，进行风险关联和优先级排序，并扩展 ASPM 控制以包括 AI 安全态势管理。Legit Security 还宣布加入安全 AI 联盟（CoSAI），以推动软件开发中全面的 AI 安全措施。

Balbix：对话式 AI 安全助手

在 Black Hat USA 2024 上，Balbix 推出了 BIX，这是一款旨在简化网络风险和暴露管理的对话式 AI 助手。BIX 旨在通过根据用户角色和过去的互动提供个性化、上下文相关的建议来简化风险管理。BIX 具有移动访问、实时更新和与现有网络安全和 IT 系统集成的功能，有助于安全团队进行决策和跨渠道沟通。BIX 利用基于 RAG 的大型语言模型和 Nvidia 硬件的多代理架构，旨在将复杂任务分解为可管理的子任务，以提高运营效率并减少响应时间。

Orca Research：AI Goat

Orca Research 推出了一种开源 AI 安全学习环境——AI Goat，旨在解决 OWASP 十大 ML 风险。该工具可在 Orca Research 的 GitHub 存储库中获得，使用 Terraform 构建了一个易受攻击的 AI 环境，具有一系列威胁和漏洞，用于安全培训和教育场景。该工具旨在帮助安全专业人员和渗透测试人员理解和测试 AI 特定漏洞，并提高防御此类攻击的能力。在 Black Hat USA 2024 上，OWASP ML 安全十大项目的负责人 Shain Singh 强调，AI Goat 通过模拟现实世界的漏洞和错误配置，增强了对 AI 风险的理解，并帮助组织更好地防范潜在的 AI 攻击。