构建您自己的漏洞利用

我们分解了多阶段漏洞发现利用和自动分流循环背后的技术架构。了解我们如何管理状态控制,通过对抗性审核消除误报,并绕过LLM上下文限制。

几周前,我们发布了Project Glasswing的初步调查结果,研究了将前沿安全模型指向企业代码库时会发生什么。我们还探讨了我们的防御结构如何适应,以保护我们的基础设施和客户免受前沿人工智能带来的威胁。

从那时起,人工智能生态系统继续快速转变--围绕单一模型紧密构建的开发人员已经体验了当该模型不再可用或被更强大的模型取代时会发生什么。

这些市场变化只会强化我们的核心思想:无论哪种基础模型在任何一天引领潮流,代理工作流程的未来都不会在独立模型、提示或单代理会话中找到。从本地化的安全“技能”转变为全车队范围的连续扫描管道,需要一个将模型视为可互换组件的架构。

依赖于单个模型本质上限制了防御性覆盖,因为相同的系统往往会通过完全相同的镜头查看代码路径。为了解决这个问题,应经常更换模型并进行交叉测试。通过在整个管道中改变模型(例如使用一个模型进行初始发现,而使用完全不同的模型进行验证),我们可以确保通过不同的逻辑集对漏洞进行交叉检查。

此外,真正的企业级利用必须超越孤立的存储库,跨越跨存储库依赖关系追踪漏洞,最终将成千上万的原始候选者过滤到可信赖的、分流的可操作修复队列中。本文介绍了如何构建与模型无关的层,重点介绍了我们如何管理状态控制、消除误报以及大规模协调端到端分流。