AI正在加速漏洞发现、重塑漏洞修复模式,但AI辅助生成的补丁往往存在缺陷,反而让攻击者开展变体分析的效率大幅提升。
Part 01
AI补丁普遍存在缺陷
成攻击者变体分析蓝本
今年夏天,每周下载量达100万次的开源JavaScript沙箱库vm2维护团队发布补丁,修复了34个独立沙箱逃逸漏洞,其中19份补丁由Anthropic的Claude协同编写。
几周之后,一名安全研究员向AI Agent投喂这份安全公告,要求它找出绕过补丁的方法,AI Agent成功给出了绕过方案。
Rubrik首席产品安全工程师Shayaun Nejad,在为旧金山举办的 [un] prompted AI安全大会准备演讲时,针对vm2的补丁开展漏洞变体分析。他想借此说明开发团队面临的困境:在AI批量挖出大量漏洞之后,即便已经通过AI辅助流水线完成修复,新一轮测试中同类漏洞依旧会反复被检出。
Nejad指出 : “有些漏洞变体一开始无法被捕获,只有模型能力提升、能够执行更高阶的链式分析后,才会被识别。部分变体出现在完全相同的代码位置,还有一部分是邻近代码、存在关联的同类问题。漏洞变体分析如今越来越多见,而且这类分析高度依赖上下文信息。”
同时也提出警示: 依托AI漏洞挖掘技术,公开CVE数量创下历史新高。开发者对外披露平台可被攻击的漏洞类型时,配套补丁会直接成为攻击者的行动蓝本。攻击者只需把代码库与历史漏洞作为上下文喂给AI Agent,指令它搜寻同类漏洞变体,整个过程门槛很低。
Rubrik遇到的问题,折射出近数月多名研究者观察到的攻防不对称现象:AI模型在进攻侧能力已经成熟,擅长挖掘漏洞、生成利用代码;但防御能力存在明显短板,比如编写安全代码、产出完备可靠的补丁。
同样在 [un] prompted大会上,OpenAI安全研究员Tim de Waal演示了一组测试:AI Agent为一台网络接入点固件中的两处漏洞打补丁。
针对第一个漏洞,AI重写存在缺陷的函数,却删掉原生代码自带的栈金丝雀(stack canaries)防护,悄无声息移除一层防御;第二个漏洞的补丁仅过滤了攻击者输入中的双引号,完全忽略单引号即可绕过修复逻辑。
规模化对照实验也印证了该结论。1Password旗下Off-by-1 Labs的研究团队使用AI Agent,为复杂开源项目里6个已知漏洞反复生成补丁。最终产出6080份候选补丁,其中约半数仍保留至少一条攻击路径,AI Agent甚至会遗漏代码其他位置上完全相同的漏洞实例。
近期一项名为P2Patch的基准测试搭建AI攻防对抗场景:两个AI Agent 对垒,一方负责为101个真实漏洞编写利用代码,另一方修补代码直到利用失效;随后攻击Agent再次针对修复后的程序测试,寻找其他触发同一漏洞的路径。101组案例里,41次攻击成功,部分补丁甚至多次被绕过。
当然,人工编写的补丁同样无法做到万无一失。安全公司Trail of Bits复盘多年咨询评估中收到的2265份漏洞修复方案,八分之一的补丁没能彻底解决上报的安全问题。
该公司记录了一个典型案例:一名人工维护者和参与Patch the Planet项目的AI Agent,分别为freenginx Web服务器同一个内存安全漏洞编写补丁,两份补丁都会在请求清理阶段触发相同的程序崩溃。
Part 02
漏洞数量爆发式增长
人力不足倒逼AI补丁应用
问题不在于AI写出的补丁一定劣于人工(尽管AI补丁的失败率普遍更高),而是漏洞发现速度已经快到仅靠人力无法承接。叠加AI Agent的进攻能力,攻击者可以以机器速度完成补丁分析与逆向。
Anthropic上线基于Mythos的Glasswing漏洞挖掘项目七个月后,公开台账记录了37966条漏洞发现。
漏洞情报厂商VulnCheck近期分析显示,其中对外公开的7349个漏洞里,仅有217个完成修复。并非所有上报结果都是真实安全漏洞,但Anthropic给出94.2%的真阳性率,结合极低修复率,足以说明开源维护者要处置的漏洞报告已经泛滥。
Anthropic在Glasswing首期更新中写道:“过去软件安全的瓶颈,是我们发现新漏洞的速度;现在瓶颈变成验证、披露、修复AI批量挖出海量漏洞的速度。”
这并不只是开源项目的难题。美国银行启用Anthropic模型扫描内部系统后,今年二季度,在原有约3000名相关员工之外,新增1000名外包人员专门处理补丁修复工作。该行CEO Brian Moynihan在接受采访时表示,直到10月这批外包人员仍在持续处理相关工作。
Meta软件工程师David Molnar在[un] prompted大会的另一场分享中提到:截至7月,Meta已经用AI为40%高危漏洞生成修复方案,其中近半数补丁不经修改直接上线生产。即便如此,漏洞暴露时长并没有下降。根源在于AI输出的补丁依旧需要人工审核,同时新增代码量同比增幅超100%,其中超过80%由AI编码Agent生成。
Molnar说:“所有人都被待审核代码淹没了, 上游全流程交给 AI 自动化,最后只会把压力全部堆在下游审核人员身上 ,所以必须审视整条流水线,推动全链路自动化。 ”
他的团队已经和内部主管、产品经理协同,挖掘更多自动化落地场景,包括审核流程,将模式从人在回路(human-in-the-loop)转向人在回路上(human-on-the-loop)。
事件响应与安全团队论坛(FIRST)在6月预测,今年全年CVE分配量约 66000 个。但距离年底还有两个月,总量已经逼近100000个。仅今年10月微软补丁星期二(Patch Tuesday)就修复了1415个漏洞,而 2025年10月这个数字仅为180个。
Part 03
闭源补丁难逃AI分析
二进制逆向门槛大幅降低
不少人会认为:闭源软件的补丁通常打包在编译后的二进制文件内,AI Agent很难扫描代码库挖掘漏洞变体,因此更加安全。事实并非如此:当前AI模型逆向工程能力已经很强,甚至有开发者利用它复刻复杂商业软件的开源版本,例如Adobe Photoshop。
今年 6 月,Anthropic的研究人员测试AI辅助补丁差分(patch diffing)的攻击效果:仅向模型提供补丁发布当日的公开信息,模型在Firefox补丁上线一小时内就生成了可用利用代码。
在Windows平台下,研究人员向模型提供漏洞二进制、修复后二进制以及反编译输出,依托这套方案,从21个内核漏洞中构建出8条完整提权链路,单条成本约2000美元。
Anthropic的研究人员当时表示:“某种意义上,N-day比 0-day更危险,因为补丁本身就给出了通往漏洞的路线图。”
上海复旦大学研究团队搭建了一套LLM辅助二进制差分(binary diffing)框架,分析25家厂商62款闭源应用的76个近期补丁。根据本月发布论文,该框架标记出63个修复不完整的补丁,人工复核确认56个;其中26个补丁可被绕过、衍生出新漏洞,相关成果拿到19个CVE编号,累计28100美元漏洞赏金。
对比漏洞版本与修复版本定位代码变更,是安全研究员沿用多年的常规手段。AI带来的改变,是这项工作的速度暴涨、技能门槛消失。尽管前沿大模型的API护栏会提高逆向、二进制差分的难度,但开源权重模型的能力已经足以完成这类工作。
微软安全研究副总裁Taesoo Kim同样在[un] prompted大会上发出警告:AI极大压缩了二进制差分分析、利用代码开发的耗时。微软在发布CVE时必须格外谨慎,同时快速向客户推送更新。他提到,最新前沿模型因为护栏收紧,已经拒绝这类二进制分析请求,但大量攻击者转而使用 Qwen、Kimi、GLM 等开源权重模型,因为 “它们的能力极强”。
Part 04
补丁缺口利用门槛骤降
应提升补丁严谨性
上个月,微软Edge安全团队发出预警:攻击者越来越多地利用补丁缺口(patch gap)发起攻击:漏洞线索在某个项目代码提交、测试版本中暴露,到补丁同步至下游依赖项目之间,存在一段可被利用的时间窗口。
报告举例:攻击者利用Chromium构建版本里公开的安全修复实施攻击,在Chrome、Edge等下游浏览器集成该修复之前完成利用。
Edge团队表示:“这就是补丁缺口滥用。该攻击手法本身并不新鲜,但所需的时间与专业门槛已经发生变化。AI辅助分析和利用开发,可以把过去数周的工作压缩到数小时,在暴露窗口存续期间,可用利用代码出现的概率显著上升。”
Epoch AI研究人员近期使用GLM 5.3模拟低水平攻击者,针对Firefox的补丁缺口开展攻击。仅消耗约1000美元API额度,每个目标投入最少12 小时,就拿下了9月17日至10月26日发布的所有Firefox版本,全程没有触发任何服务商的安全拦截与拒绝。
作为应对,Mozilla团队推出多项措施防范补丁缺口滥用,其中一项就是不再随安全修复配套放出回归测试(regression test)。
Firefox CTO Bobby Holley表示:“我们观察到,在没有回归测试的情况下,GLM 5.3利用补丁缺口的成功率会明显下降。因此我们恢复了一项机制:回归测试文件保密,直到补丁正式上线之后再对外公开。”
安全厂商Terra上月发布一份名为PatchSlop的报告,报告指出:今年开源项目里修复不完整、存在缺陷的补丁数量增长8倍。
如果补丁只拦截上报的恶意输入,会营造漏洞已经修复的假象,但底层代码问题依旧存在。这类补丁相当于给攻击者的地图,同时标注了漏洞位置以及防御方对漏洞的判断。在补丁差分范围之外寻找入口——换一种编码、另一段地址范围、通往同一函数的其他路径——是成本最低的挖洞方式。 攻击者越来越多的算力、AI Token,都消耗在这类分析上。
应对思路不是让开源项目、软件厂商隐藏漏洞细节、停止发布安全公告,而是产出质量更高的补丁。不少研究者认为,即便用AI Agent自动化打补丁,这个目标依然可行。
Rubrik发现标记为已修复的漏洞反复复现后,Shayaun Nejad团队在流水线新增自动变体扫描环节,补丁生成后自动运行检测。公司将简单漏洞交由AI修复,认证绕过类复杂漏洞交由人工工程师处理。Nejad表示:“攻击者确实能拿到这些上下文信息,但防御方优先掌握信息,完全可以提前行动”。
OpenAI在本月博客中提到,其Linux漏洞研究与修复流水线需要迭代测试、变体分析,因为首轮补丁 “没有检索相关代码排查同漏洞变体,最终造成修复不完整”。并建议:“使用模型对人工、AI产出的补丁开展对抗性审查,识别补丁可被绕过、遗漏其他攻击路径、存在同类变体等问题。”
开源安全基金会(OpenSSF)发布的AI辅助打补丁指引,同样建议团队 “部署独立探测Agent,模拟攻击者对补丁做验证”;Trail of Bits也放出了一套Agent能力组件,要求补丁提交前,必须基于漏洞根因至少测试一种不同的变体场景。
Terra CEO Shahar Peled在接受采访时指出:“漏洞修复必须具备更高的严谨性。这意味着定位漏洞根因、全代码库检索同类缺陷、复测系统,保证补丁本身不会引入新漏洞。”
暂无评论内容