AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大

本文转载自微信公众号「FreeBuf」

原文标题:AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大

内容版权归原作者及原公众号所有,转载仅为传播资讯;若有侵权请联系管理员删除。

FreeBuf-AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大-图1

FreeBuf-AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大-图2

AI正在加速漏洞发现、重塑漏洞修复模式,但AI辅助生成的补丁往往存在缺陷,反而让攻击者开展变体分析的效率大幅提升。

Part 01

AI补丁普遍存在缺陷

成攻击者变体分析蓝本


今年夏天,每周下载量达100万次的开源JavaScript沙箱库vm2维护团队发布补丁,修复了34个独立沙箱逃逸漏洞,其中19份补丁由Anthropic的Claude协同编写。


几周之后,一名安全研究员向AI Agent投喂这份安全公告,要求它找出绕过补丁的方法,AI Agent成功给出了绕过方案。


Rubrik首席产品安全工程师Shayaun Nejad,在为旧金山举办的 [un] prompted AI安全大会准备演讲时,针对vm2的补丁开展漏洞变体分析。他想借此说明开发团队面临的困境:在AI批量挖出大量漏洞之后,即便已经通过AI辅助流水线完成修复,新一轮测试中同类漏洞依旧会反复被检出。


Nejad指出 : “有些漏洞变体一开始无法被捕获,只有模型能力提升、能够执行更高阶的链式分析后,才会被识别。部分变体出现在完全相同的代码位置,还有一部分是邻近代码、存在关联的同类问题。漏洞变体分析如今越来越多见,而且这类分析高度依赖上下文信息。”


同时也提出警示: 依托AI漏洞挖掘技术,公开CVE数量创下历史新高。开发者对外披露平台可被攻击的漏洞类型时,配套补丁会直接成为攻击者的行动蓝本。攻击者只需把代码库与历史漏洞作为上下文喂给AI Agent,指令它搜寻同类漏洞变体,整个过程门槛很低。


Rubrik遇到的问题,折射出近数月多名研究者观察到的攻防不对称现象:AI模型在进攻侧能力已经成熟,擅长挖掘漏洞、生成利用代码;但防御能力存在明显短板,比如编写安全代码、产出完备可靠的补丁。


FreeBuf-AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大-图3


同样在 [un] prompted大会上,OpenAI安全研究员Tim de Waal演示了一组测试:AI Agent为一台网络接入点固件中的两处漏洞打补丁。


针对第一个漏洞,AI重写存在缺陷的函数,却删掉原生代码自带的栈金丝雀(stack canaries)防护,悄无声息移除一层防御;第二个漏洞的补丁仅过滤了攻击者输入中的双引号,完全忽略单引号即可绕过修复逻辑。


规模化对照实验也印证了该结论。1Password旗下Off-by-1 Labs的研究团队使用AI Agent,为复杂开源项目里6个已知漏洞反复生成补丁。最终产出6080份候选补丁,其中约半数仍保留至少一条攻击路径,AI Agent甚至会遗漏代码其他位置上完全相同的漏洞实例。


近期一项名为P2Patch的基准测试搭建AI攻防对抗场景:两个AI Agent 对垒,一方负责为101个真实漏洞编写利用代码,另一方修补代码直到利用失效;随后攻击Agent再次针对修复后的程序测试,寻找其他触发同一漏洞的路径。101组案例里,41次攻击成功,部分补丁甚至多次被绕过。


当然,人工编写的补丁同样无法做到万无一失。安全公司Trail of Bits复盘多年咨询评估中收到的2265份漏洞修复方案,八分之一的补丁没能彻底解决上报的安全问题。


该公司记录了一个典型案例:一名人工维护者和参与Patch the Planet项目的AI Agent,分别为freenginx Web服务器同一个内存安全漏洞编写补丁,两份补丁都会在请求清理阶段触发相同的程序崩溃。


Part 02

漏洞数量爆发式增长

人力不足倒逼AI补丁应用


问题不在于AI写出的补丁一定劣于人工(尽管AI补丁的失败率普遍更高),而是漏洞发现速度已经快到仅靠人力无法承接。叠加AI Agent的进攻能力,攻击者可以以机器速度完成补丁分析与逆向。

Anthropic上线基于Mythos的Glasswing漏洞挖掘项目七个月后,公开台账记录了37966条漏洞发现。

漏洞情报厂商VulnCheck近期分析显示,其中对外公开的7349个漏洞里,仅有217个完成修复。并非所有上报结果都是真实安全漏洞,但Anthropic给出94.2%的真阳性率,结合极低修复率,足以说明开源维护者要处置的漏洞报告已经泛滥。

Anthropic在Glasswing首期更新中写道:“过去软件安全的瓶颈,是我们发现新漏洞的速度;现在瓶颈变成验证、披露、修复AI批量挖出海量漏洞的速度。”

这并不只是开源项目的难题。美国银行启用Anthropic模型扫描内部系统后,今年二季度,在原有约3000名相关员工之外,新增1000名外包人员专门处理补丁修复工作。该行CEO Brian Moynihan在接受采访时表示,直到10月这批外包人员仍在持续处理相关工作。

Meta软件工程师David Molnar在[un] prompted大会的另一场分享中提到:截至7月,Meta已经用AI为40%高危漏洞生成修复方案,其中近半数补丁不经修改直接上线生产。即便如此,漏洞暴露时长并没有下降。根源在于AI输出的补丁依旧需要人工审核,同时新增代码量同比增幅超100%,其中超过80%由AI编码Agent生成。

Molnar说:“所有人都被待审核代码淹没了, 上游全流程交给 AI 自动化,最后只会把压力全部堆在下游审核人员身上 ,所以必须审视整条流水线,推动全链路自动化。 ”

他的团队已经和内部主管、产品经理协同,挖掘更多自动化落地场景,包括审核流程,将模式从人在回路(human-in-the-loop)转向人在回路上(human-on-the-loop)。

事件响应与安全团队论坛(FIRST)在6月预测,今年全年CVE分配量约 66000 个。但距离年底还有两个月,总量已经逼近100000个。仅今年10月微软补丁星期二(Patch Tuesday)就修复了1415个漏洞,而 2025年10月这个数字仅为180个。


Part 03

闭源补丁难逃AI分析

二进制逆向门槛大幅降低


不少人会认为:闭源软件的补丁通常打包在编译后的二进制文件内,AI Agent很难扫描代码库挖掘漏洞变体,因此更加安全。事实并非如此:当前AI模型逆向工程能力已经很强,甚至有开发者利用它复刻复杂商业软件的开源版本,例如Adobe Photoshop。

今年 6 月,Anthropic的研究人员测试AI辅助补丁差分(patch diffing)的攻击效果:仅向模型提供补丁发布当日的公开信息,模型在Firefox补丁上线一小时内就生成了可用利用代码。

在Windows平台下,研究人员向模型提供漏洞二进制、修复后二进制以及反编译输出,依托这套方案,从21个内核漏洞中构建出8条完整提权链路,单条成本约2000美元。

Anthropic的研究人员当时表示:“某种意义上,N-day比 0-day更危险,因为补丁本身就给出了通往漏洞的路线图。”

上海复旦大学研究团队搭建了一套LLM辅助二进制差分(binary diffing)框架,分析25家厂商62款闭源应用的76个近期补丁。根据本月发布论文,该框架标记出63个修复不完整的补丁,人工复核确认56个;其中26个补丁可被绕过、衍生出新漏洞,相关成果拿到19个CVE编号,累计28100美元漏洞赏金。

对比漏洞版本与修复版本定位代码变更,是安全研究员沿用多年的常规手段。AI带来的改变,是这项工作的速度暴涨、技能门槛消失。尽管前沿大模型的API护栏会提高逆向、二进制差分的难度,但开源权重模型的能力已经足以完成这类工作。

微软安全研究副总裁Taesoo Kim同样在[un] prompted大会上发出警告:AI极大压缩了二进制差分分析、利用代码开发的耗时。微软在发布CVE时必须格外谨慎,同时快速向客户推送更新。他提到,最新前沿模型因为护栏收紧,已经拒绝这类二进制分析请求,但大量攻击者转而使用 Qwen、Kimi、GLM 等开源权重模型,因为 “它们的能力极强”。


Part 04

补丁缺口利用门槛骤降

应提升补丁严谨性


上个月,微软Edge安全团队发出预警:攻击者越来越多地利用补丁缺口(patch gap)发起攻击:漏洞线索在某个项目代码提交、测试版本中暴露,到补丁同步至下游依赖项目之间,存在一段可被利用的时间窗口。

报告举例:攻击者利用Chromium构建版本里公开的安全修复实施攻击,在Chrome、Edge等下游浏览器集成该修复之前完成利用。

Edge团队表示:“这就是补丁缺口滥用。该攻击手法本身并不新鲜,但所需的时间与专业门槛已经发生变化。AI辅助分析和利用开发,可以把过去数周的工作压缩到数小时,在暴露窗口存续期间,可用利用代码出现的概率显著上升。”

Epoch AI研究人员近期使用GLM 5.3模拟低水平攻击者,针对Firefox的补丁缺口开展攻击。仅消耗约1000美元API额度,每个目标投入最少12 小时,就拿下了9月17日至10月26日发布的所有Firefox版本,全程没有触发任何服务商的安全拦截与拒绝。

作为应对,Mozilla团队推出多项措施防范补丁缺口滥用,其中一项就是不再随安全修复配套放出回归测试(regression test)。

Firefox CTO Bobby Holley表示:“我们观察到,在没有回归测试的情况下,GLM 5.3利用补丁缺口的成功率会明显下降。因此我们恢复了一项机制:回归测试文件保密,直到补丁正式上线之后再对外公开。”

安全厂商Terra上月发布一份名为PatchSlop的报告,报告指出:今年开源项目里修复不完整、存在缺陷的补丁数量增长8倍。

如果补丁只拦截上报的恶意输入,会营造漏洞已经修复的假象,但底层代码问题依旧存在。这类补丁相当于给攻击者的地图,同时标注了漏洞位置以及防御方对漏洞的判断。在补丁差分范围之外寻找入口——换一种编码、另一段地址范围、通往同一函数的其他路径——是成本最低的挖洞方式。 攻击者越来越多的算力、AI Token,都消耗在这类分析上。

应对思路不是让开源项目、软件厂商隐藏漏洞细节、停止发布安全公告,而是产出质量更高的补丁。不少研究者认为,即便用AI Agent自动化打补丁,这个目标依然可行。

Rubrik发现标记为已修复的漏洞反复复现后,Shayaun Nejad团队在流水线新增自动变体扫描环节,补丁生成后自动运行检测。公司将简单漏洞交由AI修复,认证绕过类复杂漏洞交由人工工程师处理。Nejad表示:“攻击者确实能拿到这些上下文信息,但防御方优先掌握信息,完全可以提前行动”。

OpenAI在本月博客中提到,其Linux漏洞研究与修复流水线需要迭代测试、变体分析,因为首轮补丁 “没有检索相关代码排查同漏洞变体,最终造成修复不完整”。并建议:“使用模型对人工、AI产出的补丁开展对抗性审查,识别补丁可被绕过、遗漏其他攻击路径、存在同类变体等问题。”

开源安全基金会(OpenSSF)发布的AI辅助打补丁指引,同样建议团队 “部署独立探测Agent,模拟攻击者对补丁做验证”;Trail of Bits也放出了一套Agent能力组件,要求补丁提交前,必须基于漏洞根因至少测试一种不同的变体场景。

Terra CEO Shahar Peled在接受采访时指出:“漏洞修复必须具备更高的严谨性。这意味着定位漏洞根因、全代码库检索同类缺陷、复测系统,保证补丁本身不会引入新漏洞。”


参考来源:

AI-written patches are becoming attack maps for hackers

https://www.freebuf.com/articles/ai-security/512777.html


推荐阅读


电报讨论


FreeBuf-AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大-图6


FreeBuf-AI生成补丁成黑客攻击重点,漏洞修复时间差持续拉大-图7


— 阅读原文请访问微信公众号「FreeBuf」 · 原文链接 —

© 版权声明
THE END
喜欢就支持一下吧
点赞10 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容