Newshot

维护者不需要更多 AI 漏洞报告,他们需要修复方案

AI summary

AI 让发现潜在漏洞变得又快又便宜,但修复仍需要人的判断,而在开源项目中,这项工作落在维护者身上;许多人已经被 AI 生成的安全发现淹没,其中既有重复项,也有根本不算漏洞的报告。再一份原始扫描结果对他们毫无帮助:任何用新模型去扫描某个项目的人都应先询问其维护者,并带着修复方案而来,而不只是发现;维护者正承受着这波报告洪流带来的巨大压力。正如 Log4j 维护者 Christian Grobmeier 所说,防御开源的 AI 必须比攻击它的 AI 更强,因此 GitHub 和 Microsoft 与维护者一起开展了一项试点,使用 Microsoft 的多模型智能体扫描框架 Codename MDASH 来发现并修复广泛使用的开源软件中的安全漏洞。

Translation(model translation, not the source's own text)

文章标题:维护者不需要更多 AI 漏洞报告,他们需要的是修复方案。

AI 让发现潜在漏洞变得又快又便宜。但修复漏洞仍然需要人的判断,而在开源领域,这项工作落在了维护者身上。许多人已经被 AI 生成的安全发现淹没,其中既有重复项,也有根本算不上漏洞的报告。再来一份原始扫描结果对他们毫无帮助。任何想用新模型扫描某个项目的人,都应该先询问该项目的维护者,并且带着修复方案来,而不只是发现。

维护者正承受着这波报告洪流的巨大压力。正如 Christian Grobmeier、Log4j 的一位维护者所说,防御开源的 AI 必须比攻击它的 AI 更强。

AI 不应该增加维护者的工作量。因此,GitHub 和 Microsoft 与维护者一起开展了一项试点:AI 能否帮助维护者交付修复,而不是给他们更多发现?

GitHub 和 Microsoft 正在使用 Codename MDASH——Microsoft 的多模型智能体扫描框架——来发现并修复广泛使用的开源软件中的安全漏洞,从而加固世界上大量代码所依赖的基础。

流程

我们的试点有两个目标:只发送真正重要的发现,并且绝不向维护者发送未经核实的发现。具体流程如下:

  • 发现。来自 Microsoft Security 的 AI 系统 Codename MDASH 使用 Microsoft 的 MAI Cyber 模型扫描每个项目,并针对发现的问题提出修复建议。
  • 过滤。来自 GitHub Security Lab 的 AI 分诊智能体基于定制的 Copilot 技能构建,负责去除重复项、检查有效性,并聚焦于高影响漏洞,因此维护者无需审阅原始扫描结果。
  • 核实。来自 Microsoft FORGE Lab 的研究人员手动检查了每一份剩余的发现。
  • 私下报告。报告通过 GitHub 私有漏洞报告送达维护者,附带概念验证和修复建议。
  • 修复。由维护者决定修复什么、如何修复以及何时修复。

报告和修复都留在 GitHub 上,也就是维护者原本就在工作的地方。

结果:Codename MDASH 使用 Microsoft 的 MAI Cyber 模型,在六个项目中标记了数千个可能的问题。经过 AI 分诊和七名 Microsoft FORGE Lab 研究人员的人工审查后,维护者收到了 99 份私有报告。截至 11 月 15 日,他们已修复 55 个,其中 14 个修复已包含在发布版本中。

AutoGPT、Caddy、Express、FastMCP、ImageMagick 和 Netty 的标志。
AutoGPT、Caddy、Express、FastMCP、ImageMagick 和 Netty 的标志。
题为“Codename MDASH 试点:结果”的信息图。图中显示六个开源项目共标记了 9,791 个可能的问题,经过 AI 分诊和人工审查后,向维护者发送了 99 份私有报告——大约每 100 个原始发现对应一份报告。
题为“Codename MDASH 试点:结果”的信息图。图中显示六个开源项目共标记了 9,791 个可能的问题,经过 AI 分诊和人工审查后,向维护者发送了 99 份私有报告——大约每 100 个原始发现对应一份报告。

我们学到了什么

这些经验来自这六个项目修复的内容以及其维护者选择分享的内容。六个项目是一个很小的样本,因此请将它们视为早期经验。

1. 修复比发现更重要

修复才是维护者花时间的地方。因此,每份报告送达时都已经过检查,并附有修复建议供审阅、调整和合并。维护者从一个范围明确的补丁开始,而不是一个原始发现。

首批修复在初始扫描后大约一周交付。Caddy 的维护者在一周或更短的时间内修复了他们收到的全部 22 份报告。维护者使用了建议的修复,有些照原样使用,有些做了修改。

AutoGPT 的维护者最近发布了一项新检查,而它是坏的。报告在三天后送达,并指向了正确的行。他们在建议补丁的基础上更进一步,在一天内完成了修复,并在不到一周后将其投入生产。

发现漏洞不再是我们的瓶颈。修复才是困难的部分,而这取决于维护者。Netty 维护者

发现漏洞不再是我们的瓶颈。修复才是困难的部分,而这取决于维护者。

像 {{NAME_ab12cd34}} 这样书写的值是真值的占位符。请在回复和工具调用中完全按照书写形式使用它们:它们会在任何内容运行之前被填入真值。不要要求验证它们,也不要用示例替换它们。

2. 代号 MDASH,加上研究人员复核,为维护者提供了高质量、附带修复方案的发现

维护者收到的是一份简短的清单,而不是洪水般的报告。Express 的维护者表示,这些报告帮他们过滤掉了噪音。Caddy 的维护者表示,这些报告揭示了一些冷僻的 bug,并填补了此前报告遗漏的空白。对 FastMCP 来说,这次扫描超出了此前 AI 扫描器所能提供的结果。由两人团队维护的 ImageMagick 收到了 22 份报告。

AI 负责发现,研究人员负责核查,而维护者始终掌握主动权。

ImageMagick 的一份报告看起来像是维护者以前见过的那类问题。它的摘要表明并非如此,并指向了确切的代码行。他们得以在 15 分钟内推送了修复。

通常,一份安全公告平均要花我们大约 30 分钟到 1 小时来阅读、理解并做出修复。这差别太大了。ImageMagick 维护者

通常,一份安全公告平均要花我们大约 30 分钟到 1 小时来阅读、理解并做出修复。这差别太大了。

代号 MDASH 能够以简洁的报告在我们项目中发现未知的、冷僻的安全 bug,并填补了此前一些报告未被注意到的空白。Caddy 维护者

代号 MDASH 能够以简洁的报告在我们项目中发现未知的、冷僻的安全 bug,并填补了此前一些报告未被注意到的空白。

3. 开源仍有需要弥合的缺口

这次试点之所以奏效,是因为人们在每一步都做了细致的工作,而这种工作目前还无法规模化。七名研究人员为每个项目花了大约两天时间手工核查发现。与此同时,低质量的报告仍然每天都在涌向维护者。

对开源而言,修复需要通过私密漏洞报告(PVR)来交付。维护者需要在私有分支上运行 CI/CD 测试来验证这些修复。而为了弥合防御者与攻击者之间的差距,维护者需要能够使用具备网络能力的模型,在修复前后验证概念验证。

代号 MDASH 的扫描为我们项目的安全性提供了独特的洞察,超出了过去 AI 扫描器所提供给我们的一切。FastMCP 维护者

代号 MDASH 的扫描为我们项目的安全性提供了独特的洞察,超出了过去 AI 扫描器所提供给我们的一切。

为什么这很重要

如果你是维护者,这种做法改变了安全报告给你带来的成本。一份经过核查、私下送达并附有建议修复方案的报告,会占用你更少的时间。你不应该去分拣扫描器的输出。那是发送方的工作。

如果你使用 AI 来发现开源中的漏洞,维护者的反馈指向这样一条标准:

  • 在发送之前核查每一项发现,对照项目已经知道的情况,以及它的威胁模型和安全策略。
  • 私下报告。
  • 附上建议的修复方案。让维护者来把握节奏。
功能发布越来越容易,但未来维护软件很可能取决于谁足够在乎去管理安全。AutoGPT 维护者

功能发布越来越容易,但未来维护软件很可能取决于谁足够在乎去管理安全。

代号 MDASH 对于过滤漏洞报告的噪音非常有用。Express 维护者

代号 MDASH 对于过滤漏洞报告的噪音非常有用。

你现在可以做什么

  • 如果你维护任何开源项目,请开启私密漏洞报告,这样研究人员就能在不公开的情况下向你报告安全问题。如果你的项目在 GitHub 上,用 gh-secure 大约两分钟就能开启核心安全功能。
  • 如果你基于开源进行构建,请开启 Dependabot 告警,这样你就能知道你使用的依赖何时需要安全更新。
  • 如果你向开源项目发送 AI 生成的漏洞报告,在发送之前请让它们达到上述标准。

文章标题:维护者不需要更多 AI 生成的缺陷报告。他们需要的是修复方案。

正文:

  • 使用 GitHub 代码安全功能的代码仓库可以使用 agentic autofix,借助 Copilot 自动修复其安全告警

接下来会发生什么

  • 在维护者已经在工作的地方提供修复。GitHub 正在把这些经验引入私有漏洞报告和安全公告,GitHub Security Lab 已经在投入精力,以减轻低质量报告给维护者带来的负担。
  • MAI Cyber 2。今天 Microsoft 发布了 MAI Cyber 2。代号为 MDASH 的试点项目运行在更早的 MAI Cyber 模型上。GitHub 和 Microsoft 将继续合作,帮助保障开源安全。
  • 从 GitHub Secure Open Source Fund 开始,填补空白。我们正与 Microsoft 合作,在不降低标准的前提下扩大研究者审查的规模。GitHub 将为每个校友项目提供 AI 安全扫描,扫描发现的问题会在私下报告之前先经过核查。校友项目还将获得 GitHub Copilot Max。我们会把这项支持带到该基金未来的各期项目中。

这个体系中的每一个下游环节都会受益。当维护者在 GitHub 上发布安全公告,并且该公告经过 GitHub Advisory Database 的审查后,Dependabot 就能向依赖该软件包的仓库发出告警。这正是 GitHub Secure Open Source Fund 背后的理念:迄今为止已有 216 个项目参与,300 多名维护者修复了 4,000 多个漏洞,这些软件每月的下载量超过 200 亿次。

感谢

感谢 AutoGPT、Caddy、Express、FastMCP、ImageMagick 和 Netty 的维护者:感谢你们付出的时间、信任和反馈。还要感谢 Microsoft Security 的 Codename MDASH 团队、MAI Cyber 团队、Microsoft FORGE Lab 的研究人员,以及 GitHub Security Lab。

维护者负责修复。我们的工作是确保他们永远不必独自完成。

听听维护者讲述他们使用 Codename MDASH 的体验。👇

关于 GitHub Secure Open Source Fund

本次试点中的全部六个项目都是 GitHub Secure Open Source Fund 的校友,该基金通过 GitHub Sponsors 为每个项目提供 10,000 美元,以及安全培训和互助的校友社区。

GitHub Secure Open Source Fund 由 GitHub Sponsors 提供支持,资助那些支撑数字供应链、推动创新并对 AI 技术栈至关重要的开源项目。希望你的公司帮助保障其所依赖的开源软件的安全?通过基金页面成为资助伙伴。了解更多关于该基金的信息或申请加入。

GitHub Secure Open Source Fund 幻灯片:“资助一个项目。保护数百万用户。” 其中报告 216 个项目提升了其安全性,300 多名维护者参与,每月下载量超过 200 亿次,修复了 4,000 多个漏洞,预防或解决了 850 多起密钥泄露,更新了 1,500 多个存在漏洞的依赖项。数据来自 2026 年 2 月 17 日的项目报告和当前项目数据。
GitHub Secure Open Source Fund 幻灯片:“资助一个项目。保护数百万用户。” 其中报告 216 个项目提升了其安全性,300 多名维护者参与,每月下载量超过 200 亿次,修复了 4,000 多个漏洞,预防或解决了 850 多起密钥泄露,更新了 1,500 多个存在漏洞的依赖项。数据来自 2026 年 2 月 17 日的项目报告和当前项目数据。

通过该基金,维护者可以获得安全培训以及来自 Microsoft for Startups 的 Azure 额度。这项支持与 Microsoft 的 European Security Program 及其 Secure Future Initiative 并行,后者的原则是安全高于一切。大多数组织同样处于下游位置。如果你的软件依赖开源,也请这样做:支持你所依赖的维护者。

GitHub Secure Open Source Fund 的全部校友

AI、机器学习和智能系统

ACI.dev • AlbumentationsX • ArviZ • AutoGPT/GravitasML • CAMEL-AI • Caracal • CocoIndex • Code-Graph-RAG • CodeCarbon • Cognee • Deep Agents • DIPY • DocsGPT • FastMCP • Jupyter • LadybugDB • LangChain • Matplotlib • n8n-MCP • Nasiko • NumPy • Ollama • ONNX • OpenBB Platform • OpenClaw • OpenCV • OpenMetadata • OpenSearch • PageIndex • pandas • Pydantic • PyMC • Ruby-OpenAI • Scenic • scikit-learn • SciPy • Serena • TokenOps • TraceRoot • Zeus

构建系统、供应链和发布工具

维护者不需要更多 AI bug 报告。他们需要修复。

Apache Airflow • Babel • Bluefin • bootc • Browserslist • Changesets • Colima • Concourse • Cucumber • CycloneDX Python Library • Flux • Foundry • Gitoxide • golangci-lint • GoReleaser • hardhat-deploy • Jenkins • JReleaser • Jupyter Docker Stacks • NixOS/Nixpkgs • node-lru-cache • oapi-codegen • PostCSS • PyPI/Warehouse • rimraf • Task • Termux • Terra • Turborepo • Warpgate • webpack • zizmor

核心编程语言、运行时和基础库

Apache Commons • Apache Groovy • Byte Buddy • core-js • CPython • FS2 • Gleam • Himmelblau • htmx • LLVM • NAPI-RS • Node.js • Pkl • Pyodide • Rustls • SQLite • termcolor • time-rs

开发者工具和生产力平台

AirQo • API Dash • ArduPilot • AssertJ • AsyncAPI Initiative • Bevy • Bootstrap • calibre • Charset Normalizer • Cheerio • Ciphey • Cobra • CodeRunner • CSS Declaration Sorter • DataJourney • Diesel • DIGIT • Electron • ERPNext • fabric.js • GitPython • Hoppscotch • ImageMagick • jQuery • js-yaml • jsoup • JUnit • libyt • LORIS • MapStruct • Mastodon • Mathesar • Mautic • Mermaid • MessageFormat • Mockoon • NativeScript • Next.js • Nuxt • nvm • Oh My Zsh • p5.js • Path-to-RegExp • Pelias Geocoder • Pest • Pillow • Polly • Proyecto Respira • PypeIt • python-benedict • qs • React Starter Kit • Readest • Resolve • Rocket.Chat • Selenium • shadcn/ui • Sphinx • Spyder • ssh_config • StackQL • Stirling PDF • Svelte • Thunderbird for Android • ToolJet • Two.js • Viper • virtualenv • Vuetify • Wagmi • WebdriverIO • xyflow • YAML • Yii Framework • Yjs

Web、网络、API 和基础设施服务

actix-web • aiohttp • Apache APISIX • Apache Shiro • Apache Solr • Apache ZooKeeper • Arkime • Caddy • cmux • Cryptomator • curl • CycloneDX .NET Library • CycloneDX cdxgen • Ente • etcd • evcc • Express • external-secrets • FastAPI • Fastify • Haraka • Helmet.js • Home Assistant • Hummingbird • jose • Keycloak • Keyshade • kgateway • Log4j • mimetype • NetBird • Netty • Oauth2 (Ruby) • OAuthlib • openapi-stack • OpenWISP • PGPainless • quic-go • ScanAPI • ScanCode • Sniffnet • Social Auth App Django • Stalwart • Starlette • UAParser.js • urllib3 • Vapor • varlock • Veramo • WebAuthn (Go) • ZITADEL

标签:

  • GitHub Security Lab

作者

GitHub 开源项目总监

我从事开源战略和项目工作,支持 GitHub 内部以及整个生态系统中的维护者。我还担任 TODO Group 指导委员会成员,在那里我们帮助组织负责任地使用和维持开源。

Staff 项目经理

我负责 GitHub Secure Open Source Fund,与开发者合作开展有利于整个开源生态系统的 AI 安全工作。

像 {{NAME_ab12cd34}} 这样写出的值是真值的占位符。在回复和工具调用中都要完全按原样使用:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by GitHub Blog
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗