Google暂停漏洞赏金计划 因AI幻觉淹没开源

谷歌的开源漏洞赏金计划暂停了。为什么这很重要。

谷歌已将其开源软件漏洞奖励计划暂停至2027年第一季度至少。官方给出的原因是：自动提交数量大幅上升，其中大部分无效或为模型幻觉产生的内容。该冻结于10月1日生效，虽然谷歌已引导研究人员转向其其他漏洞赏金计划，但这些计划的覆盖范围更窄——针对的是商业产品，而非谷歌自有开源项目的广阔生态。

这是首家大型平台正式隔离业界所称的"AI水货"。这一决定揭示了一个令人不安的现实：生成式AI正走向何处。当模型能够大规模生成看似可信但完全虚构的安全报告时，它们不仅塞满收件箱，更在侵蚀维持软件安全的底层基础设施。

究竟发生了什么

根据X平台和项目官网的帖子，谷歌工程师和开源维护者被大量含有幻觉细节的报告淹没了。这些不仅仅是格式糟糕的提交——它们看起来是合理的漏洞声明，但在审核时被证明是捏造的，包含看似真实的CVSS评分、与实际代码路径无关的堆栈跟踪，以及对不存在或已在数月前的重构中被移除函数的引用。

网络安全专家此前并非首次警告这一风险。TechCrunch去年报道，AI生成的提交已成为全行业漏洞赏金计划的严重问题。谷歌的冻结是首个主要机构的正式承认——这一威胁已从理论问题演变为系统性风险。它证实了许多研究人员的猜测：漏洞报告中的信噪比已越过临界点，若不在结构层面进行重大调整，人工筛选已无法维持。

谷歌表示，自动提交的"绝大多数"并不合法有效。措辞经过深思熟虑且谨慎。它没有说所有提交都是假的。其中一些可能确实真实——而正是这种不确定性本身让信号更难被识别。当你无法在不进行深度代码级审查的情况下区分真正的零日漏洞和AI生成的伪造内容时，验证成本会呈指数级上升。

次生影响向外扩散

其影响远超谷歌自身的计划范围。开源生态建立在脆弱的信任模型之上。维护者自愿投入时间，审阅者耗费数小时验证每项声明。当这种工作流程被合成噪音轰炸时，其背后的人类基础设施便开始瓦解。

小型项目受到的打击最为严重。许多开源仓库依赖少数几名无偿维护者，他们本就已经深陷积压难题。海量幻觉报告的涌入吞噬了本可用于实际安全工作和代码改进或文档编写的审查精力。穿梭于那些初看技术细节充分因而显得可信的伪造声明之间的情感代价不可低估，而这正加剧了本就人手短缺的社区的倦怠感。

对合法研究人员也存在寒蝉效应。通过该项目建立声誉的人可能会发现自己的工作因与这场洪水产生关联而被贬值。未来来自可信研究人员的提交可能仅仅因为可信门槛已被抬高而遭遇更严格的质疑。漏洞赏金计划旨在积累的品牌资本正在被侵蚀。

在供给端，AI模型提供商仍处于 insulated 状态。谷歌未点名哪些模型生成了这些提交，也无人需要披露该信息。构建这些系统的公司不会因其工具产生的噪音而受到任何惩罚。目前没有任何责任框架能够将幻觉输出与分发它们的平台联系起来。

更大的格局

此次冻结并非孤立事件。它是AI输出质量从内容问题转变为维护问题的预演。每一个依赖用户生成内容的平台——漏洞赏金计划、论坛审核、代码审查流程，甚至自动化测试管道——都终将面对这场碰撞。

开源软件依赖于信任和验证。一份漏洞报告是一种需要 scrutiny 的声明。当声明数量超出验证能力时，整个系统就会退化。这不只是谷歌的问题。任何运营漏洞赏金计划或依赖社区驱动安全研究的组织都会面临同样的动态。这种模式将在不同平台、语言和项目中反复重演。

生成式AI与开源维护之间的碰撞正在到来，无论平台是否准备好了。GitHub Copilot等工具和类似AI助手已经在重塑开发者编写代码的方式。如今，同样的工具正在改变他们报告问题的方式——而且往往并不总是好事。

接下来会发生什么

谷歌承诺在2027年第一季度提供更新。那还有大约八个月。在此期间，该计划将对新的开源提交保持关闭。研究人员将转向其他赏金或等待。维护者至少能暂时松一口气。但根本问题不会消失。

AI模型在生成听起来合理的报告方面会越来越好。随着模型接入更加广泛、推理成本持续下降，自动提交的数量很可能会增加而非减少。谷歌的冻结只是一个暂停，而非解决方案。它是一个断路器，而非重新设计。

真正需要的，是对漏洞赏金计划如何验证提交的根本性反思。安全措施领域已在讨论几种方案。要求证明实际可利用性——而不仅仅是描述漏洞——的工作证明机制可以提高生成伪造报告的成本。与现有安全工具和静态分析管道的更紧密集成可能有助于在提交到达人工审阅者之前自动过滤低质量内容。一些研究人员提出了基于信誉加权的筛选系统，根据历史准确率决定提交者的报告被加速处理的速度。

这些都尚未敲定。谷歌的冻结是业界对谁都不愿提出的问题给出的第一个诚实回答：当AI能够用令人信服垃圾淹没我们的系统时，我们该怎么办？

到目前为止的回答是：阻止人们进入。这不可持续。但我们正处于这个阶段——开源安全社区必须在下一波浪潮到来之前搞清楚下一步该怎么做。