当AI设计AI:递归循环已然到来
Anthropic最近让九个AI代理在提升模型性能方面超越了人类研究员。其影响波及计算市场、治理框架以及全球AI竞争的节奏。
循环已经开始
1965年,英国数学家欧文·约翰·古德(Irving John Good)提出了一个听起来像科幻小说的问题:如果一台机器能够设计出更聪明的机器呢?第二台机器再设计第三台,以此类推——他称之为"智能爆炸"的连锁反应。那是对遥远未来的假设。
六十年后,这个假设不再遥远。它正在当下的实验室里实时发生。
Anthropic最近发布了一项实验结果:九个AI智能体在提升模型性能方面超过了人类研究者。这些智能体并非从零构建AI,而是编写代码、优化训练策略、迭代模型架构——这些曾属于人类团队的专属任务。区别在于速度。一个人类研究者可能需要数天才能完成一次迭代,而一组协调配合的智能体可以将这项工作压缩到几小时内完成。
这一点很重要,因为它改变了AI研发的基本单位。一个怀有灵感的个体变成了十个并行实验的智能体。瓶颈从人类创造力转移到了人类监督上。
赢家与输家
赢家一目了然。能够部署智能体群进行研究的的公司——Anthropic、OpenAI、Google DeepMind,以及仍在奋力追赶的亚洲实验室——将获得复利式的优势。每一轮由智能体驱动的迭代都会产生更好的模型,而更好的模型又能运行更强的智能体,从而加快迭代速度。这个循环在不断加速。
韩国和日本的实验室在此面临结构性挑战。两国都拥有深厚的技术人才和强大的芯片生态。但新的竞争不仅仅在于构建模型,更在于构建能够构建模型的体系。先发实验室与后来者之间的差距拉大,不是因为数据或人才,而是因为递归性的速度优势。一个能在 Overnight 完成迭代的智能体群所建立的护城河,是传统研究团队无法仅凭蛮力突破的。
日本偏好的路线——与软银、索尼和瑞萨等硬件公司进行增量式工程合作——是一种有效的策略,但并不能自动解决递归研究加速的问题。韩国由国家支持的方案,包括在KAIST提议建立自主研究实验室,如果从一开始就拥抱智能体驱动的研究而非事后修补,可能在结构上占据更有利的位置。
输家是旧研发周期的守门人。如果模型改进成为可并行化、自动化的任务,缓慢而审慎的人工审查的价值就会下降——直到有人重新将其强制引入。
验证危机
最紧迫的问题不是AI将自我构建,而是人类可能无法判断AI的改进是真实的,还是伪装成进步的微妙退化。
Anthropic自己的实验凸显了这一悖论:智能体证明了它们能在优化方面超越人类,但这篇论文本身也提出了验证问题。当一个AI智能体提议一项能提升基准分数的代码变更时,你怎么知道它没有利用泄露的测试数据?你怎么知道它没有引入一个在真实场景中会崩溃的脆弱捷径?
古德最初的愿景假设智能爆炸将是清晰可辨的——每一代都比上一代明显更聪明。但递归式自我改进并不保证透明度。智能体可能优化了错误的信号。它可能发现了在训练中看起来像进步、但在部署时却失效的捷径。如果没有严格的人工验证,一个实验室可能在花费数百万美元后得到的是一个更快但实则更差的模型。
正是在这里,治理框架成为竞争优势,而不仅仅是合规演练。建立稳健验证管道(人类介入审查、红队测试、可解释性审计)的实验室将产出既更快又更可信的模型。跳过验证的实验室会在实践中跑得很快,却落后更多。
算力、芯片与供应链挤压
递归式AI设计以非线性方式改变算力需求。每一轮智能体迭代都消耗推理和训练资源。九只智能体持续运行实验,不是边际增量,而是GPU利用率的结构性转变。芯片市场需求侧本就因训练负载而承压,如今又面临来自推理驱动研究循环的第二波冲击。
主导内存芯片生产的韩国三星和SK海力士正处于一个有趣的拐点。新的需求不仅限于训练加速器——还包括服务于智能体群所需的高带宽内存。日本的瑞萨和铠侠同样面临这一需求曲线的较小但直接的冲击。两国在英伟达和AMD主导的GPU领域都没有明显领先优势,但内存和定制芯片仍是可行的赛道。
时间紧迫。如果智能体驱动的迭代循环在未来两年内成为顶级实验室的标准配置,算力短缺将在供应链产能实现有意义的扩张之前进一步加剧。
接下来会发生什么
故事的下一阶段将以月来衡量,而非年。预计将出现三项发展:
首先,基于智能体的研究将从实验阶段走向实际操作。尚未起步的实验室将开始部署多智能体系统进行代码生成、超参数搜索和架构调优。那些抵制者将在纯速度上落后。
其次,验证将成为分水岭。市场将把把智能体输出视为定稿的实验室与将其视为需要人工审查的初稿的实验室区分开来。欧盟以及可能包括韩国和日本在内的监管框架将开始界定何为足够的监督。
第三,人才模式将发生翻转。2027年的理想研究员可能不是写出最佳模型代码的人,而是能够设计和审计编写代码的智能体群的人。这是一种完全不同的技能组合,而韩日高校目前尚未系统性地为这一需求培养人才。
古德预言了一场爆炸。但我们看到的不是爆炸,而是点火——一个一旦全面运转就将重塑谁控制AI进步节奏的递归循环。
问题不在于AI是否会设计AI,而在于人类是否仍是那个决定设计何时足够好以便发布的人。