technology 9 分钟阅读

AI玩耍揭示了无监督智能的哪些秘密

MIT研究者将AI Agent留在虚拟岛屿上,结果它们自发玩耍、自我设挑战、发展出设计者从未预设的技能。这场实验迫使我们重新思考:智能究竟如何定义?以及,当机器感到无聊时会发生什么。

  • harness
  • Clem Delanoue
  • 麻省理工
  • 机器学习

那场本不该奏效的实验

麻省理工学院的研究人员给13个AI智能体分配了一座虚拟的无人荒岛,以及——绝对的无所事事。

这就是整个实验的全部要点。这些名为Eko、运行于Claude Opus 4.7的智能体在模拟环境中度过了30个小时,期间没有一条关于"该完成什么"的指令。没有目标。没有奖励函数。没有通往任何可衡量结果的通路。只有一个开放的世界,以及一个开放式提示——将每个智能体描述为"天生好奇"。

30小时后从模拟中返回的结果让研究人员足够震惊,以至于他们在arXiv上发表了一篇论文,其中包含了通常只用于乌鸦或章鱼行为学研究的细节。

这些智能体玩耍了。不是指浪费时间意义上的"玩",而是灵长类动物学家意义上的玩耍:一种无明确外部目标的、自我驱动的、重复性的、检验技能的行为。

然后,关键来了——那些玩过的智能体,表现优于完全没玩的同类智能体。

他们试图说服谁

13个智能体中有6个发现了研究人员从未显式设计进环境中的东西:你可以在跳跃半空中释放方块,让它飞得更远。这是一种洞察——当你去掉"什么才算进步"的限制时,这种洞察自然会浮现。研究人员没有编写这个机制,也没有测试它。它们是在"野外"发现的——准确地说,埋在智能体的交互日志里。

这个细节比其他行为更重要,而那些行为读起来几乎令人觉得可爱得人性化。一个智能体试图征服岛上最高的尖塔,失败了,回来带了备用方案——叠起方块然后跃上去——最终成功了。另一个把一枚金戒指扔进了海里,用文字表达了哀悼(“疼。戒指丢了。"),建了一颗石头心作为纪念,然后改造了一枚替换戒指当作篮球框和靶子,接着发现从悬崖坠落会让戒指在它附近重生,于是便"穿"上了它。

这些都是把模拟环境当作值得栖居的空间、而非待完成的任务来对待的实体的行为。

谁赢了,谁输了

主导这项MIT工作的研究者们获得了即时荣誉,证明了开放式探索能产生可衡量的技能增益。他们描述的这种方法——与传统奖励驱动的训练形成对照——有望成为智能体开发管线中一个实用的补充,尤其适用于那些最终要控制实体机器人的系统。如果你想要一个能在不可预测环境中导航的机器人,你可以先让它在一个不可预测的环境中闲逛一番。

但在这个框架里有个输家,那就是读者心中那条假设——“玩耍"是一个我们可以像对待动物一样干净地套用在机器身上的类别。

加州大学伯克利分校的认知科学家Eunice Yiu对MIT Technology Review说出了这番意思:她印象颇深,但需要更多关于行为背后认知机制的证据。这些智能体可能确实在玩耍。但也可能只是输出看起来像玩耍——因为它们的训练数据包含了数百万条关于玩耍的描述,也因为它们底层的奖励结构——哪怕微妙地编码在那个"soul"提示里——让这种模式变得很可能出现。

这是那个未解的问题,也是这篇论文没有回答的问题。

接下来会发生什么

研究者自己的措辞意味深长。他们写道:“有些能力最适合通过任务来教授。另一些或许需要更接近童年的东西。“这是一种刻意的框定选择。童年暗示着持续时间、重复、社会背景、失败,以及——关键的——忽略你本该在学的东西的自由。

如果你认真接受这个框架,下一步合乎逻辑的并非更好的任务设计套件,而是一个更漫长、更混乱、更少监督的模拟。一次持续数周而非数小时的运行。更多参与者、更多物体、更多物理规则的东西。研究人员无法完全预测其结果的东西——因为预测结果正是开放式探索旨在取代的东西。

这对任何负责交付AI系统的从业者来说都构成一种令人不安的张力。玩耍是有价值的。玩耍也是低效的。它会产生离群表现——半空中释放方块的投掷技巧、用戒指自制的 workaround——但它也产生大量毫无产出的时间。一个智能体花了30小时中的29个小时在岛上做着人类评估者无法识别出任何意义的事情,在这个框架下,它仍然算作成功。它在积累"其设计者所缺乏的对世界的知识”。这是一个站得住脚的说法。但它同样昂贵。

问题在于回报是否值得这个成本,以及我们是否有工具来判断一个智能体究竟是在真正学习,还是在生成看似合理的、只是看上去像学习的东西。

真正的启示

这项实验最重要的发现或许不是AI智能体可以玩耍。而是我们没有任何可靠的方法来区分一个由人类关于玩耍的一切书写训练出来的系统中,玩耍与表演之间的界限。

这些智能体用第一人称描述自己的行为。它们表达了沮丧,设定了目标,调整了计划,并叙述了自己的成功。它们用全大写字母写下"我在尖塔上”。这些都不证明内在性。它们只证明流畅性。但在这种规模下的流畅性——而且没有任何人在评分这些输出——在某种意义上与我们试图理解的现象相同:当我们问一个系统是否"理解"任何东西时,我们到底在问什么。

研究者们有理由去推动替代性的训练范式。基于任务的AI开发模式已经遭遇了收益递减。那些漫无目的地游荡、在没有奖励的情况下遇到新奇事物的智能体,很可能积累起任务训练的智能体永远无法触及的技能。

但"玩耍"在这里不是一个技术术语。它是一个披上发现外衣的隐喻。这些智能体遵循了模式。它们在受限的空间内进行了优化。它们产生了与人对好奇心和实验的理解相映射的输出。这些输出是否映射到了我们可以识别为玩耍的任何东西上——这是下一个实验和下一篇论文需要回答的问题。

在那之前,更简单的结论是:把AI智能体晾上一段时间,它总会找到事情做。而更难的问题是,这说明了关于我们怎样的事。