Perplexity让Token成本成为过去式——这让AI行业毛骨悚然

永远不跳动的信用计数器

在 Perplexity 演示屏幕的一角，那个原本每次云端调用都会跳动的 UI 元素始终停在零。一台 AI 智能体正在本地审查一文件夹的税务文档、投资记录和财务表格——全部运行在一台 Nvidia DGX Spark 上。没有令牌计费，没有信用点消耗，只是推理，在机器内部发生。

这一静止帧比今年大多数 AI 公告都更为深远。周一，Perplexity 与 Nvidia 推出了 Portable Computer，这是 Perplexity 智能体平台的一个完全本地版本，运行在你已经拥有的硬件上。最低配置要求是一块拥有 24GB 显存的 RTX GPU——大致相当于 RTX 3090 或更新的型号。Windows 支持将于九月推出；今天的发布仅限 Linux。Apple Silicon 完全不在路线图之中。

接下来发生的事与其说是关于规格参数，不如说是关于经济学。如果严肃的 AI 智能体工作能够在设备端运行，那么支撑每家大型 AI 公司收入流的令牌计量模式将面临真正的压力。Perplexity 不仅仅是在构建一个产品，它是在构建对行业定价逻辑的替代方案。

无人谈论的框架困境

周一此次发布中更有趣的部分不是硬件搭配——而是 Perplexity 同步发表的一篇研究论文。其核心论点：通用 AI 智能体框架在部署到小型本地模型时会崩溃。

像 Pi 和 Hermes 这样的框架假定你运行的是具有巨大上下文窗口、 sprawling 工具表面和长时域规划能力的顶尖级模型。一个 270 亿参数的模型并不享有这种奢侈。即便规格表宣称拥有 260,000 令牌的上下文窗口，Perplexity 发现这些模型在实际使用中超过 100,000 令牌后便开始衰减。

因此 Perplexity 构建了一个刻意极简的框架。一个紧凑的系统提示词。一组核心工具。能力以按需加载和卸载的"技能"形式运行，而非永久占用上下文。Gmail 和 GitHub 等流行连接器从令牌开销沉重的 MCP 服务器转化为轻量级命令行工具。系统包含自我验证钩子，用于监控任务健康状态，并强制始终开启操作系统级别的沙盒——如果沙盒不可用，框架会自行禁用，而不是以完整用户权限运行命令，这与通常未经检查便运行的开源框架形成鲜明对比。

基准测试结果——来自 Perplexity 自己的 Local Knowledge Work Bench（涵盖研究、财务和文档创建领域的 53 项任务）——显示了回报。在 DGX Spark 上运行 Qwen 3.8 27B 的 Computer 得分 82.6%，而使用相同模型的 Pi 为 77.6%、Hermes 为 74.0%。Perplexity 自身后训练的 PPLX 27B 将其推高至 85.4%。在 BrowseComp 这项网络研究基准中，差距进一步扩大：66.7% 对比 50.2% 和 43.9%，同时比 Pi 少用 51% 的墙钟时间和 70% 的令牌。

在困难的多模态文档理解任务上，差异尤为显著——Computer 为 65.1%，Hermes 为 34.6%，Pi 仅为 13.9%。Perplexity 表示计划开源该基准。

结论是：协同设计模型和框架，比将更大的模型强塞进通用框架更为重要。这是一个微妙的观点，但正是它将区分能够交付的产品与无法交付的产品。

智能体是令牌炸弹

本地 AI 的经济逻辑早已成形。聊天是突发性的——一个问题，一个答案，结束。智能体则不同。它们运行数小时。它们审查文档，验证自己的工作，迭代分析，反复调用工具，并在上下文之间循环。它们希望消耗尽可能多的令牌，这恰恰是它们有用之处，也恰恰是在云规模下昂贵的原因。

Nvidia 开发者技术总监 Nader 直言不讳：“我们看到的是一种对令牌的贪婪需求，这正是本地 AI 如此出色的原因。你不被令牌计量。你不必为令牌付费。”

这重构了整个价值主张。一个智能体花一个小时审查一文件夹的 1099 表格和投资文档，如果在云端通过顶尖模型运行，会产生可观的 API 账单。而在用户已经拥有的设备上，这些令牌的边际成本趋近于零。数据留在本地。隐私边界得到维护。而令牌计数器永不跳动。

混合逃生舱

本地优先并不意味着断网。Portable Computer 在本地模型触及极限时会升级调用云端顶尖模型——但按照它的条件。在任何顾问调用之前，框架会对出站上下文进行 PII 分类器扫描，并向用户精确展示哪些内容将离开设备。远程模型只返回文本指导。它从不触碰本地文件或工具。

升级调用的经济学令人信服。在 Terminal Bench 2.1 这项具有挑战性的编码基准中，完全本地的 Qwen 得分 59.6%，边际成本几乎为零。加入 Claude Opus 5 的升级调用后，得分提升至 73.0%，每任务约 0.415 美元。单独运行顶尖模型得分 82.4%，每任务 0.65 美元。升级调用以约三分之二的成本恢复了约五分之三的性能差距——而用户自己决定是否值得做出这种权衡。

这个中间地带正是该产品在商业上的立足点。它并非试图取代顶尖模型，而是试图让它们成为可选项。

Nvidia 的隐性豪赌

对 Nvidia 而言，这比看上去更具战略锋芒。这家公司用了两年时间向世界推销万亿级别的 AI 数据中心。但 DGX Spark——一款面向个人研究者和较小团队的桌面超级计算机——比它能卖出的更容易购买。周一简报会的与会者公开描述了设置的摩擦。一位工程师称这种体验"糟透了，我们必须修复它"。

Portable Computer 正是 Spark 所缺失的电器层。Nader 不愿确认未来的 Spark 是否会预装，但表示"那会很不错"。硬件也在扩展：两块 Spark 通过共享内存运行如 DeepSeek 最新之类的顶尖级开源模型，四块可运行 GLM 5.2 或 Nemotron Ultra，Nader 表示他见过八块连接的案例。

此次合作也延伸了一段更广泛的联盟。2025 年 6 月，Nvidia 与 Perplexity 宣布就主权 AI 模型展开合作，服务欧洲出版商和电信公司——这是黄仁勋推动政府相信每个国家都需要自己的情报基础设施运动的一部分。这一哲学在每个规模上都保持一致：你能控制的情报，运行在你拥有的硬件上。

什么将被颠覆

直接影响将落在那些定价依赖令牌量的公司身上。Perplexity 自身也在重组其经济逻辑——本地执行意味着它不能再计量每一次交互。但这款产品为隐私敏感型垂直领域打开了楔口：法律、医疗、金融。这些是上传敏感文档到云端 API 属于合规难题而非便利的领域。

Perplexity 已经在应对法律压力。《纽约时报》于 2025 年 12 月就内容实践提起诉讼，此前还与《福布斯》发生过公开争执。本地优先的产品以某种方式改变了关于数据所有权和使用方式的讨论——这在法律和商业上都可能产生意义。

约束是真实的。24GB 显存排除了大多数消费级机器。发布时仅限 Linux。尽管该平台拥有深入的本地 AI 社区，却无 Apple Silicon 支持。紧凑型模型在困难推理任务上与顶尖模型仍有实质性差距。升级路径缩小了这一差距，但未能弥合。

永不转动的计量器

两年以来，AI 行业一直用吉瓦和每美元令牌数来衡量其雄心。数据中心。训练运行。推理成本。主导叙事一直是关于规模——更大的模型、更多的令牌、更多的算力。

Portable Computer 提出了一个不同的计量器。一个在智能体工作时始终停留在零的计量器。那个永远不跳动的信用计数器，可能是整个发布中最意味深长的细节——不是因为它宣告了云端 AI 的终结，而是因为它证明了存在一个值得奔赴的替代经济体。