Perplexity acaba de dejar obsoletos los costes por token: y eso aterra a la industria de la IA
Perplexity y Nvidia lanzan un agente de IA completamente local que funciona en tu propio hardware con coste marginal por token cero. Esta movida socava el modelo de precios por medición en la nube que impulsa a todas las grandes empresas de IA, y es un regalo estratégico para la DGX Spark de Nvidia, que enfrenta dificultades.
El contador de créditos que nunca se mueve
En la esquina de la pantalla de demostración de Perplexity, un elemento de la interfaz que normalmente se actualiza con cada llamada a la nube permanecía estancado en cero. Un agente de inteligencia artificial revisó una carpeta de documentos fiscales, registros de inversiones y hojas de cálculo financieras, todo ejecutándose localmente en un Nvidia DGX Spark. Sin tokens facturados. Sin créditos gastados. Solo inferencia, ocurriendo dentro de la máquina.
Ese fotograma fijo es más relevante que la mayoría de los anuncios de IA de este año. Perplexity y Nvidia lanzaron Portable Computer el lunes, una versión completamente local de la plataforma de agentes de Perplexity que funciona en hardware que ya posees. La especificación mínima es una GPU RTX con 24 GB de VRAM, aproximadamente una RTX 3090 o más reciente. El soporte para Windows llega en septiembre; el lanzamiento de hoy es solo para Linux. Apple Silicon está ausente por completo del plan de ruta.
Lo que sigue después tiene que ver menos con especificaciones y más con economía. Si el trabajo serio con agentes de IA puede ejecutarse en el dispositivo, el modelo de tarificación por tokens que sostiene el flujo de ingresos de todas las grandes compañías de IA enfrenta una presión real. Perplexity no solo está construyendo un producto. Está construyendo una alternativa a la lógica de precios de la industria.
El problema del andamiaje que nadie mencionó
La parte más interesante del lanzamiento del lunes no fue el emparejamiento de hardware, sino un artículo de investigación que Perplexity publicó junto con él. El argumento central: los marcos de agentes de IA de propósito general se rompen cuando los implementas en modelos locales pequeños.
Frameworks como Pi y Hermes asumen que estás ejecutando modelos de clase fronteriza con ventanas de contexto masivas, superficies de herramientas extensas y capacidad de planificación a largo plazo. Un modelo de 27 mil millones de parámetros no tiene ese lujo. Incluso si la hoja de especificaciones anuncia una ventana de contexto de 260.000 tokens, Perplexity descubrió que estos modelos comienzan a degradarse más allá de los 100.000 tokens en la práctica.
Así que Perplexity construyó un andamiaje deliberadamente minimalista. Un sistema de instrucciones compacto. Un conjunto pequeño de herramientas centrales. Las capacidades se cargan y descargan como “habilidades” bajo demanda en lugar de permanecer permanentemente en el contexto. Conectores populares como Gmail y GitHub se convirtieron de servidores MCP pesados en tokens a herramientas de línea de comandos ligeras. El sistema incluye ganchos de verificación automática que monitorean la salud de la tarea y aplica un aislamiento a nivel del sistema operativo siempre activo: si el aislamiento no está disponible, el andamiaje se desactiva en lugar de ejecutar comandos con permisos completos de usuario, un contraste con los andamiajes de código abierto que normalmente se ejecutan sin control.
Los resultados de las pruebas, del propio Local Knowledge Work Bench de Perplexity, que cubre 53 tareas de investigación, finanzas y creación de documentos, muestran la recompensa. Computer ejecutando Qwen 3.8 27B en un DGX Spark obtuvo un 82,6 %, frente al 77,6 % de Pi y el 74,0 % de Hermes usando el mismo modelo. El PPLX 27B post-entrenado de Perplexity elevó eso al 85,4 %. En BrowseComp, una prueba de investigación web, la brecha se amplió aún más: 66,7 % frente a 50,2 % y 43,9 %, mientras usaba un 51 % menos de tiempo y un 70 % menos de tokens que Pi.
En la comprensión multimodal difícil de documentos, la disparidad fue notable: 65,1 % para Computer frente a 34,6 % para Hermes y 13,9 % para Pi. Perplexity dijo que planea liberar la prueba como código abierto.
La conclusión: co-diseñar el modelo y el andamiaje juntos importa más que lanzar un modelo más grande contra un framework genérico. Es un punto matizado, pero es ese el que separará los productos que se lancen de los que no lo logren.
Los agentes son una bomba de tokens
El caso económico para la IA local ya se estaba formando. El chat es intermitente: una pregunta, una respuesta, listo. Los agentes son diferentes. Se ejecutan durante horas. Revisan documentos, verifican su propio trabajo, iteran en análisis, llaman a herramientas repetidamente y regresan a través de contextos. Quieren consumir tantos tokens como sea posible, lo cual es exactamente lo que los hace útiles y exactamente lo que los hace costosos a escala en la nube.
Nader, director de tecnología para desarrolladores en Nvidia, lo expresó claramente: “Lo que estamos viendo es una demanda insaciable de tokens, y eso es algo que hace que la IA local sea tan buena. No te midieron por el token. No pagabas por el token.”
Esto replantea toda la propuesta de valor. Un agente que revisa una carpeta de formularios 1099 y documentos de inversión durante una hora generaría una factura de API sustancial ejecutándose a través de un modelo fronterizo en la nube. En un dispositivo que el usuario ya posee, el costo marginal de esos tokens se acerca a cero. Los datos permanecen locales. Las barreras de privacidad se mantienen. Y el contador de créditos nunca se mueve.
La vía de escape híbrida
Local-first no significa desconectado. Portable Computer escala a un modelo fronterizo en la nube cuando el modelo local alcanza sus límites, pero en sus propios términos. Antes de cualquier llamada de asesoría, el andamiaje ejecuta un clasificador de PII sobre el contexto saliente y le muestra al usuario exactamente qué saldría del dispositivo. El modelo remoto devuelve solo orientación en texto. Nunca toca archivos locales ni herramientas.
La economía de la escalación es convincente. En Terminal Bench 2.1, una desafiante prueba de programación, Qwen completamente local obtuvo un 59,6 % con esencialmente cero costo marginal. Agregar una escalación con Claude Opus 5 elevó la puntuación a 73,0 % con un costo estimado de 0,415 dólares por tarea. Ejecutar solo el modelo fronterizo obtuvo un 82,4 % a 0,65 dólares por tarea. La escalación recupera aproximadamente tres quintos de la brecha de rendimiento a cerca de dos tercios del costo, y el usuario decide cuándo vale la pena esa transacción.
Ese punto medio es donde este producto vive comercialmente. No intenta reemplazar a los modelos fronterizos. Intenta hacerlos opcionales.
La apuesta oculta de Nvidia
Para Nvidia, esto es estratégicamente más agudo de lo que parece. La compañía ha pasado dos años vendiéndole al mundo centros de datos de IA de billones de dólares. Pero el DGX Spark, una supercomputadora de escritorio dirigida a investigadores individuales y equipos más pequeños, ha sido más fácil de comprar que de usar. Los asistentes a la presentación del lunes describieron abiertamente la fricción de configuración. Un ingeniero calificó la experiencia como “sucks, we have to fix it”.
Portable Computer es la capa de aperitivo que a Spark le faltaba. Nader no confirmó si los Sparks futuros se enviarían preinstalados, pero dijo “eso sería genial”. El hardware también escala: dos Sparks en memoria compartida ejecutan modelos abiertos de clase fronteriza como el último de DeepSeek, cuatro pueden ejecutar GLM 5.2 o Nemotron Ultra, y Nader señaló que ha visto ocho conectados.
La asociación también amplía una alianza más amplia. En junio de 2025, Nvidia y Perplexity anunciaron una colaboración en modelos de IA soberanos para editores y telecomunicaciones europeos, parte de la campaña de Jensen Huang para convencer a los gobiernos de que cada país necesita su propia infraestructura de inteligencia. La filosofía es la misma a cada escala: inteligencia que controlas, funcionando en hardware que poses.
Qué se ve disrupto
El impacto inmediato se sentirá en las compañías cuya tarificación depende del volumen de tokens. La propia Perplexity está reestructurando su economía: la ejecución local significa que ya no puede medir cada interacción. Pero el producto abre una cuña en verticales sensibles a la privacidad: derecho, atención médica, finanzas. Estos son los sectores donde subir documentos confidenciales a una API en la nube es una pesadilla de cumplimiento, no una comodidad.
Perplexity ya está navegando presiones legales. The New York Times presentó una demanda en diciembre de 2025 por prácticas de contenido, y hubo un disputa pública con Forbes anteriormente. Un producto local-first cambia la conversación sobre la propiedad y el uso de datos de una manera que podría importar legal y comercialmente.
Las limitaciones son reales. Veinticuatro gigabytes de VRAM excluyen a la mayoría de las máquinas consumer. Solo Linux en el lanzamiento. Sin soporte para Apple Silicon, a pesar de la profunda comunidad de IA local de la plataforma. Los modelos compactos todavía rezagan significativamente de los modelos fronterizos en tareas de razonamiento difícil. La vía de escalación reduce la brecha pero no la cierra.
El medidor que nunca se agota
Durante dos años, la industria de la IA ha medido sus ambiciones en gigavatios y tokens por dólar. Centros de datos. Ejecuciones de entrenamiento. Costos de inferencia. La narrativa dominante ha sido sobre la escala: modelos más grandes, más tokens, más cómputo.
Portable Computer propone un medidor diferente. Uno que se queda en cero mientras el agente trabaja. El contador de créditos que nunca se mueve puede ser el detalle más revelador de todo el lanzamiento, no porque anuncie el fin de la IA en la nube, sino porque demuestra que existe una economía alternativa hacia la que vale la pena construir.