El auge de la IA local se consolida con 1.3 mil millones de descargas de LLM, impulsado por modelos que ya igualan el rendimiento de la nube. Para eliminar barreras técnicas, NVIDIA simplifica la instalación de agentes a un solo clic y presenta NVIDIA Pair, una herramienta de código abierto que distribuye la carga de procesamiento entre los dispositivos del hogar sin ralentizar otras tareas.
A esto se suma el lanzamiento del SoC N1X con arquitectura Blackwell para potenciar los nuevos equipos RTX Spark. Con optimizaciones de velocidad en motores como Llama.cpp y el respaldo de gigantes del videojuego como EA y Ubisoft, la IA local se vuelve más accesible, privada y potente.
Crecimiento de la IA Local y los Agentes
El elevado coste de algunos planes de suscripción de Inteligencia Artificial está haciendo que muchos usuarios y empresas hayan decidido empezar a utilizar IA local en combinación con agentes.
Se han registrado 1.3 mil millones de descargas de LLM, lo que representa un crecimiento de 4 veces respecto al año anterior, impulsado por usuarios que buscan experimentación ilimitada y reducir costos de tokens.
Diagrama de NVIDIA que explica el flujo de trabajo de la inteligencia artificial ejecutada de forma local, combinando agentes, modelos de lenguaje (LLM) y herramientas integradas en aplicaciones de Windows – Foto: NVIDIA
El auge de la IA local se debe a que nuevos modelos igualan el rendimiento de los modelos en la nube. Por ejemplo, en solo cuatro meses, modelos locales como GLM 5.3 y Qwen 3.8 Flash Next han logrado igualar en benchmarks al modelo Opus 4.7 de Anthropic.
En el ámbito de la generación de vídeo, el modelo local Minimax H3 (lanzado en agosto) ha logrado igualar en calidad al modelo Gemini Omni Flash de Google.
Simplificación de la IA Local: instalación en un clic
Anteriormente, configurar un modelo local requería investigar sobre cuantización, motores de inferencia y configuraciones complejas. NVIDIA ha colaborado con los principales desarrolladores de agentes para simplificar este proceso a un solo clic:
Hermes Agent: Ofrecerá una opción de configuración de IA local con un solo clic para GPUs NVIDIA RTX y sistemas DGX en Windows y Linux a partir de septiembre para GPUs de NVIDIA con 24 GB o más.
OpenClaw 2.0: Lanzó su versión 2.0 y habilitará la configuración de IA local con un solo clic para GPUs NVIDIA con 24 GB de VRAM o más.
Perplexity Portable Computer: Esta aplicación (que ya estaba en DGX Spark) llegará a GPUs RTX en Windows y Linux (para GPUs con 24 GB de VRAM o más). Permite un enfoque híbrido: chats privados y locales con tokens ilimitados, y escalado automático a la nube para tareas complejas o búsquedas en línea.
OpenClaw permitirá ejecutar inteligencia artificial local en Windows mediante un solo clic, con optimización específica para gráficas NVIDIA con 24 GB de VRAM o más – Foto: NVIDIA
Optimizaciones de Rendimiento e Inferencia
NVIDIA continúa colaborando con las comunidades de código abierto para optimizar la inferencia en plataformas locales:
Llama.cpp: Sus últimas actualizaciones ofrecen hasta un 1.9x más de rendimiento (throughput) gracias a optimizaciones de kernel, decodificación especulativa mejorada y prellenado más rápido.
vLLM: Ofrece una mejora de rendimiento de 1.2x en la GPU RTX Pro 6000 Blackwell y de hasta 1.4x en sistemas DGX Spark.
Gráfico de rendimiento que muestra la aceleración de agentes locales en modelos Qwen y DeepSeek al utilizar Llama.cpp y vLLM sobre hardware NVIDIA – Foto: NVIDIA
NVIDIA Pair: el enrutador de IA Personal para el Hogar
NVIDIA presentó NVIDIA Pair, una herramienta de software (no un router físico) diseñada para distribuir de forma inteligente la inferencia de IA entre los múltiples dispositivos del hogar.
Se instala en cada PC y descubre automáticamente otros dispositivos en la red local mediante mDNS, emparejándolos con un código seguro de seis dígitos y comunicándose a través de canales seguros mTLS.
