Puntos Clave
- Ejecutar un LLM de 7B parámetros en GPU dedicada puede costar entre $8 y $22 USD al mes en electricidad, dependiendo de tu tarifa eléctrica y horas de uso diario. En México bajo tarifa DAC de CFE, ese número puede triplicarse.
- Una NPU integrada (como la del M4 o Snapdragon X Elite) consume entre 5 y 15 veces menos energía que una GPU discreta para las mismas tareas de inferencia local, lo que cambia radicalmente el análisis costo-beneficio.
- En la mayoría de los escenarios de uso moderado (menos de 4 horas diarias de inferencia activa), una suscripción a Claude Pro o Gemini Advanced resulta más económica que el costo eléctrico de ejecutar hardware dedicado de IA en casa.
La narrativa dominante de 2026 dice que la IA local es la alternativa libre, privada y sin costos recurrentes a los servicios en nube. Es una verdad a medias. El hardware ya lo tienes, sí. Pero el contador de luz no se detiene.
Este artículo hace el cálculo que nadie hace: cuánto cuesta realmente ejecutar modelos de lenguaje en tu propio equipo, cómo varía según el hardware, y en qué punto la suscripción mensual a una plataforma cloud es, paradójicamente, la opción más económica.
El consumo real por tipo de hardware
Para entender la factura, primero hay que entender los vatios.
La inferencia local de un modelo de lenguaje no es una operación pasiva. Cuando ejecutas Ollama con Llama 3.2, LM Studio con Mistral o cualquier framework similar, estás poniendo el componente más hambriento de tu sistema a trabajar de forma sostenida.
GPU dedicada (NVIDIA RTX serie 40 y 50):
Una RTX 4070 Ti opera entre 200 y 285W bajo carga de inferencia. La RTX 4090, el estándar de facto para modelos de 13B+ parámetros, puede alcanzar los 450W sostenidos. No es el pico de carga de un juego. Es un consumo plano durante todo el tiempo que el modelo procesa tokens.
GPU integrada con VRAM compartida:
Los sistemas con iGPU (Intel Arc integrado, AMD Radeon integrado) ejecutan modelos pequeños (hasta 3B parámetros) con consumos totales del sistema de entre 25 y 45W. El límite de VRAM compartida restringe los modelos accesibles, pero el costo energético es radicalmente distinto.
NPU integrada (Apple M4, Snapdragon X Elite, AMD Ryzen AI 300):
Aquí cambia el análisis de forma estructural. Como detallamos en nuestro análisis de la NPU en 2026, estas unidades están diseñadas para inferencia de baja latencia con eficiencia energética como prioridad. Un MacBook Pro con M4 Pro ejecutando un modelo de 7B parámetros cuantizado consume entre 12 y 18W totales del sistema. Una RTX 4080 haciendo lo mismo consume entre 250 y 320W.
No es una mejora marginal. Es un orden de magnitud diferente.
Calculadora de costo – IA local vs. suscripción cloud
Calculadora · Costo IA local vs. suscripción cloud
rallynomics.com
El costo que se ignora: el consumo en reposo y los picos de carga
El análisis anterior asume uso exclusivo durante 4 horas. La realidad es más compleja.
Los modelos locales activos en memoria mantienen la GPU en estado de alerta incluso cuando no procesan tokens, con consumos de 20 a 80W adicionales dependiendo del driver y la configuración de power management. Si dejás Ollama corriendo en segundo plano mientras trabajás, el contador sigue activo.
Además, los picos de carga durante la carga inicial del modelo y la prefill phase (cuando procesa el prompt completo) pueden empujar el consumo a valores de TDP máximo durante segundos. En inferencia continua de prompts largos, estos picos se repiten constantemente.
Un sistema con RTX 4090 que permanece con el servidor local activo 8 horas diarias (incluyendo tiempo en idle con el modelo en memoria) puede generar entre 80 y 120 kWh/mes solo por la GPU, incluso con uso real de solo 3-4 horas.
El punto de equilibrio: ¿cuándo conviene la suscripción?
Comparemos con las suscripciones cloud actuales:
- Claude Pro: $20 USD/mes
- ChatGPT Plus: $20 USD/mes
- Gemini Advanced: $19.99 USD/mes (incluido en Google One AI Premium)
Como analizamos en la comparativa de suscripciones de IA en 2026, estas plataformas ya no solo ofrecen acceso a modelos: incluyen capacidades agénticas, ventanas de contexto de 1M+ tokens, integración multimodal y, en algunos casos, ejecución de código en entornos seguros.
El punto de equilibrio energético puro:
Para un usuario en México con tarifa base y una RTX 4070, el costo eléctrico de 4 horas diarias de uso es de aproximadamente $37 MXN/mes. Ese mismo usuario en tarifa DAC paga $127 MXN/mes. A $20 USD (~$400 MXN), la suscripción cloud cuesta más en pesos, pero eso cambia si considerás:
- El costo de capital amortizado de la GPU (una RTX 4070 a $8,000 MXN amortizada en 36 meses = $222 MXN/mes adicionales)
- El valor del acceso a modelos de mayor capacidad (GPT-4o, Claude 3.7, Gemini 2.5 Pro) que superan en razonamiento a cualquier modelo local de 7B-13B
- La ausencia de mantenimiento, actualizaciones de drivers y tiempo de configuración
Para usuarios con tarifas eléctricas elevadas, en DAC, o que usan GPU de alta gama, la suscripción cloud es la opción más económica en la mayoría de escenarios de uso moderado. El hardware local solo gana cuando se usa de forma intensiva (8+ horas diarias), se requiere privacidad absoluta de los datos, o se necesita operar sin conexión a internet.
La variable que cambia todo: privacidad vs. costo
El análisis estrictamente económico favorece a las suscripciones cloud en muchos escenarios. Pero hay un factor que el cálculo de vatios no captura: el valor de la privacidad.
Como documentamos en nuestro análisis de IA local como alternativa a la nube, para profesionales que procesan datos sensibles (información legal, médica, financiera, código propietario), el modelo local no es un capricho técnico. Es una necesidad de compliance que ninguna suscripción, por barata que sea, puede sustituir.
En ese contexto, el costo eléctrico de $8-15 USD/mes de una GPU dedicada es trivial frente al riesgo de transferir datos sensibles a servidores de terceros.
La decisión no es binaria. El flujo de trabajo óptimo en 2026 combina IA local para datos sensibles con servicios cloud para tareas de razonamiento complejo sin restricciones de privacidad.
Hardware con la mejor relación inteligencia/vatio
Si la eficiencia energética es prioridad, la jerarquía actual es clara:
Tier 1 – Eficiencia máxima (menos de 20W para inferencia de 7B):
- Apple M4 / M4 Pro / M4 Max con Neural Engine
- Snapdragon X Elite con Hexagon NPU
- AMD Ryzen AI 300 con XDNA 2 NPU
Tier 2 – Equilibrio rendimiento/consumo (40-80W):
- NVIDIA RTX 40 series en modo de eficiencia (power limit reducido al 70%)
- AMD RX 7900 GRE en modos de inferencia optimizados
Tier 3 – Máximo rendimiento, máximo consumo (200W+):
- NVIDIA RTX 4080 Super, 4090, 5080, 5090
- Justificado solo para modelos de 30B+ parámetros o uso profesional intensivo
La relación entre los chips TPU y NPU que ya analizamos define esta jerarquía: a medida que la inferencia migra de GPUs de propósito general hacia aceleradores especializados, el consumo por token procesado cae de forma estructural.
Preguntas Frecuentes
Sí. Reducir el power limit al 70-80% del TDP en NVIDIA usando MSI Afterburner o nvidia-smi produce caídas de rendimiento de apenas 5-15% en inferencia, pero reduce el consumo un 25-35%. Es la primera optimización que cualquier usuario de IA local debería implementar.
La cuantización afecta la VRAM requerida y la velocidad de inferencia, pero el consumo energético por watt de la GPU varía poco. Lo que sí cambia es el tiempo total de inferencia: un modelo Q4 genera tokens más rápido con la misma GPU, lo que puede reducir el tiempo de uso activo y, por tanto, el consumo total del proceso.
No de forma directa. Lo que sí puede ocurrir es un incremento en el consumo mensual que active revisiones de tarifa. En México, superar los umbrales de kWh establecidos por CFE puede mover tu cuenta a tarifa DAC automáticamente, lo que triplica o cuadruplica el costo por kWh de forma retroactiva en tu siguiente factura.
En ese rango de uso, la suscripción cloud es casi siempre más económica en el análisis total de costo de propiedad (hardware + electricidad + tiempo de mantenimiento). El hardware local justifica su costo a partir de 4-6 horas diarias de uso activo, en escenarios de privacidad de datos, o cuando el costo de la conectividad hace que la cloud sea inaccesible.
