La próxima carrera de la IA: costo, control y potencia de cómputo

Contexto del Sector

La industria de la IA está pasando de la "competencia por capacidades de los modelos" a la "competencia por costos y eficiencia". En los últimos años, el foco del sector se ha concentrado en el número de parámetros de los modelos y las puntuaciones en los benchmarks, pero con la implementación de aplicaciones, las empresas han comenzado a prestar atención a la economía y el control del despliegue real. La entrevista de CNBC muestra claramente esta transformación: Perplexity está construyendo un nuevo modelo orquestador y ha optado por desarrollarlo sobre la base de modelos de código abierto chinos. Esta elección refleja por sí misma la madurez del ecosistema de código abierto y la consideración pragmática bajo la presión de costos de los modelos de código cerrado.

Impacto en el Mercado

El "token value per watt" propuesto por Srinivas sitúa la eficiencia computacional en el centro de la competencia. Este indicador vincula directamente el valor de la salida de los modelos con el consumo energético, lo que implica que la competitividad futura de las empresas de IA dependerá no solo de la calidad del modelo, sino también del rendimiento económico por unidad de potencia consumida. Para los clientes, esto se traduce en menores costos de inferencia y opciones de despliegue más flexibles; para los inversores, exige reevaluar a aquellas empresas de IA que dependen únicamente de la expansión de escala sin contar con ventajas en eficiencia.

Panorama Competitivo

El auge de los modelos de código abierto está reconfigurando el panorama del mercado. El crecimiento de Ollama demuestra que las empresas se inclinan cada vez más por ejecutar modelos descargables y controlables, y este cambio de preferencias ejerce una presión directa sobre los proveedores de API de código cerrado. Peter Fenton, de Benchmark, considera esta tendencia como un cambio fundamental en la estructura del sector: las empresas ya no están dispuestas a ceder sus datos centrales y el control de los modelos a terceros. Que Perplexity haya elegido construir sobre modelos de código abierto chinos también evidencia que, en el contexto geopolítico actual, el ecosistema de código abierto se ha consolidado como una infraestructura clave para la innovación entre regiones.

Implicaciones para las Empresas

Para los líderes empresariales, la conclusión central es que la iniciativa en el despliegue de IA está regresando al interior de las organizaciones. A través de modelos de código abierto y la ejecución local, las empresas pueden controlar mejor la privacidad de los datos, los requisitos de personalización y la estructura de costos. No obstante, también es necesario desarrollar capacidades de operación y gobernanza de modelos. La característica de bajo umbral de herramientas como Ollama permite a las empresas experimentar rápidamente, pero el despliegue a nivel de producción aún requiere una evaluación rigurosa.

Perspectivas

En los próximos 12 a 24 meses, es probable que veamos más empresas adoptar arquitecturas de IA híbridas: tareas centrales que utilizan modelos de código abierto controlables y tareas complejas que siguen recurriendo a las mejores API de código cerrado. El "token value per watt" se convertirá en el indicador clave para medir el retorno de la inversión en infraestructura de IA. En un horizonte de tres años, los modelos de código abierto y de código cerrado coexistirán a largo plazo, pero el control y la eficiencia de costos determinarán la posición final de cada actor en la cadena de valor.