Ante la nueva era de los agentes, que representa un nuevo horizonte para la tecnología de la inteligencia artificial, Google ha reestructurado fundamentalmente su estrategia de hardware. Abandonando el enfoque anterior de utilizar un único chip de propósito general para gestionar tanto los procesos de aprendizaje como las tareas de inferencia, ha desarrollado y presentado de forma independiente dos semiconductores especializados: el TPU 8t, dedicado exclusivamente al gran aprendizaje, y el TPU 8i, diseñado específicamente para la inferencia de alto rendimiento. La compañía anunció oficialmente estos dos chips innovadores el día 23 en la conferencia Cloud Next 2026, celebrada en Las Vegas, EE. UU. Los responsables de Google señalaron que el mercado de la IA se está diversificando rápidamente desde la fase de desarrollo de modelos hacia la fase operativa de implementación en servicios reales, y enfatizaron que esta nueva línea de chips responde a dicha evolución en la estructura de la demanda.

Si la generación anterior, el TPU Ironwood, fue una plataforma de bandera única preparada para la era de la inferencia, la característica más destacada de esta generación es la propia dualidad de su estructura. Debido a la rápida expansión de la tecnología de agentes de IA, la demanda de infraestructura para entrenar modelos aún más grandes y de infraestructura para ejecutarlos de forma rápida y eficiente en entornos cloud ha aumentado de manera explosiva y simultánea. Google, reflejando esto, ha adoptado una estrategia de distinción clara entre los chips para aprendizaje y los de inferencia, demostrando su voluntad de optimizar el rendimiento y la eficiencia según las características de cada etapa.

El TPU 8t es un chip centrado en cargas de trabajo de gran pre-entrenamiento y centradas en embeddings; aplicando una topología de red toroidal 3D, ha maximizado la escalabilidad de los grandes clústeres. El número de chips conectables por pod ha superado los 9600, dejando atrás los 9216 del modelo anterior, y su núcleo reside en la tecnología SparseCore y el soporte para operaciones de punto flotante de 4 bits. SparseCore actúa como un acelerador dedicado para manejar accesos a memoria irregulares frecuentes durante los procesos de búsqueda en grandes modelos de lenguaje, y al combinar operaciones de bajo bitaje, ha reducido la carga sobre el ancho de banda de memoria. Esto ha permitido duplicar el rendimiento manteniendo la precisión con una cantidad de memoria menor, y al alinearse con las tendencias de cuantización que reducen el número de bits por parámetro, permite reducir simultáneamente el consumo de energía y la carga espacial.

El TPU 8i está diseñado para la fase de inferencia, donde los modelos terminados de aprendizaje se introducen en servicios reales, y destaca en el procesamiento posterior de grandes modelos y en la inferencia de alto rendimiento simultáneo requerida por múltiples usuarios. Según Google, este chip incorpora tres veces más RAM estática que el modelo anterior, lo que permite almacenar cachés de valores de clave grandes necesarios durante la inferencia de LLMs, mejorando drásticamente la velocidad de generación de texto. Además, aplica el sistema de inferencia Collectives Acceleration Engine para acelerar las operaciones de sincronización y reducción necesarias en procesos de decodificación autoregresiva e inferencia encadenada. La introducción de la topología de red personalizada Boardfly ICI permite interconectar hasta 1152 chips, reduciendo la distancia de movimiento de los paquetes de datos y el número de saltos, lo que ahorra hasta un 50% en la comunicación total.

El éxito de la jugada de Google reside en si podrá sacudir el mercado centrado en NVIDIA. Tanto el TPU 8t como el 8i han mejorado su rendimiento por vatio en un 50% respecto a la generación anterior, garantizando la eficiencia energética, lo cual es una variable clave que determina la rentabilidad de los grandes centros de datos de IA. Más allá de un simple lanzamiento de nuevos productos de semiconductores, esto es una señal de que Google está separando formalmente su estrategia de infraestructura de IA en aprendizaje e inferencia. Es una estrategia para aumentar la relevancia de su negocio en la nube en un contexto donde la competencia por los servicios de IA se desplaza desde el rendimiento del modelo hacia los costes operativos, la velocidad de respuesta y el throughput simultáneo. Aunque el mercado considera la velocidad de adopción por parte de los clientes reales y la compatibilidad de software con el ecosistema de NVIDIA como variables determinantes del éxito o fracaso, dado que la expansión de los agentes de IA está aumentando simultáneamente la demanda de aprendizaje e inferencia, la estrategia de dualidad de Google tiene grandes probabilidades de convertirse en un punto de inflexión importante en la futura competencia por la infraestructura de IA.