Google amplió su portafolio de TPU (unidad de procesamiento tensorial) de octava generación con dos sistemas adicionales: TPU 8tx y TPU 8i Max. La expansión se orienta a dos desafíos vinculados a la adopción de agentes autónomos en entornos de producción: la seguridad de los datos a nivel de hardware y la capacidad de manejar contextos de hasta un millón de tokens.
Las TPU se utilizan para entrenar y ejecutar los modelos Gemini, para prestar servicios a clientes de Google Cloud dentro de la infraestructura en la nube y, más recientemente, para permitir que los clientes las implementen directamente en sus propios centros de datos. Ese despliegue convirtió a estas unidades en un negocio con cerca de 100 clientes, entre laboratorios, firmas de trading, empresas minoristas y universidades.
Base tecnológica de la generación
Los sistemas TPU 8t y TPU 8i fueron anunciados por primera vez en Cloud Next, en abril de 2026. En comparación con generaciones anteriores, TPU 8t ofrece un rendimiento de entrenamiento de hasta 2,7 veces superior, mientras que TPU 8i mejora un 80 % la relación precio-rendimiento en inferencia.
TPU 8t fue diseñada como una plataforma de entrenamiento para modelos fundacionales masivos, con foco en el “goodput”, definido como la inteligencia útil generada por vatio de energía consumido. En paralelo, TPU 8i funciona como motor de razonamiento y fue concebida para superar la “barrera de la memoria” y reducir hasta a la mitad los retardos en la comunicación entre chips.
Amin Vahdat, Chief Technologist and Senior Vice President for AI and Infrastructure en Google, planteó que las empresas demandan aceleradores capaces de razonar a través de las enormes ventanas de contexto. También señaló: “Algunos clientes que operan en sectores altamente regulados solicitan capacidades de cifrado especializadas”.
TPU 8tx: seguridad en hardware para datos sensibles
TPU 8tx está diseñada para empresas reguladas y gobiernos que ejecutan modelos de vanguardia o propietarios, además de agentes autónomos, junto con datos confidenciales. Desarrollada sobre el mismo silicio que TPU 8t y combinada con hosts basados en CPU AMD personalizados, integra la seguridad directamente en la capa de hardware para mantener los datos y los pesos de los modelos protegidos y aislados, incluso durante su uso.
Además, adopta la red Boardfly de baja latencia, creada originalmente para tareas de inferencia en tiempo real. En ese esquema, TPU 8tx ofrece una latencia dos veces menor que la de TPU 8t, prácticamente sin penalización en el rendimiento. La combinación de capacidad de cómputo de nivel de entrenamiento con una red rápida de inferencia permite ejecutar y personalizar modelos en simultáneo dentro de un único sistema.
TPU 8tx también posibilita ajustar modelos con datos privados, destilar modelos grandes en otros más pequeños y entrenar agentes mediante aprendizaje por refuerzo, sin necesidad de migrar datos confidenciales entre clústeres distintos.
TPU 8i Max, por su parte, apunta al “muro de memoria” que aparece cuando decenas de agentes operan en conjunto sobre código fuente o horas de video. Al integrar dos chips TPU 8i de baja latencia en un único encapsulado, ofrece el doble de capacidad de cómputo, el doble de memoria SRAM y el doble de ancho de banda HBM que TPU 8i, y duplica la cantidad de silicio en el mismo espacio de rack, con mayor densidad de cómputo por pie cuadrado y por vatio.
