OpenAI detalló la evolución de Habitat, su plataforma de almacenamiento en línea, desde una biblioteca de Python creada para GPTs en DevDay 2023 hasta un sistema distribuido que actualmente procesa más de 70 millones de solicitudes por segundo. La infraestructura sirve más de 500 PB de datos para productos utilizados por más de mil millones de personas cada semana y opera en casi 40 regiones geográficas.
Admin
Habitat pasó de una biblioteca en Python a un servicio distribuido
Habitat nació como una capa destinada a evitar que los equipos de producto tuvieran que gestionar directamente tareas como búsqueda de esquemas, enrutamiento, autorización, cifrado, serialización y conexiones con los sistemas de almacenamiento. A mediados de 2025, el crecimiento de los servicios de OpenAI hizo que mantener esta lógica en los clientes requiriera coordinar cambios entre decenas de servicios, por lo que la compañía decidió convertir Habitat en un servicio independiente.
Admin
Jon Lee, Chaomin Yu y Ben Ries, miembros del personal técnico de OpenAI y autores de la publicación, explicaron que esta arquitectura permitió centralizar cambios que antes debían distribuirse entre distintos servicios.
“Al desacoplar la lógica de almacenamiento en un servicio independiente, establecimos un único punto de control para despliegues, observabilidad y mejoras de la plataforma”.
La primera versión del servicio mantuvo Python pese a su mayor consumo de CPU y memoria, además del impacto sobre la latencia frente a una biblioteca ejecutada localmente. OpenAI optó por asumir temporalmente esas limitaciones mientras estabilizaba la plataforma, pero tuvo que controlar la concurrencia por proceso, multiplicar los workers y ajustar el balanceo de carga y las conexiones para contener las latencias más altas.
La arquitectura también restringe la complejidad de las operaciones mediante una API NoSQL orientada a objetos y relaciones predefinidas, con el objetivo de mantener predecible el costo de las solicitudes. Para consultas más complejas, Habitat utiliza captura de cambios para enviar los datos hacia instancias aisladas de Rockset, separando esas cargas del almacenamiento utilizado directamente por los productos.
Python llegó a procesar más de 20 millones de solicitudes por segundo antes de que OpenAI iniciara la siguiente etapa de Habitat. Durante el segundo trimestre de 2026, dos ingenieros apoyados por Codex y GPT-5.5 reescribieron el servicio completo en Rust, cuya implementación ya gestiona el 95 % de las solicitudes de producción.
Admin
Según las mediciones publicadas por OpenAI, la versión en Rust utiliza la CPU con una eficiencia seis veces mayor y la memoria con una eficiencia 15 veces mayor frente al servicio desarrollado en Python. La compañía también reporta una reducción significativa tanto de la latencia promedio como de las latencias de cola y prevé retirar completamente la implementación en Python.
