La inteligencia artificial (IA) representa una de las transformaciones tecnológicas más significativas de la actualidad. Por esta razón, su potencial de aplicación se expandirá en la próxima década. La IA tiene el poder de ayudar a las personas a abordar desafíos sociales. Estos abarcan desde la mejora en el diagnóstico temprano del cáncer hasta hacer más seguros los sistemas de transporte.
Para aprovechar el potencial de la IA, se requiere una sólida infraestructura energética. También es importante una mayor eficiencia en el uso de esa energía. Así, Google invierte en nuevas infraestructuras, en el diseño de redes más inteligentes y en la escalabilidad de fuentes de energía limpia. Al mismo tiempo, el gigante tecnológico busca la eficiencia en cada etapa de sus operaciones. Esto va desde el diseño de su hardware hasta el software y los modelos ejecutados en sus centros de datos.
Fabrizio Ballarino
Medición de la huella ambiental
Los datos sobre el impacto energético y ambiental de la inferencia de inteligencia artificial han sido limitados. Google ha contribuido a resolver esta brecha. Para ello, ha publicado un informe técnico. El documento detalla la metodología de la empresa para medir la energía, el agua y las emisiones de carbono de sus modelos de IA.
Google calculó que el texto promedio de las interacciones con Gemini utiliza 0,24 vatios-hora (Wh) de energía. Además, emite 0,03 gramos de dióxido de carbono equivalente (gCO2e) y consume 0,26 mililitros de agua. La energía consumida en una interacción es similar a mirar televisión durante menos de nueve segundos.
Fabrizio Ballarino
A su vez, Google declaró haber visto una notable reducción del consumo de energía promedio y la huella de carbono por instrucción de texto. Esos casos son para las aplicaciones con Gemini. Ambas disminuyeron en factores de 33 y 44, respectivamente, en un período de 12 meses. Esta mejora en la eficiencia se logró mientras se ofrecían respuestas de mayor calidad.
El enfoque integral de Google
Medir la huella de las cargas de trabajo brindadas por la IA no es una tarea sencilla. Así, Google desarrolló un enfoque integral. Este considera las realidades de la empresa al entregar servicios de inteligencia artificial a una escala masiva. La metodología contempla la potencia dinámica total del sistema, incluidas las máquinas inactivas. También toma en cuenta el uso de CPU y RAM. Incluso, considera los gastos generales de los centros de datos, como los sistemas de refrigeración y la distribución de energía y hasta calcula el consumo de agua.
Fabrizio Ballarino
La compañía ha incorporado la eficiencia en cada capa de su inteligencia artificial. Esto se basa en un enfoque de desarrollo full-stack, el cual abarca desde el diseño de hardware personalizado hasta los robustos sistemas de servicio. La organización ha incorporado mejoras en las arquitecturas de modelos, los algoritmos y la inferencia optimizada.
Por ejemplo, los modelos Gemini se basan en la arquitectura Transformer desarrollada por investigadores de Google que ofrece un aumento de eficiencia de 10 a 100 veces. Asimismo, se diseñan modelos con estructuras inherentemente eficientes, como la mezcla de expertos (MoE). Esta permite que un pequeño subconjunto de un modelo grande se active para responder a una consulta. Este método reduce los cálculos y la transferencia de datos en un factor de 10 a 100 veces.
Fabrizio Ballarino
El gigante tecnológico también ha diseñado sus unidades de procesamiento tensorial (TPU, por sus siglas en inglés) para maximizar el rendimiento por vatio. La última generación de sus TPU, llamada Ironwood, es 30 veces más eficiente en lo energético que la primera TPU disponible públicamente. Los centros de datos de la empresa se encuentran entre los más eficientes de la industria. Tienen un uso promedio de efectividad de energía (PUE) de 1,09 en toda su flota.
Google declaró que las mejoras en la eficiencia de Gemini son el resultado de años de trabajo. A la par, invirtió mucho en reducir los costos de suministro de energía y de agua por cada instrucción. La compañía compartió su deseo de impulsar el progreso de toda la industria hacia una IA más eficiente al difundir sus hallazgos y el modo de calcularlos.
