GIGABYTE AI TOP 100 B850 lleva modelos de IA de hasta 235 mil millones de parámetros al escritorio
GIGABYTE lleva modelos avanzados de IA a infraestructura local empresarial. | Créditos: GIGAGYTE

GIGABYTE AI TOP 100 B850 lleva modelos de IA de hasta 235 mil millones de parámetros al escritorio

GIGABYTE presentó el AI TOP 100 B850, un sistema de escritorio orientado a empresas, desarrolladores e investigadores que necesitan ejecutar cargas de inteligencia artificial de forma local. El fabricante plantea el equipo como una alternativa para reducir la dependencia de servicios en la nube y mantener mayor control sobre datos e infraestructura de IA.

Giga Computing presenta GAIFA en Taiwán, su primer centro propio para validar infraestructura de IA a escala de rack
GAIFA parte con seis racks y 700 kW para así validar cómputo, redes, energía y refrigeración líquida antes de desplegar infraestructura de IA a escala

Dos configuraciones de GPU para inferencia y ajuste de modelos

La plataforma utiliza un AMD Ryzen 9 9950X de 16 núcleos y 32 hilos, acompañado por 128 GB de memoria DDR5 y una unidad SSD PCIe Gen4 de 2 TB. GIGABYTE ofrece dos configuraciones gráficas destinadas a distintos tamaños de modelos y tipos de carga.

La primera integra una NVIDIA GeForce RTX 5090 y está orientada a modelos de lenguaje locales, IA generativa y flujos con agentes. Según pruebas internas de GIGABYTE, esta configuración alcanza hasta 64.9 tokens por segundo durante inferencia con un modelo de 32 mil millones de parámetros.

La segunda alternativa incorpora dos AMD Radeon AI PRO R9700 con 64 GB de VRAM combinada. El fabricante señala que esta configuración admite inferencia con modelos de hasta 235 mil millones de parámetros y ajuste fino de modelos de hasta 110 mil millones de parámetros.

El sistema utiliza componentes de escritorio y dispone de dos ranuras PCIe 5.0, además de memoria y almacenamiento ampliables. Esta arquitectura permite modificar la configuración a medida que aumentan los requerimientos de capacidad o cambian las cargas de trabajo.

Giga Computing suma soporte para Intel Xeon 6+ en servidores de alto rendimiento
La compatibilidad con Xeon 6+ permite actualizar servidores existentes y elevar densidad de cómputo sin reemplazar toda la base instalada

Refrigeración y conectividad para cargas sostenidas de IA

El AI TOP 100 B850 emplea una placa base AI TOP, refrigeración líquida para el procesador y un diseño de flujo de aire destinado a disipar el calor generado por CPU y GPU durante ciclos prolongados de cálculo. La alimentación queda a cargo de una fuente de 1600 W con certificación 80 PLUS Platinum.

Para mover grandes conjuntos de datos, el equipo incluye dos conexiones LAN de 10 GbE, Wi-Fi 7 y conectividad USB de hasta 20 Gbps mediante USB Type-C. GIGABYTE también integra AI TOP Utility, software que reúne supervisión del sistema en tiempo real, descarga de memoria y herramientas para crear conjuntos de datos destinados al entrenamiento y ajuste fino de modelos de texto y multimodales.

GIGABYTE presenta BRIX GB-BRU9-386H para IA en sitio
BRIX GB-BRU9-386H acerca inferencia de IA a salud, vigilancia y retail con Intel Core Ultra 9, Wi-Fi 7 y formato de 0,46 litros

Las cifras de rendimiento publicadas proceden de pruebas internas de GIGABYTE y pueden variar según el modelo de IA, precisión, versión de software, configuración y carga utilizada. El comunicado no entrega resultados obtenidos mediante una metodología de benchmark independiente.