ChatPPT colaboró con Intel para lanzar una edición de su herramienta para PCs con IA, basada en una arquitectura híbrida que reparte tareas entre el equipo local y la nube. La propuesta apunta a reducir costos de cómputo, limitar el traslado de datos sensibles y reservar la nube para cargas de mayor complejidad.
IA híbrida para reducir dependencia de la nube
La nueva edición usa AI Super Builder V2.8 para decidir qué tareas se procesan en el PC y cuáles permanecen en la nube. Las operaciones simples, como cambios de formato o ajustes menores, pueden ejecutarse localmente, mientras que trabajos más exigentes, como generar una presentación de 50 páginas, siguen apoyándose en infraestructura remota.
Jack Zhou, CEO de ChatPPT, destacó que el trabajo con Intel permitió mover parte relevante del flujo de creación al propio equipo del usuario. Ese cambio abarca desde la planificación del contenido hasta la generación final del resultado.
“Intel AI Super Builder proporcionó un marco completo de inferencia en dispositivo, lo que nos permitió desplegar rápidamente tanto el modelo de trazabilidad Logiliner como nuestro agente de generación de documentos de forma local, logrando un ciclo completo en dispositivo desde la planificación del contenido hasta el resultado final”.
Intel también incorporó OpenVINO para comprimir modelos, acelerar la inferencia y facilitar la ejecución de varios modelos en un mismo PC. Según la compañía, la edición Intel AI PC de ChatPPT redujo en más de 50% los costos de tokens de cómputo en la nube y elevó en más de 32% la duración de uso frente a la versión estándar basada en nube.
Próxima etapa con más procesamiento local
Todd Lewellen, vicepresidente y gerente general de PC Ecosystem and AI Solutions en Intel, situó el proyecto como un caso de uso para empresas que buscan controlar costos operativos y aumentar la seguridad en aplicaciones de IA para PC.
“Nuestra colaboración con innovadores líderes en IA como ChatPPT ejemplifica el poder de la colaboración. Al construir conjuntamente una solución ChatPPT híbrida de nube y cliente con Intel AI Super Builder, mostramos el poder de usar PCs con IA para reducir los costos de nube y ofrecer una experiencia de usuario más segura”.
La siguiente etapa busca trasladar la renderización de documentos desde la nube al PC local, con la meta de acercar más funciones al procesamiento en dispositivo. ChatPPT también evalúa composición de imagen y texto, generación inteligente de gráficos y variantes para academia, análisis de negocios, educación y servicios financieros.
Zhou agregó que la llegada de Intel Core Ultra Series 3 y una nueva versión de Super Builder permitiría descargar más modelos desde la nube hacia el PC local. Con esa base, ChatPPT espera ampliar el rango de funciones ejecutadas en el dispositivo.
“Desde AI Super Builder hasta la colaboración profunda de ingeniería, Intel nos ayudó a llevar ChatPPT AI PC Edition rápidamente a los usuarios. Con los nuevos Intel Core Ultra Series 3 y la nueva versión de Super Builder, podemos descargar más modelos de la nube al PC local, al mismo tiempo que habilitamos más funciones de IA local e IA híbrida. Estamos realmente entusiasmados por seguir trabajando estrechamente con Intel”.
