La empresa Red Hat anunció la disponibilidad de una nueva versión de la distribución RHEL: Red Hat Enterprise Linux AI (RHEL AI), diseñada específicamente para realizar tareas de aprendizaje automático y destinada a simplificar la creación de soluciones de servidor que utilizan grandes modelos de lenguaje.
La distribución incluye un conjunto de herramientas y marcos para el aprendizaje automático, controladores para utilizar diversos aceleradores de hardware de AMD, Intel y NVIDIA, y componentes para aprovechar las capacidades de los servidores de Dell, Cisco, HPE, Lenovo y SuperMicro, optimizados para sistemas de IA. Las compilaciones se distribuyen a través del Red Hat Customer Portal en versiones para instalación directa en servidores y para implementación en sistemas en la nube AWS y IBM Cloud.
La plataforma puede utilizarse para desarrollar aplicaciones empresariales de IA, implementar servicios de generación de contenido, crear sistemas de diálogo e integrar aplicaciones de asistentes virtuales que soportan habilidades como responder preguntas en lenguaje natural, resolver problemas matemáticos, generar texto significativo sobre un tema dado, elaborar un resumen de contenido, corregir errores en el texto, realizar reescritura en otras palabras, ayudar en la redacción de código en varios lenguajes de programación, y generar cartas y documentos a partir de plantillas.
En RHEL AI se integran componentes para crear, probar y ejecutar sistemas de aprendizaje automático basados en el gran modelo de lenguaje Granite, abierto por IBM bajo la licencia Apache 2.0, capaz de considerar hasta 4,000 tokens en la generación de texto y que abarca 7 mil millones de parámetros. Para interactuar con el modelo Granite, la distribución incluye la herramienta abierta InstructLab, que soporta la metodología LAB (Large-scale Alignment for chatBots) para ajustar las necesidades y optimizar modelos, así como para agregar conocimientos adicionales e implementar nuevas habilidades en modelos previamente entrenados.
Fuente: opennet.ru
