A empresa Red Hat anunciou a disponibilidade de uma nova versão da distribuição RHEL — Red Hat Enterprise Linux AI (RHEL AI), especialmente adaptada para realizar tarefas de aprendizado de máquina e destinada a simplificar a criação de soluções de servidor que utilizam grandes modelos de linguagem.
A distribuição inclui um conjunto de ferramentas e frameworks para aprendizado de máquina, drivers para uso de diversos aceleradores de hardware da AMD, Intel e NVIDIA, e componentes para aproveitar as capacidades de servidores Dell, Cisco, HPE, Lenovo e SuperMicro, otimizados para sistemas de IA. As compilações são distribuídas pelo Red Hat Customer Portal em versões para instalação direta em servidores e para implantação em sistemas de nuvem AWS e IBM Cloud.
A plataforma pode ser aplicada no desenvolvimento de aplicativos corporativos de IA, implementação de serviços de geração de conteúdo, criação de sistemas de diálogo e integração em aplicativos de assistentes virtuais que suportam habilidades como responder a perguntas em linguagem natural, resolver problemas matemáticos, gerar textos significativos sobre um tema específico, elaborar resumos de conteúdo, corrigir erros em textos, realizar reescritas ou ajudar na redação de código em diversas linguagens de programação, além de criar cartas e documentos por meio de templates.
O RHEL AI integra componentes para criação, teste e execução de sistemas de aprendizado de máquina baseados no grande modelo de linguagem Granite, disponibilizado pela IBM sob a licença Apache 2.0, capaz de considerar até 4 mil tokens na geração de texto e abrangendo 7 bilhões de parâmetros. Para interagir com o modelo Granite, a distribuição incorpora a ferramenta aberta InstructLab, que suporta a metodologia LAB (Large-scale Alignment for chatBots) para adaptação a necessidades específicas e otimização de modelos, bem como para adicionar conhecimentos adicionais e implementar novas habilidades em modelos previamente treinados.
Fonte: opennet.ru
