A Red Hat anunciou a disponibilidade de uma nova versão da distribuição RHEL – Red Hat Enterprise. Linux AI (RHEL AI), специально адаптированной для выполнения задач машинного обучения и призванной упростить создание серверных решений, использующих большие языковые модели.
A distribuição inclui uma seleção de ferramentas e estruturas para aprendizado de máquina, drivers para uso de vários aceleradores de hardware da AMD, Intel e NVIDIA e componentes para aproveitar os recursos dos servidores Dell, Cisco, HPE, Lenovo e SuperMicro otimizados para sistemas de IA. As compilações são distribuídas por meio do Portal do Cliente Red Hat em versões para instalação direta em servidores e para implementação em sistemas de nuvem AWS e IBM Cloud.
A plataforma pode ser usada para desenvolver aplicações corporativas de IA, implementar serviços de geração de conteúdo, criar sistemas de diálogo e integrar assistentes virtuais em aplicações que apoiam habilidades como a capacidade de responder perguntas em linguagem natural, resolver problemas matemáticos, gerar texto significativo sobre um determinado tópico , redigir resumo do conteúdo, corrigir erros no texto, reescrever em outras palavras, ajudar na escrita de código em diversas linguagens de programação, gerar cartas e documentos a partir de template.
RHEL AI integra componentes para criar, testar e executar sistemas de aprendizado de máquina baseados no grande modelo de linguagem Granite, aberto pela IBM sob a licença Apache 2.0, capaz de levar em conta até 4 mil tokens e cobrir 7 bilhões de parâmetros na geração de texto. Para interagir com o modelo Granite, a distribuição inclui o kit de ferramentas aberto InstructLab, que suporta a metodologia LAB (Large-scale Alignment for chatBots) para customização e otimização de modelos, além de agregar conhecimento adicional e implementar novas habilidades em modelos pré-treinados.
Fonte: opennet.ru
