A empresa Red Hat apresentou a distribuição Red Hat Enterprise Linux AI (RHEL AI), projetada especificamente para realizar tarefas de aprendizado de máquina e simplificar a criação de soluções de servidor que utilizam grandes modelos de diálogo. Ela inclui um conjunto de ferramentas e frameworks para aprendizado de máquina, além de drivers para utilizar vários aceleradores de hardware da AMD, Intel e NVIDIA, e componentes para ativar as capacidades de servidores Dell, Cisco, HPE, Lenovo e SuperMicro, otimizados para sistemas AI.
O RHEL AI é destinado ao desenvolvimento, teste e execução de sistemas de aprendizado de máquina baseados no grande modelo de linguagem Granite, aberto pela IBM sob a licença Apache 2.0, capaz de considerar até 4 mil tokens na geração de texto e abrangendo 7 bilhões de parâmetros. Para interagir com o modelo Granite, a distribuição integra a ferramenta de código aberto InstructLab, que suporta a metodologia LAB (Large-scale Alignment for chatBots) para personalização e otimização, além de adicionar conhecimentos adicionais e implementar novas habilidades em modelos pré-treinados.
A plataforma pode ser utilizada para desenvolver aplicações de AI para necessidades corporativas e para implementar serviços de geração de conteúdo, criação de sistemas de diálogo e integração em aplicativos de assistentes virtuais, que suportam habilidades como responder a perguntas em linguagem natural, resolver problemas matemáticos, gerar texto coerente sobre um determinado tópico, resumir conteúdo, corrigir erros de texto, realizar reescrita de forma diferente e auxiliar na escrita de código em várias linguagens de programação, além de elaborar cartas e documentos com base em modelos.
Além disso, a Red Hat apresentou um novo modo para criar e gerenciar imagens de sistema baseadas no Red Hat Enterprise Linux — o "image mode", que permite usar ferramentas e tecnologias aplicadas na criação e execução de contêineres de aplicativos para o deployment do sistema operacional. Este novo modo manipula imagens de sistema monolíticas, formadas com o auxílio da ferramenta rpm-ostree e atualizadas de forma atômica, sem divisão em pacotes individuais.
As composições podem ser geradas na forma de imagens nos formatos OCI (como no Docker), ISO, QCOW2, AMI, VMI e VMDK. O conteúdo da imagem é selecionado através da edição do arquivo Containerfile. Para criar e gerenciar imagens, podem ser utilizados os padrões de ferramentas de gerenciamento de contêineres, como Podman e OpenShift Container Platform. Para a instalação de imagens, pode ser utilizado tanto o instalador padrão Anaconda quanto a ferramenta bootc-image-builder, que permite converter a imagem do contêiner em uma imagem de disco inicializável. Para atualizar as imagens de disco de contêineres, que são fornecidas com o núcleo Linux e podem ser inicializadas de forma semelhante às composições normais do sistema, utiliza-se a ferramenta bootc.
Fonte: opennet.ru
