Red Hat ha presentato la distribuzione Red Hat Enterprise Linux AI (RHEL AI), progettata specificamente per affrontare compiti di machine learning e per semplificare la creazione di soluzioni server che utilizzano grandi modelli di dialogo. Include una selezione di strumenti e framework per il machine learning, oltre a driver per utilizzare vari acceleratori hardware di AMD, Intel e NVIDIA, e componenti per sfruttare le capacità dei server Dell, Cisco, HPE, Lenovo e SuperMicro, ottimizzati per sistemi AI.
RHEL AI è destinato allo sviluppo, al testing e all'esecuzione di sistemi di machine learning basati sul grande modello linguistico Granite, reso open source da IBM con licenza Apache 2.0, in grado di gestire fino a 4.000 token nella generazione di testo e comprendente 7 miliardi di parametri. Per interagire con il modello Granite, la distribuzione include il toolkit open source InstructLab, che supporta la metodologia LAB (Large-scale Alignment for chatBots) per adattare le necessità e ottimizzare i modelli, oltre ad aggiungere conoscenze supplementari e implementare nuove competenze nei modelli pre-addestrati.
La piattaforma può essere utilizzata per sviluppare applicazioni AI per esigenze aziendali e per implementare servizi per la generazione di contenuti, la creazione di sistemi di dialogo e l'integrazione in applicazioni di assistenti virtuali, supportando capacità come la possibilità di rispondere a domande in linguaggio naturale, risolvere problemi matematici, generare testo coerente su un argomento specifico, comporre un riassunto del contenuto, correggere errori di testo, eseguire il rewriting in altre parole, assistere nella scrittura di codice in vari linguaggi di programmazione, e redigere lettere e documenti seguendo un modello.
Inoltre, l'azienda Red Hat ha presentato una nuova modalità per la creazione e gestione di immagini di sistema basate su Red Hat Enterprise Linux - il "image mode", che consente di utilizzare strumenti e tecnologie applicate alla creazione e all'esecuzione di container per il deployment del sistema operativo. Questa nuova modalità gestisce immagini di sistema monolitiche, create con strumenti rpm-ostree e aggiornate in modo atomico senza suddivisione in singoli pacchetti.
Le immagini possono essere create in formati OCI (come in Docker), ISO, QCOW2, AMI, VMI e VMDK. Il contenuto dell'immagine è selezionato tramite la modifica del file Containerfile. Per creare e gestire le immagini, si possono utilizzare strumenti standard di gestione dei container, come Podman e OpenShift Container Platform. Per l'installazione delle immagini, si può utilizzare sia l'installer Anaconda integrato, sia l'tool bootc-image-builder, che consente di convertire l'immagine del container in un'immagine disco avviabile. Per aggiornare le immagini disco avviabili dei container, fornite con il kernel Linux e in grado di avviarsi come normali build di sistema, si utilizza lo strumento bootc.
Fonte: opennet.ru
