L'azienda Red Hat ha presentato la distribuzione Red Hat Enterprise Linux AI (RHEL AI), che è stata specificamente adattata per l'esecuzione di compiti di machine learning ed è progettata per semplificare la creazione di soluzioni server che utilizzano grandi modelli dialogici. Include un insieme di strumenti e framework per il machine learning, così come driver per utilizzare vari acceleratori hardware di AMD, Intel e NVIDIA, e componenti per sfruttare le capacità dei server Dell, Cisco, HPE, Lenovo e SuperMicro, ottimizzati per i sistemi AI.
RHEL AI è progettato per lo sviluppo, il testing e l'esecuzione di sistemi di machine learning basati sul grande modello linguistico Granite, rilasciato da IBM sotto licenza Apache 2.0, capace di considerare fino a 4 mila token nella generazione di testo e comprendente 7 miliardi di parametri. Per interagire con il modello Granite, il pacchetto include lo strumento open source InstructLab, che supporta la metodologia LAB (Large-scale Alignment for chatBots) per l'adattamento alle proprie esigenze e per l'ottimizzazione dei modelli, così come per l'aggiunta di conoscenze supplementari e l'implementazione di nuove abilità nei modelli già pre-addestrati.
La piattaforma può essere utilizzata per sviluppare applicazioni AI per esigenze aziendali e per implementare servizi per la generazione di contenuti, la creazione di sistemi dialogici e l'integrazione in applicazioni per assistenti virtuali, supportando abilità come la capacità di rispondere a domande in linguaggio naturale, risolvere problemi matematici, generare testi significativi su un argomento specifico, redigere riassunti di contenuti, correggere errori nel testo, eseguire il rewriting con parole diverse, e aiutare nella scrittura di codice in diversi linguaggi di programmazione, formando lettere e documenti secondo modelli.
Inoltre, l'azienda Red Hat ha presentato una nuova modalità per creare e gestire immagini di sistema basate su Red Hat Enterprise Linux: la «modalità immagine», che consente di utilizzare strumenti e tecnologie impiegati per il deployment del sistema operativo, per creare e avviare contenitori applicativi. La nuova modalità gestisce immagini di sistema monolitiche, formate utilizzando gli strumenti rpm-ostree e aggiornate in modo atomic senza suddividere in singoli pacchetti.
Le immagini possono essere create in formati OCI (come in Docker), ISO, QCOW2, AMI, VMI e VMDK. Il contenuto dell'immagine è selezionato attraverso la modifica del file Containerfile. Per la creazione e gestione delle immagini possono essere utilizzati strumenti standard di gestione dei contenitori, come Podman e OpenShift Container Platform. Le immagini possono essere installate sia utilizzando l'installatore standard Anaconda, sia con gli strumenti bootc-image-builder, che consentono di convertire un'immagine del contenitore in un'immagine disco avviabile. Per aggiornare le immagini disco avviabili dei contenitori, fornite con il kernel Linux e capaci di avviarsi analogamente alle normali build di sistema, si utilizza lo strumento bootc.
Fonte: opennet.ru
