L'azienda Red Hat ha annunciato la disponibilità di una nuova versione della distribuzione RHEL - Red Hat Enterprise Linux AI (RHEL AI), appositamente adattata per l'esecuzione di compiti di machine learning e progettata per semplificare la creazione di soluzioni server che utilizzano grandi modelli linguistici.
La distribuzione include un insieme di strumenti e framework per il machine learning, driver per l'uso di vari acceleratori hardware di AMD, Intel e NVIDIA, e componenti per sfruttare le potenzialità dei server Dell, Cisco, HPE, Lenovo e SuperMicro, ottimizzati per sistemi AI. Le build sono distribuite tramite il Red Hat Customer Portal in opzioni per installazione diretta su server e per il deploy in sistemi cloud AWS e IBM Cloud.
La piattaforma può essere utilizzata per sviluppare applicazioni AI aziendali, implementare servizi di generazione di contenuti, creare sistemi di dialogo e integrare applicazioni per assistenti virtuali, supportando abilità come rispondere a domande in linguaggio naturale, risolvere problemi matematici, generare testo significativo su un argomento specifico, redigere riassunti di contenuti, correggere errori nel testo, effettuare riscritture con altre parole, assistere nella scrittura di codice in vari linguaggi di programmazione, e generare lettere e documenti basati su modelli.
In RHEL AI sono integrati componenti per la creazione, test e esecuzione di sistemi di machine learning basati sul grande modello linguistico Granite, rilasciato da IBM con licenza Apache 2.0, capace di tenere conto fino a 4.000 token nella generazione di testo e comprendente 7 miliardi di parametri. Per interagire con il modello Granite, la distribuzione integra un toolkit aperto, InstructLab, che supporta la metodologia LAB (Large-scale Alignment for chatBots) per adattare alle proprie esigenze e ottimizzare i modelli, nonché per aggiungere ulteriori conoscenze e implementare nuove abilità in modelli pre-addestrati.
Fonte: opennet.ru
