Red Hat ha annunciato la disponibilità di una nuova edizione della distribuzione RHEL — Red Hat Enterprise Linux AI (RHEL AI), appositamente progettata per compiti di machine learning e destinata a semplificare la creazione di soluzioni server basate su grandi modelli linguistici.
La distribuzione include una selezione di strumenti e framework per il machine learning, driver per supportare vari acceleratori hardware di AMD, Intel e NVIDIA, e componenti per sfruttare le capacità dei server Dell, Cisco, HPE, Lenovo e SuperMicro, ottimizzati per sistemi AI. Le versioni sono disponibili tramite il Red Hat Customer Portal, in opzioni per l'installazione diretta sui server e per il deployment nei sistemi cloud AWS e IBM Cloud.
La piattaforma può essere utilizzata per sviluppare applicazioni AI aziendali, implementare servizi di generazione di contenuti, creare sistemi di dialogo e integrare applicazioni di assistenti virtuali, supportando abilità come la possibilità di rispondere a domande in linguaggio naturale, risolvere problemi matematici, generare testi coerenti su argomenti specifici, stilare riassunti di contenuti, correggere errori di scrittura, effettuare riscritture con parole diverse, assistendo nella scrittura di codice in vari linguaggi di programmazione, e generare lettere e documenti seguendo modelli.
In RHEL AI, sono integrati componenti per la creazione, il testing e l'esecuzione di sistemi di apprendimento automatico basati sul modello linguistico di grande dimensione Granite, rilasciato da IBM con licenza Apache 2.0. Questo modello è in grado di considerare fino a 4.000 token e include 7 miliardi di parametri. Per interagire con il modello Granite, è integrato nel distributivo un toolkit open-source chiamato InstructLab, che supporta la metodologia LAB (Large-scale Alignment for chatBots) per personalizzare le proprie esigenze, ottimizzare i modelli, aggiungere conoscenze e implementare nuove competenze nei modelli pre-addestrati.
Fonte: opennet.ru
