Tvrtka Red Hat objavila je dostupnost nove verzije distribucije RHEL – Red Hat Enterprise Linux AI (RHEL AI), posebno prilagođene za obavljanje zadataka strojnog učenja i osmišljene da pojednostavi kreiranje serverskih rješenja koristeći velike jezične modele.
Distribucija uključuje skup alata i okvira za strojnog učenja, drajvere za korištenje različitih hardverskih akceleratora AMD, Intel i NVIDIA, te komponente koje omogućuju iskorištavanje mogućnosti servera Dell, Cisco, HPE, Lenovo i SuperMicro, optimiziranih za AI sustave. Izradbe se distribuiraju putem Red Hat Customer Portal-a u verzijama za izravnu instalaciju na servere i za implementaciju u oblaku sustava AWS i IBM Cloud.
Platforma se može koristiti za razvoj korporativnih AI aplikacija, implementaciju usluga generiranja sadržaja, izradu dijalognih sustava i integraciju u aplikacije virtualnih asistenata koji podržavaju vještine kao što su mogućnost odgovaranja na pitanja na prirodnom jeziku, rješavanje matematičkih zadataka, generiranje smislenog teksta na zadanu temu, sastavljanje sažetka sadržaja, ispravljanje grešaka u tekstu, provođenje rewritinga drugim riječima, pomaganje u pisanju koda na različitim programskim jezicima, formiranje pisama i dokumenata prema predlošku.
U RHEL AI integrirane su komponente za kreiranje, testiranje i izvođenje sustava strojnog učenja na temelju velikog jezičnog modela Granite, kojeg je otvorila tvrtka IBM pod licencom Apache 2.0, sposoban uzeti u obzir prilikom generiranja teksta do 4 tisuće tokena i obuhvatiti 7 milijardi parametara. Za interakciju s modelom Granite, distribucija sadrži otvoreni alat InstructLab koji podržava metodologiju LAB (Large-scale Alignment for chatBots) za prilagodbu vlastitim potrebama i optimizaciju modela, kao i za dodavanje dodatnih znanja i implementaciju novih vještina u prethodno treniranim modelima.
Izvor: opennet.ru
