Podjetje Red Hat je napovedalo, da je nova različica distribucije RHEL - Red Hat Enterprise Linux AI (RHEL AI), specializirana za izvajanje nalog strojnega učenja in zasnovana za poenostavitev razvoja strežnih rešitev, ki uporabljajo velike jezikovne modele, pripravljena.
Distribucija vključuje nabor orodij in okvirov za strojno učenje, gonilnike za uporabo različnih strojnih pospeševalnikov AMD, Intel in NVIDIA ter komponente za izkoriščanje zmogljivosti strežnikov Dell, Cisco, HPE, Lenovo in SuperMicro, optimiziranih za AI sisteme. Gradnje se distribuirajo preko Red Hat Customer Portal v različicah za neposredno namestitev na strežnike in za nameščanje v oblačne sisteme AWS in IBM Cloud.
Platforma se lahko uporablja za razvoj korporativnih AI aplikacij, uvajanje storitev za generiranje vsebin, ustvarjanje dialognih sistemov in integracijo v aplikacije virtualnih asistentov, ki podpirajo veščine, kot so možnost odgovarjanja na vprašanja v naravnem jeziku, reševanje matematičnih nalog, generiranje smiselnega besedila na dano temo, sestavljanje povzetkov vsebine, popravilo napak v besedilu, izvajanje prepisovanja z drugimi besedami, pomoč pri pisanju kode v različnih programskih jezikih ter oblikovanje pisem in dokumentov po predlogi.
V RHEL AI so integrirane komponente za ustvarjanje, testiranje in izvajanje sistemov strojnega učenja na osnovi velike jezikovne modela Granite, ki ga je podjetje IBM odprlo pod licenco Apache 2.0, in je sposobna upoštevati pri generiranju besedila do 4000 tokenov ter obsega 7 milijard parametrov. Za interakcijo z modelom Granite je v distribucijo vključen odprt programski sklop InstructLab, ki podpira metodologijo LAB (Large-scale Alignment for chatBots) za prilagajanje lastnim potrebam in optimizacijo modelov, pa tudi za dodajanje dodatnih znanj in izvajanje novih veščin v predhodno usposobljenih modelih.
Izvor: opennet.ru
