Tvrtka Red Hat predstavila je distribuciju Red Hat Enterprise Linux AI (RHEL AI) koja je posebno prilagođena za obavljanje zadataka strojno učenja te ima za cilj pojednostaviti izradu serverskih rješenja koja koriste velike dijalog modela. Uključuje skup alata i okvira za strojno učenje, kao i upravljačke programe za korištenje raznih hardverskih akceleratora AMD, Intel i NVIDIA, te komponente za korištenje mogućnosti servera Dell, Cisco, HPE, Lenovo i SuperMicro, optimiziranih za AI sustave.
RHEL AI namijenjen je razvoju, testiranju i izvođenju sustava strojnog učenja temeljenih na velikom jezičnom modelu Granite, koji je otvorila tvrtka IBM pod licencom Apache 2.0, sposoban uzeti u obzir do 4 tisuće tokena u generaciji teksta i pokriva 7 milijardi parametara. Za interakciju s modelom Granite, distribucija uključuje otvoreni alat InstructLab, koji podržava metodologiju LAB (Large-scale Alignment for chatBots) za prilagodbu vlastitim potrebama i optimizaciju modela, kao i dodavanje dodatnog znanja i implementaciju novih vještina u prethodno treniranim modelima.
Platforma se može koristiti za razvoj AI aplikacija za korporativne potrebe, kao i za implementaciju usluga za generiranje sadržaja, izradu dijalog sustava i integraciju u aplikacije virtualnih asistenta, koje podržavaju vještine poput odgovaranja na pitanja na prirodnom jeziku, rješavanja matematičkih zadataka, generiranja smislenog teksta na zadanu temu, sastavljanja sažetaka sadržaja, ispravljanja grešaka u tekstu, prepravke drugim riječima, pomoći u pisanju koda na raznim programskim jezicima te oblikovanja pisama i dokumenata prema predlošku.
Pored toga, tvrtka Red Hat predstavila je novi način za kreiranje i upravljanje sistemskim slikama temeljenim na Red Hat Enterprise Linux — „image mode“, koji omogućava korištenje alata i tehnologija primijenjenih za izradu i pokretanje kontejnera aplikacija u svrhu implementacije operativnog sustava. Novi način manipulira monolitnim sistemskim slikama, koje se formiraju pomoću alata rpm-ostree i ažuriraju atomskim postupkom, bez razbijanja na pojedinačne pakete.
Builds can be created in the form of images in OCI formats (like Docker), ISO, QCOW2, AMI, VMI, and VMDK. The contents of the image are selected by editing the Containerfile. Standard container management tools such as Podman and OpenShift Container Platform can be used for creating and managing images. Both the default Anaconda installer and the bootc-image-builder toolkit can be used to install images, allowing you to convert a container image into a bootable disk image. The bootc toolkit is applied for updating bootable container images that come with the Linux kernel and can boot similarly to traditional system builds.
Izvor: opennet.ru
