Red Hat представи дистрибуцията RHEL AI и режима за сглобяване на RHEL, базиран на OSTree и bootc

Компания Red Hat представи дистрибуция Red Hat Enterprise Linux AI (RHEL AI), която е специално адаптирана за изпълнение на задачи по машинно обучение и има за цел да опрости създаването на сървърни решения, използващи големи диалогови модели. Включена е селекция от инструменти и рамки за машинно обучение, както и драйвери за използване на различни хардуерни ускорители от AMD, Intel и NVIDIA и компоненти за активиране на възможностите на сървъри на Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизирани за AI системи.

RHEL AI е предназначен за разработка, тестване и изпълнение на системи за машинно обучение, базирани на голямата езикова модел Granite, отворен от IBM под лиценз Apache 2.0, способна да се отчита до 4000 токена при генерирането на текст и обхващаща 7 милиарда параметри. За взаимодействие с модела Granite в дистрибуцията е интегриран отворен инструментариум InstructLab, който подкрепя методологията LAB (Large-scale Alignment for chatBots) за адаптиране спрямо собствени нужди и оптимизиране на моделите, а също и за добавяне на допълнителни знания и реализиране на нови умения в предварително обучените модели.

Платформата може да се използва за разработка на AI приложения за корпоративни нужди и за внедряване на услуги за генериране на съдържание, създаване на диалогови системи и интеграция в приложения на виртуални асистенти, поддържащи умения като отговор на въпроси на естествен език, решаване на математически задачи, генериране на смислен текст по зададена тема, съставяне на резюме на съдържанието, поправяне на грешки в текста, извършване на рерайтинг с други думи, помощ при писане на код на различни програмни езици, формулиране на писма и документи по шаблон.

Освен това, компанията Red Hat представи нов режим за създаване и управление на системни образи на база Red Hat Enterprise Linux - „image mode“, който позволява да се използват инструменти и технологии, приложими за създаване и стартиране на приложения в контейнери при разполагане на операционната система. Новият режим манипулира монолитни системни образи, които се генерират с помощта на инструментария rpm-ostree и се актуализират атомарно, без разбиване на отделни пакети.

Сборките могат да се формират под формата на образи в формати OCI (както при Docker), ISO, QCOW2, AMI, VMI и VMDK. Съдържанието на образа се избира чрез редактиране на файла Containerfile. За създаване и управление на образи могат да се използват стандартни инструменти за управление на контейнери, като Podman и OpenShift Container Platform. За инсталиране на образи може да се използва както стандартният инсталатор Anaconda, така и инструментариумът bootc-image-builder, който позволява да се конвертира образът на контейнера в стартиращ диск образ. За обновяване на стартиращите образи на контейнери, които идват с ядрото на Linux и могат да се зареждат по аналогия с обикновените системни сборки, се прилага инструментариумът bootc.

Източник: opennet.ru