Red Hat представи дистрибуцията RHEL AI и режима на сборка RHEL на базата на OSTree и bootc

Компания Red Hat представи дистрибутив Red Hat Enterprise Linux AI (RHEL AI), специално адаптиран за изпълнение на задачи в обучението на машини и с цел опростяване на създаването на сървърни решения, които използват големи диалогови модели. Включва набор от инструменти и рамки за машинно обучение, както и драйвери за използване на различни хардуерни ускорители AMD, Intel и NVIDIA, и компоненти за активиране на възможностите на сървъри от Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизирани за AI-системи.

RHEL AI е предназначен за разработка, тестване и изпълнение на системи за машинно обучение, базирани на голям езиков модел Granite, отворен от компания IBM под лиценза Apache 2.0, способен да обработва до 4000 токена при генериране на текст и обхваща 7 милиарда параметри. За взаимодействие с модела Granite в дистрибуцията е интегриран отворен инструментариум InstructLab, който поддържа методологията LAB (Large-scale Alignment for chatBots) за персонализиране и оптимизация на моделите, както и за добавяне на допълнителни знания и реализиране на нови умения в предварително обучените модели.

Платформата може да се използва за разработка на AI-приложения за корпоративни нужди и за внедряване на услуги за генериране на съдържание, създаване на диалогови системи и интеграция в приложения на виртуални асистенти, които поддържат умения като отговаряне на въпроси на естествен език, решаване на математически задачи, генериране на смислен текст на зададена тема, съставяне на резюме на съдържанието, коригиране на грешки в текста, извършване на рерайтинг с други думи, помощ в писането на код на различни програмни езика, формирование на писма и документи по шаблон.

В допълнение, компанията Red Hat представи нов режим за създаване и управление на системни образи, базирани на Red Hat Enterprise Linux — «image mode», който позволява използването на инструменти и технологии за разгръщане на операционната система, използвани за създаване и стартиране на приложения в контейнери. Новият режим манипулира монолитните системни образи, създавани с помощта на инструмента rpm-ostree и обновявани атомарно, без разделяне на отделни пакети.

Сборките могат да се създават под формата на образи в OCI формати (като в Docker), ISO, QCOW2, AMI, VMI и VMDK. Съдържанието на образа се избира чрез редактиране на файла Containerfile. За създаване и управление на образи могат да се използват стандартни инструменти за управление на контейнери, като Podman и OpenShift Container Platform. За инсталиране на образи може да се използва както стандартният инсталатор Anaconda, така и инструментариумът bootc-image-builder, който позволява да се конвертира контейнерен образ в стартиращ образ на диск. За обновяване на стартиращите образи на контейнери, които се доставят с ядрото на Linux и могат да се зареждат подобно на обичайните сборки на системата, се прилага инструментариумът bootc.

Източник: opennet.ru