Red Hat публикува първия изход на дистрибутива Red Hat Enterprise Linux AI

Компания Red Hat обяви готовността на новата редакция на дистрибутива RHEL — Red Hat Enterprise Linux AI (RHEL AI), специално адаптирана за изпълнение на задачи по машинно обучение и целяща да опрости създаването на серивизни решения, използващи големи езикови модели.

В складирането на дистрибутива е включен набор от инструменти и фреймуъркове за машинно обучение, драйвери за използване на различни хардуерни ускорители AMD, Intel и NVIDIA, и компоненти за ангажиране на възможностите на сървъри на Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизирани за AI системи. Сборките се разпространяват през Red Hat Customer Portal в варианти за директно инсталиране на сървъри и за разгръщане в облачни системи AWS и IBM Cloud.

Платформата може да се използва за разработка на корпоративни AI приложения, внедряване на услуги за генериране на съдържание, създаване на диалогови системи и интегриране в приложения на виртуални асистенти, поддържащи такива умения, като способността да отговарят на въпроси на естествен език, да решават математически задачи, да генерират смислен текст на зададена тема, да съставят резюме на съдържанието, да коригират грешки в текста, да извършват рерайтинг с други думи, да помагат в писането на код на различни програмни езици, да формират писма и документи по шаблон.

В RHEL AI са интегрирани компоненти за създаване, тестване и изпълнение на системи за машинно обучение, базирани на голямата езикова модел Granite, отворен от IBM под лиценз Apache 2.0, способен да взема предвид до 4000 токена при генерирането на текст и обхващащ 7 милиарда параметри. За взаимодействие с модела Granite в дистрибутива е интегриран отворен инструментариум InstructLab, поддържащ методологията LAB (Large-scale Alignment for chatBots) за адаптиране по собствените нужди и оптимизиране на моделите, а също и за добавяне на допълнителни знания и реализиране на нови умения в предварително обучените модели.

Източник: opennet.ru