Компания Red Hat обяви за готовността на новата редакция на дистрибутива RHEL — Red Hat Enterprise Linux AI (RHEL AI), специално адаптирана за изпълнение на задачи по машинно обучение и предназначена да улесни създаването на сървърни решения, използващи големи езикови модели.
Съставът на дистрибутива включва набор от инструменти и фреймуоркове за машинно обучение, драйвери за използване на различни хардуерни ускорители AMD, Intel и NVIDIA, и компоненти за задействане на възможностите на сървърите на Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизирани за AI-системи. Сборовете се разпространяват през портала на Red Hat за клиенти в варианти за директна инсталация на сървъри и за разгръщане в облачни системи AWS и IBM Cloud.
Платформата може да се прилага за разработка на корпоративни AI-приложения, внедряване на услуги за генериране на съдържание, създаване на диалогови системи и интеграция в приложения на виртуални асистенти, поддържащи такива умения, като способността да отговарят на въпроси на естествен език, решават математически задачи, генерират смислен текст на зададена тема, съставят кратко резюме на съдържанието, коригират грешки в текста, извършват рерайтинг, помагат в написването на код на различни програмни езици, формулират писма и документи по шаблон.
В RHEL AI са интегрирани компоненти за създаване, тестване и изпълнение на системи за машинно обучение на базата на голямата езикова модел Granite, отворен от компанията IBM под лиценза Apache 2.0, способен да взема предвид при генерирането на текст до 4000 токена и обхващащ 7 милиарда параметри. За взаимодействие с модела Granite в дистрибутива е интегриран отворен инструментариум InstructLab, подкрепящ методологията LAB (Large-scale Alignment for chatBots) за адаптиране към собствени нужди и оптимизация на моделите, както и за добавяне на допълнителни знания и реализиране на нови умения в предварително обучените модели.
Източник: opennet.ru
