Компанія Red Hat оголосила про готовність нової редакції дистрибутива RHEL - Red Hat Enterprise Linux AI (RHEL AI), специально адаптированной для выполнения задач машинного обучения и призванной упростить создание серверных решений, использующих большие языковые модели.
До складу дистрибутива включена добірка інструментів та фреймворків для машинного навчання, драйвери для використання різних апаратних прискорювачів AMD, Intel та NVIDIA, та компоненти для використання можливостей серверів Dell, Cisco, HPE, Lenovo та SuperMicro, оптимізованих для AI-систем. Складання розповсюджуються через Red Hat Customer Portal у варіантах для прямої установки на сервери та для розгортання в хмарних системах AWS та IBM Cloud.
Платформа може застосовуватися для розробки корпоративних AI-додатків, впровадження сервісів генерації контенту, створення діалогових систем та інтеграції до додатків віртуальних асистентів, які підтримують такі навички, як можливість відповідати на питання природною мовою, вирішувати математичні завдання, генерувати осмислений текст на задану тему, складати короткий виклад вмісту, виправляти помилки в тексті, виконувати рерайтинг іншими словами, допомагати в написанні коду різними мовами програмування, формувати листи та документи за шаблоном.
У RHEL AI інтегровані компоненти для створення, тестування та виконання систем машинного навчання на базі великої мовної моделі Granite, відкритої компанією IBM під ліцензією Apache 2.0, здатної враховувати при генерації тексту до 4 тисяч токенів і охоплює 7 мільярдів параметрів. Для взаємодії з моделлю Granite у дистрибутив інтегрований відкритий інструментарій InstructLab, що підтримує методологію LAB (Large-scale Alignment for chatBots) для підгонки під свої потреби та оптимізації моделей, а також додавання додаткових знань та реалізації нових навичок у попередньо натренованих моделях.
Джерело: opennet.ru
