Създателят на LLVM развива нов програмен език Mojo

Крис Латнер (Chris Lattner), основател и главен архитект на LLVM, както и създател на програмния език Swift, и Тим Дейвис (Tim Davis), бивш ръководител на AI проекти в Google, като Tensorflow и JAX, представиха нов програмния език Mojo, който съчетава простота за научни разработки и бързо създаване на прототипи с приложимост за създаване на високопроизводителни крайни продукти. Първото се постига благодарение на използването на познатата синтаксис на езика Python, а второто чрез възможността за компилация в машинен код, механизми за безопасна работа с паметта и ангажиране на средства за хардуерно ускорение на изчисленията.

Проект сфокусирован на использовании для разработок в области машинного обучения, но при этом преподносится как язык общего назначения, расширяющий возможности языка Python средствами системного программирования и подходящий для широкого круга задач. Например, язык применим для таких областей, как высокопроизводительные вычисления, обработка и преобразование данных. Интересной особенностью Mojo является возможность указания emoji-символа «🔥» в качестве расширения для файлов с кодом (например, «helloworld.🔥»), помимо текстового расширения «.mojo».

В момента езикът е в етап на интензивно развитие и за тестване е предложен само онлайн интерфейс. Самостоятелни версии за стартиране на локални системи ще бъдат публикувани по-късно, след получаване на отзиви относно функционирането на интерактивната уеб среда. Изходните кодове на компилатора, JIT и други свързани разработки по проекта планират да бъдат отворени след завършване на проектирането на вътрешната архитектура (моделът на развитие на работния прототип зад затворени врати напомня на началния етап на разработка на LLVM, Clang и Swift). Тъй като синтаксисът на Mojo е базиран на езика Python, а типизиращата система е близка до C/C++, в бъдеще е планирано да се разработи инструментариум за улесняване на транслацията на съществуващи проекти, написани на C/C++ и Python, към Mojo, а също и за разработка на хибридни проекти, комбиниращи код на Python и Mojo.

Проектът е проектиран да привлече наличните в системата хардуерни ресурси на хетерогенни системи за извършване на изчисления. Например, за изпълнение на приложения на езика Mojo и разпаралеляване на изчисления, могат да се използват GPU, специализирани ускорители за машинно обучение и векторни инструкциите на процесора (SIMD). Причината за развитието на отделно подмножество на езика Python, вместо да се опитваме да оптимизираме съществуващия CPython, е ориентацията към компилация, интеграцията на възможности за системно програмиране и приложението на съвсем различна вътрешна архитектура, която позволява изпълнение на код на GPU и различни хардуерни ускорители. При това разработчиците на Mojo са решили да се стремят, доколкото е възможно, към съвместимост с CPython.

Mojo може да се използва както в интерпретационен режим с JIT, така и за компилация в изпълними файлове (AOT, ahead-of-time). Компилаторът вгражда съвременни технологии за автоматична оптимизация, кеширане и разпределена компилация. Исходният код на езика Mojo се преобразува в нискоуровнев код MLIR (Многостепенна междинна репрезентация), разработван от проекта LLVM, предоставяйки допълнителни възможности за оптимизация на обработката на графа на потока от данни. Компилаторът позволява използването на различни бекенди за генериране на машинен код, които поддържат MLIR.

Включването на допълнителни хардуерни механизми за ускоряване на изчисленията предоставя възможност за постигане на производителност, която при интензивни изчисления надвишава приложенията на C/C++. Например, при тестване на приложение за генериране на множества от Манделброт, компилираното приложение на езика Mojo, изпълнявано в облака AWS (r7iz.metal-16xl), се оказа 6 пъти по-бързо от реализацията на C++ (0.03 сек. спрямо 0.20 сек.), както и 35 хиляди пъти по-бързо от приложението на Python с използване на стандартния CPython 3.10.9 (0.03 сек. спрямо 1027 сек.) и 1500 пъти по-бързо с използване на PYPY (0.03 сек. спрямо 46.1 сек.).

При оценке производительности в области решения задач машинного обучения, AI-стек Modular Inference Engine, написанный на языке Mojo, по сравнению с решением на базе библиотеки TensorFlow оказался на системе с процессором Intel в 3 раза быстрее при обработке языковой модели, в 6.4 раза быстрее при выполнении модели формирования рекомендаций и в 2.1 раза быстрее при работе с моделями для обработки визуальной информации. При использовании процессоров AMD выигрыш при использовании Mojo составил 3.2, 5 и 2.2 раза, а при использовании процессоров ARM — 5.3, 7.5 и 1.7 раз, соответственно. Решение на базе PyTorch отстало от Mojo в 1.4, 1.1 и 1.5 раз на CPU Intel, в 2.1, 1.2 и 1.5 раз на CPU AMD и в 4, 4.3 и 1.3 раза на CPU ARM.

Езикът поддържа статична типизация и средства за безопасна нискоуровнева работа с паметта, наподобяващи възможностите на езика Rust, като проследяване на времето на живот на референтите и проверка на заемането на променливи (borrow checker). Освен средствата за безопасна работа с указатели, в езика са налични и възможности за нискоуровнева работа, например, директен достъп до паметта в режим unsafe с използване на типа Pointer, извикване на отделни SIMD инструкции или достъп до хардуерни разширения, като TensorCores и AMX.

Для упрощения разделения классического и оптимизированного Python-кода для функций с явным определением типов для всех переменных предложено использовать отдельное ключевое слово «fn» вместо «def». Аналогично для классов, при необходимости статической упаковки данных в памяти во время компиляции (как в Си) вместо «class» можно использовать тип «struct». Также возможен простой импорт модулей на языках C/C++, например, для импорта функции cos из библиотеки math можно указать «from «math.h» import cos».

Източник: opennet.ru