LLVM Creator, 새로운 Mojo 프로그래밍 언어 개발

LLVM의 창립자이자 수석 설계자이자 Swift 프로그래밍 언어의 창시자인 Chris Lattner와 Tensorflow 및 JAX와 같은 Google AI 프로젝트의 전 책임자였던 Tim Davis는 R&D에 대한 사용 편의성과 신속한 프로토타이핑을 결합한 새로운 Mojo 프로그래밍 언어를 소개했습니다. 고성능 최종 제품에 대한 적합성. 첫 번째는 Python 언어의 친숙한 구문을 사용하여 달성되고, 두 번째는 기계어 코드로 컴파일하는 기능, 안전한 메모리 관리 메커니즘, 하드웨어 계산 가속을 위한 도구 사용을 통해 달성됩니다.

이 프로젝트는 머신 러닝 개발에 중점을 두고 있지만, 시스템 프로그래밍 도구로 Python 언어의 기능을 확장하는 범용 언어로도 제공되며 광범위한 작업에 적합합니다. 예를 들어, 이 언어는 고성능 컴퓨팅, 데이터 처리 및 변환과 같은 분야에 적용할 수 있습니다. Mojo의 흥미로운 기능 중 하나는 텍스트 확장자 ".mojo" 외에도 코드 파일의 확장자로 이모티콘 기호 "🔥"(예: "helloworld.🔥)를 지정할 수 있다는 것입니다.

현재 이 언어는 집중적인 개발 단계에 있으며 테스트를 위해 온라인 인터페이스만 제공됩니다. 대화형 웹 환경의 운영에 대한 피드백을 받은 후, 로컬 시스템에서 실행하기 위한 별도의 어셈블리를 나중에 공개할 예정입니다. 컴파일러, JIT 및 기타 관련 작업에 대한 소스 코드는 내부 아키텍처 설계가 완료된 후 오픈 소스로 공개될 예정입니다(비공개로 작동하는 프로토타입을 개발하는 모델은 LLVM, Clang 및 Swift 개발의 초기 단계와 유사합니다). Mojo의 구문은 Python 기반이고 유형 시스템은 C/C++에 가깝기 때문에 향후 계획에는 기존 C/C++ 및 Python 프로젝트를 Mojo로 마이그레이션하는 작업을 간소화하는 도구를 개발하고 Python과 Mojo 코드를 결합한 하이브리드 프로젝트를 개발하는 것이 포함됩니다.

이 프로젝트는 시스템에서 사용 가능한 이기종 시스템의 하드웨어 리소스를 활용하여 계산을 수행하도록 설계되었습니다. 예를 들어, GPU, 전문화된 머신 러닝 가속기, SIMD(단일 명령 벡터 머시닝) 프로세서를 사용하여 Mojo 애플리케이션을 실행하고 계산을 병렬화할 수 있습니다. 기존 CPython의 최적화 작업에 참여하는 대신 Python 언어의 별도 하위 집합을 개발하기로 한 이유로는 컴파일에 중점을 두고, 시스템 프로그래밍 기능을 통합하고, GPU 및 다양한 하드웨어 가속기에서 코드를 실행할 수 있는 근본적으로 다른 내부 아키텍처를 사용하기 위한 것이 있습니다. 동시에, Mojo 개발자는 가능한 한 CPython과의 호환성을 유지하려고 합니다.

Mojo는 JIT 해석 모드와 실행 파일로 컴파일하는 데 모두 사용할 수 있습니다(AOT, 사전 컴파일). 컴파일러에는 자동 최적화, 캐싱, 분산 컴파일을 위한 최신 기술이 내장되어 있습니다. Mojo 소스 코드는 LLVM 프로젝트에서 개발한 저수준 중간 코드 MLIR(Multi-Level Intermediate Representation)로 변환되어 데이터 흐름 그래프 처리를 최적화하기 위한 추가 기능을 제공합니다. 컴파일러를 사용하면 MLIR을 지원하는 다양한 백엔드를 사용하여 머신 코드를 생성할 수 있습니다.

추가적인 하드웨어 메커니즘을 사용하여 계산 속도를 높이면, 집약적인 계산의 경우 C/C++ 애플리케이션을 능가하는 성능을 달성할 수 있습니다. 예를 들어, Mandelbrot 집합을 생성하는 애플리케이션을 테스트할 때 AWS 클라우드에서 Mojo 언어로 컴파일된 애플리케이션(r7iz.metal-16xl)을 실행할 때 C++ 구현보다 6배 더 빠른 것으로 나타났습니다(0.03초 대 0.20초). 표준 CPython 35를 사용할 때는 Python 애플리케이션보다 3.10.9배 더 빠르고(0.03초 대 1027초), PYPY를 사용할 때는 1500배 더 빠릅니다(0.03초 대 46.1초).

머신 러닝 성능을 평가할 때, Mojo로 작성된 Modular Inference Engine AI 스택은 TensorFlow 라이브러리 기반 솔루션과 비교했을 때 Intel 프로세서가 탑재된 시스템에서 언어 모델을 처리할 때 3배, 추천 모델을 실행할 때 6.4배, 시각 정보 처리 모델을 실행할 때 2.1배 더 빨랐습니다. AMD 프로세서를 사용하는 경우, Mojo를 사용하면 성능 향상이 각각 3.2배, 5배, 2.2배였고, ARM 프로세서를 사용하는 경우 각각 5.3배, 7.5배, 1.7배였습니다. PyTorch 기반 솔루션은 Intel CPU에서는 Mojo보다 1.4배, 1.1배, 1.5배 뒤처졌고, AMD CPU에서는 2.1배, 1.2배, 1.5배 뒤처졌으며, ARM CPU에서는 4배, 4.3배, 1.3배 뒤처졌습니다.

이 언어는 Rust에서 찾을 수 있는 참조 수명 추적 및 빌림 검사기와 같은 정적 타이핑 및 저수준 메모리 안전 기능을 지원합니다. 포인터 안전 기능 외에도 이 언어는 Pointer 유형을 사용하여 안전하지 않은 모드에서 직접 메모리에 액세스하거나, 개별 SIMD 명령어를 호출하거나, TensorCores 및 AMX와 같은 하드웨어 확장에 액세스하는 등의 저수준 기능도 제공합니다.

모든 변수에 대해 명시적으로 유형이 정의된 함수의 기존 Python 코드와 최적화된 Python 코드를 분리하기 쉽게 하기 위해 "def" 대신 별도의 키워드 "fn"을 사용하는 것이 제안됩니다. 마찬가지로 클래스의 경우 컴파일 시점에 메모리에 정적으로 데이터를 패킹해야 하는 경우(C 언어처럼) "class" 대신 "struct" 유형을 사용할 수 있습니다. C/C++ 언어에서 모듈을 간단히 가져오는 것도 가능합니다. 예를 들어, 수학 라이브러리에서 cos 함수를 가져오려면 "from "math.h" import cos"를 지정할 수 있습니다.

출처 : opennet.ru