За Python е предложен JIT компилатор, който използва техника copy-and-patch

Брандт Букер (Brandt Bucher) от Microsoft, който е част от основните разработчици на CPython и работи в екип, занимаващ се с повишаване на производителността на интерпретатора CPython, публикува внедряване на JIT компилатор за Python, използващ техниката Copy-and-Patch. Публикуването на JIT е приурочено за Коледа и анонсът е написан в стихове.

Предложеният JIT се отличава с изключително висока скорост на генериране на код, лесна поддръжка и пълна интеграция с интерпретатора. Предложеният метод позволява автоматично преобразуване на интерпретатор, написан на C, в JIT компилатор, без отделно формиране на логиката за генериране на код и без ръчно създаване на асемблерни представяния. С този подход, коригирането на грешка в интерпретатора автоматично ще доведе до отстраняване на същата проблема в JIT, тъй като се използва общ генератор на код.

Работата на метода Copy-and-Patch се основава на факта, че релокацията на код в паметта при зареждане от свързващия пълнител на обектни файлове и подмяната на машинни инструкции вместо байткод в JIT са подобни задачи. При работа на JIT в процеса на изпълнение на програмата се извършва преглед на инструкциите, създадени от интерпретатора, и копиране за всяка инструкция на предварително компилиран машинен код в областта на паметта с изпълним код, както и промяна на лето на инструкциите за подмяна на обработваните данни (JIT копира готови шаблони на вече компилирани функции и подменя в тях необходимите стойности, като аргументи и константи). При зареждане на обектни файлове също се извършва копиране на машинен код в паметта и подмяна на външни символи.

В Copy-and-Patch JIT с помощта на LLVM се събира обектен файл в формат ELF, който съдържа данни за инструкциите на байткод и информация за необходимата замяна на данни. JIT замества инструкциите на байткод, генерирани по време на интерпретация на програмата, с представяния в машинен код, като в същото време подменя необходимите данни за изчисления. Реализацията на JIT изисква зависимост от LLVM на етапа на компилиране, но компонентите на време на изпълнение не са обвързани с външни зависимости и се свеждат до около 300 ръчно написани реда на C и 3000 генерирани реда код на C.

В сравнение с традиционния JIT инструментариум (LLVM -O0), предложеното JIT осигурява 100 пъти по-бързо генериране на код и с 15% по-бърз резултатен код. В сравнение с компилацията в WebAssembly (Liftoff) новото JIT генерира код 5 пъти по-бързо, а резултатният код работи с 50% по-бързо. Когато сравняваме новото JIT с оптимизиращото JIT (LuaJIT), което използва ръчно написан код на асемблер, предложената версия се оказва по-бърза в 13 от 44 теста, а в средно изостава по производителност с 35%, при значително опростяване на поддръжката и намаляване на сложността на реализацията.

Източник: opennet.ru