Brandt Bucher iz Microsofta, koji je jedan od glavnih programera CPython-a i radi u timu koji se fokusira na poboljšanje performansi CPython interpreter-a, objavio je implementaciju JIT kompajlera za Python koja koristi tehniku Copy-and-Patch. Objavljivanje JIT-a je usklađeno s Božićem, a najava je napisana u stihu.
Predloženi JIT se odlikuje izuzetno visokom brzinom generacije koda, jednostavnošću održavanja i potpunom integracijom sa interpreterom. Predložena metoda omogućava automatsku transformaciju interpresnika napisanog u C-u u JIT kompajler, bez potrebe za odvojenom logikom generacije koda i bez ručnog kreiranja asembler predstavki. Ovim pristupom, ispravka greške u interpreteru će automatski eliminisati istu problematiku u JIT-u, jer se koristi zajednički generator koda.
Rad metode Copy-and-Patch se zasniva na tome da su relokacija koda u memoriji prilikom učitavanja, koje vrši linker objektnim datotekama, i zamena mašinskih instrukcija umesto bytecode-a u JIT, slični zadaci. Kada JIT funkcioniše tokom izvođenja programa, vrši se pretraživanje instrukcija bytecode-a koje je kreirao interpreter, i kopiranje unapred kompajliranog mašinskog koda u deon za izvršni kod, kao i dinamička promena instrukcija radi zamene obrađenih podataka (JIT kopira gotove šablone već kompajliranih funkcija i ubacuje potrebne vrednosti, poput argumenata i konstanti). Takođe, pri učitavanju objektnim datoteka dolazi do kopiranja mašinskog koda u memoriju i zamene spoljašnjih simbola.
U Copy-and-Patch JIT pomoću LLVM se kreira objektna datoteka u ELF formatu, koja sadrži podatke o instrukcijama bytecode-a i informacije o potrebnim zamjenama podataka. JIT zamenjuje generisane instrukcije bytecode-a tokom interpretacije programa sa predstavam u mašinskom kodu, istovremeno ubacujući potrebne podatke za izračunavanja. Implementacija JIT zahteva LLVM kao zavisnost tokom faze kompilacije, ali komponente u vrijeme izvođenja nisu vezane za spoljne zavisnosti i svode se na otprilike 300 ručno napisanih linija koda u C-u i 3000 generisanih linija koda takođe na C-u.
U poređenju sa tradicionalnim JIT alatima (LLVM -O0), predloženi JIT omogućava 100 puta bržu generaciju koda i 15% brži rezultantni kod. U poređenju sa kompajliranjem u WebAssembly (Liftoff), novi JIT generiše kod 5 puta brže, a rezultantni kod radi 50% brže. Kada se novi JIT uporedi sa optimizovanim JIT-om (LuaJIT), koji koristi ručno napisani kod u asembleru, predložena opcija je bila brža u 13 od 44 testa, dok je u proseku bila sporija za 35%, sa značajnim pojednostavljenjem održavanja i smanjenjem nivoa složenosti implementacije.

Izvor: opennet.ru
