Brandt Bucher z Microsoftu, ktorý patrí medzi hlavných vývojárov CPython a pracuje v tíme zameranom na zvyšovanie výkonu interpretátora CPython, uverejnil implementáciu JIT-kompilátora pre Python využívajúcu techniku Copy-and-Patch. Zverejnenie JIT je načasované na Vianoce a oznam je napísaný vo veršoch.
Navrhnutý JIT sa vyznačuje veľmi vysokou rýchlosťou generovania kódu, jednoduchosťou údržby a plnou integráciou s interpretátorom. Navrhnutá metóda umožňuje automaticky transformovať interpretátor napísaný v C na JIT-kompilátor bez samostatného vytvárania logiky generovania kódu a bez ručného vytvárania assemblerových predstavovaní. Takýto prístup zabezpečuje, že oprava chyby v interpretátore automaticky odstráni rovnaký problém v JIT, pretože sa používa spoločný generátor kódu.
Práca metódy Copy-and-Patch vychádza z presvedčenia, že relokácia kódu v pamäti pri načítavaní linkovačom objektových súborov a nahrádzanie strojových inštrukcií namiesto bytového kódu v JIT sú podobné úlohy. Pri práci JIT počas vykonávania programu sa uskutočňuje prehľadávanie generovaných inštrukcií bytového kódu a kopírovanie pre každú inštrukciu vopred skompilovaného strojového kódu do oblasti pamäte s vykonateľným kódom, ako aj okamžitá zmena inštrukcií na vkladanie spracovávaných údajov (JIT kopíruje hotové šablóny už skompilovaných funkcií a zavádza do nich potrebné hodnoty, ako sú argumenty a konštanty). Pri načítavaní objektových súborov sa tiež vykonáva kopírovanie strojového kódu do pamäte a nahrádzanie externých symbolov.
V Copy-and-Patch JIT sa pomocou LLVM vytvára objektový súbor v formáte ELF, ktorý obsahuje údaje o inštrukciách bytového kódu a informácie o potrebných náhradách údajov. JIT nahrádza generované počas interpretácie programu inštrukcie bytového kódu na predstavenia v strojovom kóde, pričom súčasne vkladá potrebné údaje na výpočty. Implementácia JIT si vyžaduje ako závislosť LLVM v fáze zostavenia, avšak runtime komponenty nie sú viazané na vonkajšie závislosti a pozostávajú približne z 300 ručne napísaných riadkov v C a 3000 vygenerovaných riadkov kódu v C.
V porovnaní s tradičnými JIT nástrojmi (LLVM -O0) navrhovaný JIT zabezpečuje stokrát rýchlejšiu generáciu kódu a výsledný kód je o 15% rýchlejší. V porovnaní s kompiláciou do WebAssembly (Liftoff) nový JIT generuje kód päťkrát rýchlejšie a výsledný kód funguje o 50% rýchlejšie. Ak porovnáme nový JIT s optimalizovaným JIT (LuaJIT), ktorý používa ručne napísaný kód v assembleri, navrhovaná verzia bola rýchlejšia v 13 z 44 testov, avšak priemerne zaostávala o 35% vo výkonnosti, pričom sa výrazne zjednodušilo jeho udržiavanie a znížila sa úroveň zložitosti realizácie.

Zdroj: opennet.ru
