Brandt Bucher von Microsoft, der zu den Kernentwicklern von CPython gehört und im Team arbeitet, das sich mit der Leistungssteigerung des CPython-Interpreters beschĂ€ftigt, hat eine Implementierung eines JIT-Compilers fĂŒr Python veröffentlicht, die die Technik Copy-and-Patch verwendet. Die Veröffentlichung des JIT fĂ€llt auf Weihnachten, und die AnkĂŒndigung ist in Versform geschrieben.
Der vorgeschlagene JIT zeichnet sich durch eine sehr hohe Codegenerierungsgeschwindigkeit, einfache Wartung und vollstĂ€ndige Integration mit dem Interpreter aus. Das vorgeschlagene Verfahren ermöglicht es, den in C geschriebenen Interpreter automatisch in einen JIT-Compiler umzuwandeln, ohne separate Logik fĂŒr die Codegenerierung zu entwickeln und ohne manuell Assemblerdarstellungen zu erstellen. Bei diesem Ansatz wird das Beheben eines Fehlers im Interpreter automatisch auch das gleiche Problem im JIT beheben, da ein gemeinsamer Codegenerator verwendet wird.
Die Funktionsweise der Methode Copy-and-Patch basiert darauf, dass die Relokation von Code im Speicher beim Laden von Objektdateien durch einen Linker und das EinfĂŒgen von Maschineninstruktionen anstelle von Bytecode im JIT Ă€hnliche Aufgaben sind. WĂ€hrend der AusfĂŒhrung des JIT-Compilers durchlĂ€uft das Programm die vom Interpreter erzeugten Bytecode-Anweisungen und kopiert fĂŒr jede Anweisung den im Voraus kompilierten Maschinenkode in den Bereich des ausfĂŒhrbaren Codes, wobei die Anweisungen zur Laufzeit so verĂ€ndert werden, dass die bearbeiteten Daten eingefĂŒgt werden (der JIT kopiert fertige Vorlagen bereits kompilierter Funktionen und setzt die erforderlichen Werte wie Argumente und Konstanten ein). Beim Laden von Objektdateien wird ebenfalls Maschinenkode in den Speicher kopiert und es erfolgt das EinfĂŒgen externer Symbole.
Im Copy-and-Patch JIT wird mit LLVM eine Objektdatei im ELF-Format erstellt, die Informationen ĂŒber die Bytecode-Anweisungen und die erforderlichen Daten zum Austausch enthĂ€lt. Der JIT ersetzt die wĂ€hrend der Programminterpretation generierten Bytecode-Anweisungen durch Maschinenkode-Darstellungen und fĂŒgt gleichzeitig die notwendigen Daten fĂŒr Berechnungen ein. Die JIT-Implementierung erfordert LLVM als AbhĂ€ngigkeit wĂ€hrend des Build-Prozesses, aber die zur Laufzeit verwendeten Komponenten sind nicht an externe AbhĂ€ngigkeiten gebunden und belaufen sich auf etwa 300 manuell geschriebene C-Zeilen und 3000 generierte C-Codezeilen.
Im Vergleich zu traditionellen JIT-Tools (LLVM -O0) bietet der vorgeschlagene JIT eine hundertmal schnellere Codegenerierung und einen 15 % schnelleren resultierenden Code. Im Vergleich zur Kompilierung in WebAssembly (Liftoff) generiert der neue JIT Code fĂŒnfmal schneller, und der resultierende Code lĂ€uft 50 % schneller. Vergleicht man den neuen JIT mit dem optimierenden JIT (LuaJIT), der manuell geschriebenen Assembler-Code verwendet, war die vorgeschlagene Variante in 13 von 44 Tests schneller, wĂ€hrend sie im Durchschnitt um 35 % in der Leistung zurĂŒckblieb, jedoch mit einer erheblichen Vereinfachung der Wartung und einer Verringerung des Implementierungsaufwands.
Quelle: opennet.ru
