
Prevod članka je pripremljen za studente kursa .
Ranije sam pričao o tome kako provjeriti i uključiti korištenje Hugepages na Linuxu.
Ovaj članak će biti koristan samo ako zapravo imate mogućnost koristiti Hugepages. Sreo sam mnoge ljude koji su zavedeni perspektivom da će Hugepages čarobno poboljšati performanse. Ipak, hugepaging je složena tema, i kada se koristi pogrešno, može smanjiti performanse.
Dio 1: provjeravamo da li su hugepages uključene u Linux (original )
Problem:
Potrebno je provjeriti jesu li HugePages uključene u vašem sistemu.
Rešenje:
To je prilično jednostavno:
cat /sys/kernel/mm/transparent_hugepage/enabledDobit ćete nešto poput ovoga:
always [madvise] neverVidjet ćete popis dostupnih opcija (always, madvise, never), pri čemu je trenutno aktivna opcija upakovana u zagrade (po defaultu madvise).
madvise znači da su transparent hugepages uključene samo za oblasti memorije koje eksplicitno traže hugepages preko .
always znači da su transparent hugepages su uvijek uključene za sve procese. Obično to poboljšava performanse, ali ako imate scenarij u kojem više procesa troši malu količinu memorije, tada ukupno opterećenje memorije može naglo porasti.
never znači da su transparent hugepages neće se uključivati čak ni na zahtjev putem madvise. Da biste saznali više, pogledajte jezgro Linuxa.
Kako promijeniti podrazumijevanu vrijednost
Opcija 1: Direktno promijeniti sysfs (nakon ponovnog pokretanja, parametar će se vratiti na podrazumijevanu vrijednost):
echo always >/sys/kernel/mm/transparent_hugepage/enabled
echo madvise >/sys/kernel/mm/transparent_hugepage/enabled
echo never >/sys/kernel/mm/transparent_hugepage/enabledOpcija 2: Promijenite sistemsku podrazumijevanu vrijednost prekompiliranjem jezgra s izmijenjenom konfiguracijom (ova opcija se preporučuje samo ako koristite vlastito jezgro):
- Da biste postavili always kao podrazumijevano, koristite:
CONFIG_TRANSPARENT_HUGEPAGE_ALWAYS=y # Komentirati CONFIG_TRANSPARENT_HUGEPAGE_MADVISE=y - Da biste postavili madvise kao podrazumijevano, koristite:
CONFIG_TRANSPARENT_HUGEPAGE_MADVISE=y # Komentirati CONFIG_TRANSPARENT_HUGEPAGE_ALWAYS=y
Dio 2: Prednosti i nedostaci HugePages
Pokušaćemo da objasnimo prednosti, nedostatke i moguće greške prilikom korišćenja Hugepages. Pošto je reč o tehnološki složenoj i pedantnoj temi, može biti teška za razumevanje ljudima koji greškom smatraju da su Hugepages čarobno rešenje, žrtvovaću preciznost u korist jednostavnosti. Važno je imati na umu da su mnoge teme zapravo složene i stoga su znatno pojednostavljene.
Imajte na umu da govorimo o 64-bitnim x86 sistemima koji rade na Linuxu, i da jednostavno pretpostavljam da sistem podržava transparent hugepages (pošto nije mana to što hugepages nisu zamenljive), što se dešava gotovo u svakom savremenom Linux okruženju.
U linkovima ispod biću vezan za više tehničkog opisa.
Virtuelna memorija
Ako ste C++ programer, znate da objekti u memoriji imaju određene adrese (vrednosti pokazivača).
Međutim, te adrese ne moraju nužno odražavati fizičke adrese u memoriji (adrese u RAM-u). One predstavljaju adrese u virtuelnoj memoriji. Procesor ima poseban modul MMU (unit za upravljanje memorijom) koji pomaže jezgru da mapira virtuelnu memoriju na fizičku lokaciju.
Ovakav pristup ima brojne prednosti, ali najosnovnije su:
- Performanse (iz raznih razloga);
- Izolacija programa, što znači da nijedan program ne može čitati iz memorije drugog programa.
Šta su stranice?
Virtuelna memorija je podeljena na stranice. Svaka pojedinačna stranica ukazuje na određenu fizičku memoriju, može ukazivati na oblast u RAM-u, ili na adresu dodeljenu fizičkom uređaju, poput grafičke kartice.
Većina stranica sa kojima se susrećete ukazuje ili na RAM ili su zamenjene (swap), što znači da se čuvaju na hard disku ili SSD-u. Jezgro upravlja fizičkim položajem svake stranice. Ako se pristupi zamenjenoj stranici, jezgro zaustavlja tok koji pokušava da pristupi memoriji, čita stranicu sa hard diska/SSD-a u RAM, a zatim nastavlja izvođenje toka.
Ovaj proces je transparentan za tok, što znači da ne čita nužno direktno sa hard diska/SSD-a. Veličina normalnih stranica je 4096 bajtova. Veličina Hugepages je 2 megabajta.
Bafer asocijativne translacije (TLB)
Kada program traži pristup nekoj stranici memorije, centralni procesor mora znati s koje fizičke stranice da čita podatke (odnosno, mora imati virtuelnu mapu adresa).
U jezgru postoji struktura podataka (tabela stranica) koja sadrži sve informacije o korišćenim stranicama. Uz pomoć ove strukture podataka moguće je povezati virtuelnu adresu sa fizičkom adresom.
Međutim, tabela stranica je prilično složena i radi sporo, tako da ne možemo svaki put analizirati celu strukturu podataka kada bilo koji proces želi pristupiti memoriji.
Srećom, naš procesor ima TLB koji kešira mapiranje virtuelnih i fizičkih adresa. To znači da, iako treba da analiziramo tabelu stranica pri prvom pokušaju pristupa, svi naredni pristupi stranici se mogu obraditi u TLB-u, što omogućava bržu obradu.
Budući da je implementiran kao fizički uređaj (što ga čini izuzetno brzim), njegova kapacitet je ograničen. Stoga, ako želite pristupiti većem broju stranica, TLB neće moći da sačuva mapiranje za sve njih, što će usporiti vašu program.
Hugepages dolaze u pomoć
Dakle, šta možemo učiniti da izbegnemo prepunjavanje TLB-a? (Pretpostavljamo da programu i dalje treba ista količina memorije).
Tu se javljaju Hugepages. Umesto 4096 bajtova, koji zahtevaju samo jedan unos u TLB, jedan unos u TLB sada može ukazivati na ogromnih 2 megabajta. Pretpostavimo da TLB ima 512 unosa, ovde bez Hugepages možemo mapirati:
4096 b⋅512=2 MBDok sa njima možemo mapirati:
2 MB⋅512=1 GBZato su Hugepages sjajne. Mogu poboljšati performanse bez značajnog truda. Ali postoji značajna upozorenja.
Zamena Hugepages
Jezgro automatski prati učestalost korišćenja svake stranice memorije. Ako fizičke memorije (RAM) nedostaje, jezgro će premestiti manje važne (ređe korišćene) stranice na hard disk kako bi oslobodilo deo RAM-a za važnije stranice.
U suštini, isto važi i za Hugepages. Međutim, jezgro može menjati mesta samo celim stranicama, a ne pojedinačnim bajtovima.
Pretpostavimo da imamo ovakav program:
char* mymemory = malloc(2*1024*1024); // Uzmimo to kao jednu Hugepage!
// Napunimo mymemory nekim podacima
// Uradit ćemo mnogo drugih stvari,
// koje će dovesti do zamene stranice mymemory
// ...
// Zatražit ćemo pristup samo prvom bajtu
putchar(mymemory[0]); U ovom slučaju, jezgru će biti potrebno da zameni (čita) čitavih 2 megabajta informacija sa hard diska/SSD-a samo da bi pročitali jedan bajt. Što se tiče običnih stranica, sa hard diska/SSD-a treba pročitati samo 4096 bajtova.
Stoga, ako se hugepage zamenjuje, njeno čitanje dešava se brže, samo ako vam je potrebno da dobijete pristup celoj stranici. To znači da, ako pokušavate da dobijete nasumičan pristup različitim delovima memorije i samo čitate nekoliko kilobajta, trebate koristiti obične stranice i ne brinuti se o ničemu drugom.
S druge strane, ako vam je potrebno da dobijete pristup velikoj količini memorije sekvencijalno, hugepages će povećati vašu učinkovitost. Ipak, trebate to proveriti sami (a ne na primeru apstraktnog softvera) i videti šta će raditi brže.
Alokacija u memoriji
Ako pišete u C, znate da možete zahtevati koliko god mala (ili skoro koliko god velika) količina memorije iz heapa pomoću malloc(). Recimo da vam treba 30 bajtova memorije:
char* mymemory = malloc(30);Programeru se može učiniti da "zatražuje" 30 bajtova memorije od operativnog sistema i vraća pokazivač na neku virtuelnu memoriju. Ali zapravo malloc () je samo C funkcija koja iznutra poziva funkcije za zahtev ili oslobađanje memorije od operativnog sistema.
Međutim, traženje sve većih količina memorije za svaku alokaciju nije efikasno; najverovatnije je da je neki segment memorije već oslobođen (free()), i možemo ga ponovo koristiti. malloc() implementira prilično složene algoritme za ponovnu upotrebu oslobođene memorije.
Pri tome, za vas se sve odvija neprimetno, pa zašto bi vas to brinulo? A zato što poziv free() ne znači da .
Postoji pojam poput fragmentacije memorije. U ekstremnim slučajevima postoje segmenti hrpe gde se koristi samo nekoliko bajtova, dok su svi ostali delovi oslobođeni. (free()).
Imajte na umu da je fragmentacija memorije izuzetno složena tema, i čak i male promene u programu mogu značajno uticati na nju. U većini slučajeva programi ne uzrokuju značajnu fragmentaciju memorije, ali treba da imate na umu da ako se pojavi problem sa fragmentacijom u nekom području hrpe, hugepages bi to mogli dodatno pogoršati.
Selektivna primena hugepages
Nakon čitanja članka, odredili ste koje delove vašeg programa mogu imati koristi od primene hugepages, a koje ne. Treba li uopšte uključiti hugepages?
Srećom, možete koristiti madvise(), kako biste omogućili hugepaging samo za one oblasti memorije gde će to biti korisno.
Za početak, proverite da li hugepages rade u režimu madvise(), koristeći na početku članka.
Zatim koristite madvise(), da obavestite jezgro gde tačno koristiti hugepages.
#include <sys/mman.h>
// Аллоцируйте большое количество памяти, которую будете использовать
size_t size = 256*1024*1024;
char* mymemory = malloc(size);
// Просто включите hugepages…
madvise(mymemory, size, MADV_HUGEPAGE);
// … и задайте следующее
madvise(mymemory, size, MADV_HUGEPAGE | MADV_SEQUENTIAL)Imajte na umu da je ova metoda samo preporuka jezgru za upravljanje memorijom. To ne znači da će jezgro automatski koristiti hugepages za zadatu memoriju.
Pogledajte dokumentaciju , da saznate više o upravljanju memorijom i madvise(), ova tema ima izuzetno strmu krivu učenja. Zato, ako nameravate da zaista dobro razumete, pripremite se na čitanje i testiranje tokom nekoliko nedelja pre nego što očekujete bilo kakav pozitivan rezultat.
Šta pročitati?
Imate pitanje? Napišite u komentarima!
Izvor: habr.com
