Fordeler og ulemper med HugePages

Fordeler og ulemper med HugePages

Oversettelsen av artikkelen er laget for studentene i kurset «Linux-administrator».

Tidligare har eg fortalt om korleis du sjekkar og aktiverer bruken av Hugepages i Linux.
Denne artikkelen vil vere nyttig berre dersom du faktisk har ein plass der du kan bruke Hugepages. Eg har møtt mange folk som blir lurt av utsiktene om at Hugepages på magisk vis vil auke ytelsen. Likevel er hugepaging eit komplisert tema, og ved feil bruk kan det redusere ytelsen.

Del 1: Sjekk om hugepages er aktivert i Linux (originalen) her)

Problem:
Det er nødvendig å sjekke om HugePages er aktivert på systemet ditt.

Løsning:
Det er ganske enkelt:

cat /sys/kernel/mm/transparent_hugepage/enabled

Du vil få noko som dette:

always [madvise] never

Du vil sjå ei liste over tilgjengelege alternativ (always, madvise, never), der det aktive alternativet er sett i parentes (som standard madvise).

madvise betyder at transparent hugepages er berre aktivert for minneområde som eksplisitt ber om hugepages ved hjelp av madvise(2).

always betyder at transparent hugepages er alltid aktivert for alle prosessar. Dette aukar ofte ytelsen, men hvis du har eit bruksområde der mange prosessar bruker lite minne, kan den totale minnebelastninga auke kraftig.

never betyder at transparent hugepages vil ikkje bli aktivert sjølv når det blir forespurt med madvise. For å lære meir, sjå dokumentasjonen Linux-kjernen.

Korleis endre standardverdien

Option 1: Endre det direkte sysfs (etter omstart vil parameteret gå tilbake til standardverdi):

echo always >/sys/kernel/mm/transparent_hugepage/enabled
echo madvise >/sys/kernel/mm/transparent_hugepage/enabled
echo never >/sys/kernel/mm/transparent_hugepage/enabled

Option 2: Endre systemets standardverdi ved å recompilere kjernen med endra konfigurasjon (dette alternativet blir berre anbefalt dersom du bruker eigen kjernen):

  • For å sette always som standard, bruk:
    CONFIG_TRANSPARENT_HUGEPAGE_ALWAYS=y
    # Kommenter ut CONFIG_TRANSPARENT_HUGEPAGE_MADVISE=y
  • For å sette madvise som standard, bruk:
    CONFIG_TRANSPARENT_HUGEPAGE_MADVISE=y
    # Kommenter ut CONFIG_TRANSPARENT_HUGEPAGE_ALWAYS=y

Del 2: Fordelar og ulemper med HugePages

Vi vil prøve å forklare fordelar, ulempar og mulige feil ved bruk av Hugepages. Sidan dette teknisk kompliserte temaet kan vere vanskeleg å forstå for folk som lurer seg sjølv til å tru at Hugepages er ein mirakelkur, vil eg ofre nøyaktighet for enkelheit. Det er verdt å ha i bakhovudet at mange tema er kompliserte og derfor blir sterkt forenkla.

Merk at vi snakker om 64-bits x86-systemer som kjører på Linux, og at jeg bare antar at systemet støtter transparent hugepages (siden det ikke er en ulempe at hugepages ikke er substituert), som er tilfelle i nesten alle moderne Linux-miljøer.

I lenkene nedenfor vil jeg legge ved mer teknisk beskrivelse.

Virtuell hukommelse

Hvis du er C++-programmerer, vet du at objekter i minnet har spesifikke adresser (pekerverdi).

Disse adressene reflekterer imidlertid ikke nødvendigvis de fysiske adressene i minnet (adressene i RAM). De representerer adresser i virtuell hukommelse. Prosessoren har en egen modul, MMU (memory management unit), som hjelper kjernen med å matche virtuell hukommelse med fysisk plassering.

Denne tilnærmingen har mange fordeler, men de mest grunnleggende er:

  • Ytelse (av ulike grunner);
  • Isolasjon av programmer, det vil si at ingen av programmene kan lese fra minnet til et annet program.

Hva er sider?

Virtuell hukommelse er delt opp i sider. Hver enkelt side peker mot en bestemt fysisk hukommelse, den kan peke mot et område i RAM, eller den kan peke mot en adresse tildelt til et fysisk enhet, for eksempel grafikkortet.

De fleste sidene du håndterer, peker enten til RAM eller blir byttet ut (swap), det vil si lagret på harddisken eller SSD-en. Kjernen administrerer den fysiske plasseringen av hver side. Hvis det gjøres et tilgang til en byttet ut side, stopper kjernen strømmen som prøver å få tilgang til minnet, leser siden fra harddisken/SSD-en til RAM, og fortsetter deretter med strømmen.

Denne prosessen er transparent for strømmen, det vil si at den ikke nødvendigvis leser direkte fra harddisken/SSD-en. Størrelsen på normale sider er 4096 byte. Størrelsen på Hugepages er 2 megabyte.

Buffer for assosiativ oversettelse (TLB)

Når et program får tilgang til en viss side i hukommelsen, må CPU-en vite hvilken fysisk side den skal lese data fra (det vil si ha et virtuelt adresseskjema).

I kjernen finnes det en datastruktur (side-tabell) som inneholder all informasjon om de brukte sidene. Ved hjelp av denne datastrukturen kan man matche en virtuell adresse med en fysisk adresse.

Imidlertid er side-tabulen ganske komplisert og jobber sakte, så vi kan bare ikke analysere hele datastrukturen hver gang en prosess får tilgang til minnet.

Heldigvis har prosessoren vår en TLB som cacher oppstillingen av virtuelle og fysiske adresser. Dette betyr at selv om vi må analysere side-tabulen ved første tilgang, kan alle påfølgende forespørsel til siden behandles i TLB, noe som sikrer rask ytelse.

Siden det er implementert som en fysisk enhet (som gjør det først og fremst raskt), er kapasiteten begrenset. Derfor, hvis du trenger tilgang til flere sider, vil ikke TLB kunne lagre oppstillingen for dem alle, noe som vil gjøre programmet ditt betydelig tregere.

Hugepages kommer til unnsetning.

Så, hva kan vi gjøre for å unngå TLB-overbelastning? (Vi antar at programmet fortsatt trenger den samme mengden minne).

Her kommer Hugepages inn i bildet. I stedet for 4096 byte, som krever bare én oppføring i TLB, kan nå én oppføring i TLB peke på hele 2 megabyte. La oss anta at TLB har 512 oppføringer, så uten Hugepages kan vi kartlegge:

4096 b⋅512=2 MB

Mens med dem kan vi kartlegge:

2 MB⋅512=1 GB

Derfor er Hugepages fantastisk. De kan forbedre ytelsen uten betydelig innsats. Men det er viktige forbehold her.

Bytting av Hugepages

Kjernen følger automatisk med på bruksfrekvensen til hver minneside. Hvis det er utilstrekkelig fysisk minne (RAM), vil kjernen flytte mindre viktige (sjeldnere brukte) sider til harddisken for å frigjøre en del av RAM for viktigere sider.
I prinsippet er det samme sant for Hugepages. Men kjernen kan bare bytte hele sider, ikke individuelle byte.

La oss anta at vi har et slikt program:

char* mymemory = malloc(2*1024*1024); // La oss ta dette som én Hugepage!
// Fyll mymemory med data
// Gjør mange andre ting,
// som vil føre til at siden mymemory byttes ut
// ...
// Be om tilgang til bare første byte
putchar(mymemory[0]); 

I denne situasjonen må kjernen hente ut (lese) hele 2 megabyte med informasjon fra harddisken/SSD-en for å lese bare ett byte. Når det gjelder vanlige sider, må man bare lese 4096 byte fra harddisken/SSD-en.

Derfor, hvis hugepage blir byttet ut, skjer lesing raskere, bare hvis du trenger tilgang til hele siden. Dette betyr at hvis du prøver å få tilgang til tilfeldige deler av minnet og bare leser et par kilobyte, bør du bruke vanlige sider og ikke bekymre deg mer.

På den annen side, hvis du trenger å få tilgang til en stor del av minnet sekvensielt, vil hugepages øke ytelsen din. Du må imidlertid sjekke dette selv (og ikke på eksempler fra abstrakt programvare) og se hva som vil være raskere.

Minneallokering

Hvis du programerer i C, vet du at du kan be om så små (eller nesten så store) volum av minne fra haugen ved hjelp av malloc(). La oss si at du trenger 30 byte med minne:

char* mymemory = malloc(30);

For programmereren kan det virke som om du «ber om» 30 byte med minne fra operativsystemet og returnerer en peker til noe virtuell minne. Men i virkeligheten malloc () er bare en C-funksjon som internt kaller funksjonene brk og sbrk for å anmode om eller frigjøre minne fra operativsystemet.

Det er imidlertid ineffektivt å be om mer og mer minne for hver allokering; det er mest sannsynlig at et segment av minnet allerede er frigitt (free()), og vi kan bruke det på nytt. malloc() implementerer ganske komplekse algoritmer for å gjenbruke frigitt minne.

Når det skjer, er det usynlig for deg, så hvorfor bør dette bekymre deg? Fordi anropet free() ikke betyr at minnet nødvendigvis returneres umiddelbart til operativsystemet..

Det eksisterer et konsept kalt fragmentering av minnet. I ekstreme tilfeller finnes det segmenter i haugen hvor bare noen få byte brukes, mens alt som ligger mellom dem har blitt frigitt. (free()).

Vær oppmerksom på at minnefragmentering er et utrolig komplekst emne, og selv små endringer i programmet kan ha stor innvirkning på det. I de fleste tilfeller forårsaker programmer ikke betydelig minnefragmentering, men du bør være klar over at hvis det er et problem med fragmenteringen i et område av bunken, kan hugepages bare forverre situasjonen.

Selektiv bruk av hugepages

Etter å ha lest artikkelen, har du bestemt hvilke deler av programmet ditt som kan dra fordel av bruk av hugepages, og hvilke som ikke kan. Bør du i det hele tatt aktivere hugepages?

Heldigvis kan du bruke madvise(), for å aktivere hugepaging bare for de minneområdene der det vil være nyttig.

For å begynne, sjekk at hugepages fungerer i madvise()-modus, ved hjelp av instruksjoner i starten av artikkelen.

Deretter bruker du madvise(), for å indikere til kjernen hvor den skal bruke hugepages.

#include <sys/mman.h>
// Аллоцируйте большое количество памяти, которую будете использовать
size_t size = 256*1024*1024;
char* mymemory = malloc(size);
// Просто включите hugepages…
madvise(mymemory, size, MADV_HUGEPAGE);
// … и задайте следующее
madvise(mymemory, size, MADV_HUGEPAGE | MADV_SEQUENTIAL)

Vær oppmerksom på at denne metoden er bare råd til kjernen om minnehåndtering. Dette betyr ikke at kjernen automatisk vil bruke hugepages for det angitte minnet.

Se dokumentasjonen (manpage) madvise, for å lære mer om minnehåndtering og madvise(), emnet har en utrolig bratt læringskurve. Derfor, hvis du har til hensikt å virkelig forstå dette, forbered deg på å lese og teste i flere uker før du forventer noe positivt resultat.

Hva å lese?

Har du spørsmål? Skriv i kommentarfeltet!

Kilde: habr.com

Kjøp pålitelig hosting for nettsteder med DDoS-beskyttelse, VPS VDS-servere 🔥 Kjøp pålitelig hosting for nettsteder med DDoS-beskyttelse, VPS VDS-servere | ProHoster