Facebook tutvustas TMO mehhanismi, mis võimaldab säästa 20-32% mälu serverites

Facebooki insenerid (Venemaal keelatud) avaldasid eelmisel aastal aruanne TMO (Transparent Memory Offloading) tehnoloogia rakendamisest, mis võimaldab märkimisväärselt säästa operatiivmälu serverites, suunates mitteolulised tööks vajalikud sekundaarandmed odavamatele salvestusseadmetele nagu NVMe SSD-diskid. Facebooki hinnangul võimaldab TMO rakendamine säästa 20 kuni 32% RAM-i igas serveris. Lahendus on mõeldud rakendatamiseks infrakonstruktsioonides, kus rakendused käivitatakse isoleeritud konteineritena. TMO tuumapoolne töö on juba kaasatud Linuxi tuumasse.

Linuxi tuuma poolel tagab tehnoloogia töö PSI (Pressure Stall Information) alamsüsteem, mis on saadaval alates versioonist 4.20. PSI-d kasutatakse juba erinevates mälu nappuse käsitlejates ja see võimaldab analüüsida teavet erinevate ressursside (CPU, mälu, sisend/väljund) ootamise aja kohta. PSI abil võivad kasutaja ruumi käsitlejad täpsemalt hinnata süsteemi koormuse taset ja töö aeglustumise iseloomu, mis aitab tuvastada kõrvalekaldeid juba varases etapis, mil need veel märkimisväärset mõju ei avalda jõudlusele.

Kasutaja ruumis tagab TMO töö komponent Senpai, mis cgroup2 kaudu dünaamiliselt kohandab rakenduste konteinerite mälupiirangut PSI-lt saadud andmete põhjal. Senpai analüüsib PSI kaudu ressursipuuduse alguse märke, hindab rakenduste tundlikkust mälu ligipääsu aeglustumise vastu ja püüab määrata sellele konteinerile minimaalset vajalikku mälusuurust, mille juures tööks vajalikud andmed jäävad RAM-i, samas kui mälus oleva vahemälu aluses kinni jäänud ning praegu mittekasutatavad andmed suunatakse vahetusfaili.

Seega TMO põhijõud seisneb selles, et hoida protsessid rangelt mälu tarbimise dieedil, sundides mittetäidetud mälulehekülgi vahetama vahemerel, mille eemaldamine ei mõjuta märkimisväärselt toimivust (näiteks lehed, mille koodi kasutatakse ainult algatamise ajal ja üksikülesande andmed kettakaardis). Erinevalt teabe vahetamisest vahemerel vastusena mäluruumi puudusele, TMO puhul andmed vahetatakse prognoosi alusel.

Üks väljajätmise kriteeriume on mälulehekülje juurde pääsemise puudumine 5 minuti jooksul. Selliseid lehti nimetatakse külmadeks (cold memory page) ja need moodustavad keskmiselt umbes 35% rakenduste mälust (sõltuvalt rakendustest on vahemik 19% kuni 65%). Eemaldamisel arvestatakse aktiivsust, mis on seotud anonüümsete mälu lehtedega (mälumaht, mille rakendus eraldab) ja faili vahemälu mäluga (mille eraldab tuum). Mõnedes rakendustes on peamine tarbimine seotud anonüümse mäluga, kuid teistes mängib suurt rolli ka faili vahemälu. Tasakaalu vältimiseks mälu välja vahetamisel kasutatakse TMO-s uut vahetushüpooteeti, mis vahetab anonüümseid lehti ja faili vahemälulehtedeks proportsionaalselt.

Harva kasutatavate lehtede vahetamine aeglasemale mälule ei mõjuta oluliselt toimivust, kuid võimaldab märkimisväärselt vähendada seadmete kulusid. Andmed vahetatakse SSD-seadmetele või kokku pakitud vahemälule operatiivmälu sees. Byte andmete hoidmise kulude osas on NVMe SSD rakendamine kuni 10 korda odavam kui kokkusurumise kasutamine operatiivmälu sees.

Allikas: opennet.ru