Facebook го претстави механизмот TMO, овозможувајќи ви да заштедите 20-32% од меморијата на серверите

Инженерите од Facebook (забранет во Руската Федерација) објавија извештај за имплементацијата минатата година на технологијата TMO (Transparent Memory Offloading), која овозможува значителни заштеди во RAM меморијата на серверите со поместување на секундарните податоци кои не се потребни за работа на поевтини дискови, како што е NVMe SSD-дискови. Facebook проценува дека користењето на TMO може да заштеди од 20 до 32% од RAM меморијата на секој сервер. Решението е дизајнирано за употреба во инфраструктури каде што апликациите работат во изолирани контејнери. Компонентите од страната на јадрото на TMO се веќе вклучени во кернелот на Линукс.

На страната на кернелот на Линукс, технологијата е поддржана од потсистемот PSI (Информации за застој на притисок), достапен почнувајќи од изданието 4.20. PSI веќе се користи во различни ракувачи со ниска меморија и ви овозможува да анализирате информации за времето на чекање за добивање на различни ресурси (процесор, меморија, I/O). Со PSI, процесорите во корисничкиот простор можат попрецизно да ги проценат нивоата на оптоварување на системот и шемите на забавување, овозможувајќи рано да се идентификуваат аномалиите, пред да имаат забележливо влијание врз перформансите.

Во корисничкиот простор, TMO е обезбедена од компонентата Senpai, која преку cgroup2 динамички го прилагодува лимитот на меморијата за контејнерите за апликации врз основа на податоците добиени од PSI. Senpai ги анализира знаците на почетокот на недостигот на ресурси преку PSI, ја проценува чувствителноста на апликациите на забавување на пристапот до меморијата и се обидува да ја одреди минималната големина на меморијата што ја бара контејнерот, при што податоците потребни за работа остануваат во RAM меморијата и придружните податоците што се сместени во кешот на датотеките или не се директно користени во моментот, се принудени да излезат на партицијата за размена.

Така, суштината на TMO е да ги одржува процесите на строга диета во однос на потрошувачката на меморија, принудувајќи ја замена на неискористените мемориски страници чие иселување не влијае значително на перформансите (на пример, страници со код што се користи само при иницијализација и еднократна употреба податоци во кешот на дискот). За разлика од исфрлањето на информациите во партицијата за размена како одговор на притисокот во меморијата, во TMO податоците се исфрлаат врз основа на проактивно предвидување.

Еден од критериумите за иселување е отсуството на пристап до страницата за меморија 5 минути. Таквите страници се нарекуваат страници со ладна меморија и во просек сочинуваат околу 35% од меморијата на апликациите (во зависност од видот на апликацијата, има опсег од 19% до 65%). Preemption ја зема предвид активноста поврзана со анонимни мемориски страници (меморија доделена од апликацијата) и меморија што се користи за кеширање на датотеки (доделена од кернелот). Во некои апликации главната потрошувачка е анонимна меморија, но во други кешот на датотеки е исто така важен. За да се избегне нерамнотежа при исфрлање на кешот, TMO користи нов алгоритам за страничење кој пропорционално ги исфрла анонимните страници и страниците поврзани со кешот на датотеките.

Туркањето на ретко користените страници во побавна меморија нема значително влијание врз перформансите, но може значително да ги намали хардверските трошоци. Податоците се префрлаат на SSD-дискови или во компресирана swap област во RAM меморијата. Во однос на трошоците за складирање на бајт податоци, користењето на NVMe SSD е до 10 пати поевтино од користењето на компресија во RAM меморијата.

Извор: opennet.ru