Verkfræðingar frá Facebook (bannaðir í Rússlandi) birtu skýrslu um innleiðingu á TMO (Transparent Memory Offloading) tækni á síðasta ári, sem gerir verulegan sparnað í vinnsluminni á netþjónum með því að færa aukagögn sem ekki eru nauðsynleg fyrir vinnu yfir í ódýrari drif, eins og NVMe SSD -diska. Facebook áætlar að notkun TMO geti sparað 20 til 32% af vinnsluminni á hverjum netþjóni. Lausnin er hönnuð til notkunar í innviðum þar sem forrit keyra í einangruðum gámum. Kjarnahliðarhlutar TMO eru nú þegar innifalin í Linux kjarnanum.
Á Linux kjarnahliðinni er tæknin studd af PSI (Pressure Stall Information) undirkerfinu, fáanlegt frá útgáfu 4.20. PSI er nú þegar notað í ýmsum meðhöndlunartækjum með lágt minni og gerir þér kleift að greina upplýsingar um biðtíma eftir því að fá ýmis úrræði (CPU, minni, I/O). Með PSI geta örgjörvar notendarýmis metið nákvæmari kerfishleðslustig og hægfaramynstur, sem gerir kleift að greina frávik snemma áður en þau hafa merkjanleg áhrif á frammistöðu.
Í notendarými er TMO veitt af Senpai íhlutnum, sem í gegnum cgroup2 aðlagar minnismörk fyrir forritagáma á virkan hátt á grundvelli gagna sem berast frá PSI. Senpai greinir merki um upphaf auðlindaskorts í gegnum PSI, metur næmni forrita fyrir hægagangi í minnisaðgangi og reynir að ákvarða lágmarksminnisstærð sem ílátið krefst, þar sem gögnin sem þarf til notkunar eru áfram í vinnsluminni og meðfylgjandi gögn sem eru sett í skyndiminni skráarinnar eða eru ekki notuð beint inn í augnablikinu, eru þvinguð út í skiptahlutann.
Þannig er kjarninn í TMO að halda ferlum á ströngu mataræði hvað varðar minnisnotkun, sem neyðir til skiptis á ónotuðum minnissíðum þar sem brotthvarf þeirra hefur ekki marktæk áhrif á frammistöðu (td síður með kóða sem aðeins er notaður við frumstillingu og einnota. gögn í skyndiminni disksins). Ólíkt því að úthýsa upplýsingum á skiptinguna sem svar við minnisþrýstingi, í TMO er gögnum vísað út á grundvelli fyrirbyggjandi spá.
Eitt af forsendum fyrir brottvísun er skortur á aðgangi að minnissíðunni í 5 mínútur. Slíkar síður eru kallaðar kaldar minnissíður og eru að meðaltali um 35% af minni forrita (eftir tegund umsóknar er á bilinu 19% til 65%). Preemption tekur tillit til virkni sem tengist nafnlausum minnissíðum (minni úthlutað af forritinu) og minni sem notað er til að vista skrár (úthlutað af kjarnanum). Í sumum forritum er aðalnotkun nafnlauss minnis, en í öðrum skiptir skyndiminni skráar einnig miklu máli. Til að koma í veg fyrir ójafnvægi við brottflutning skyndiminni notar TMO nýtt boðalgrím sem rekur nafnlausar síður og síður sem tengjast skyndiminni skráarinnar hlutfallslega út.
Að ýta síðum sem sjaldan eru notaðar inn í hægara minni hefur ekki mikil áhrif á afköst, en getur dregið verulega úr vélbúnaðarkostnaði. Gögn eru skoluð á SSD drif eða á þjappað skiptisvæði í vinnsluminni. Hvað varðar kostnaðinn við að geyma bæti af gögnum er notkun NVMe SSD allt að 10 sinnum ódýrari en að nota þjöppun í vinnsluminni.
Heimild: opennet.ru