Facebook은 서버 메모리의 20-32%를 절약할 수 있는 TMO 메커니즘을 도입했습니다.

Facebook(러시아 연방에서 금지됨)의 엔지니어들은 작년에 작업에 필요하지 않은 보조 데이터를 NVMe와 같은 저렴한 드라이브로 대체하여 서버의 RAM을 크게 절약할 수 있는 TMO(투명 메모리 오프로딩) 기술 구현에 대한 보고서를 발표했습니다. SSD -디스크. Facebook은 TMO를 사용하면 각 서버의 RAM을 20~32% 절약할 수 있다고 추정합니다. 이 솔루션은 애플리케이션이 격리된 컨테이너에서 실행되는 인프라에서 사용하도록 설계되었습니다. TMO의 커널측 구성 요소는 이미 Linux 커널에 포함되어 있습니다.

Linux 커널 측에서 이 기술은 릴리스 4.20부터 사용할 수 있는 PSI(Pressure Stall Information) 하위 시스템에서 지원됩니다. PSI는 이미 다양한 저메모리 핸들러에서 사용되고 있으며 다양한 리소스(CPU, 메모리, I/O)를 얻기 위한 대기 시간에 대한 정보를 분석할 수 있습니다. PSI를 사용하면 사용자 공간 프로세서는 시스템 로드 수준과 속도 저하 패턴을 보다 정확하게 평가할 수 있으므로 이상이 성능에 눈에 띄는 영향을 미치기 전에 조기에 식별할 수 있습니다.

사용자 공간에서 TMO는 cgroup2를 통해 PSI에서 수신한 데이터를 기반으로 애플리케이션 컨테이너의 메모리 제한을 동적으로 조정하는 Senpai 구성 요소에 의해 제공됩니다. Senpai는 PSI를 통해 리소스 부족 시작 징후를 분석하고, 메모리 액세스 속도 저하에 대한 애플리케이션의 민감도를 평가하고, 작업에 필요한 데이터가 RAM에 남아 있는 컨테이너에 필요한 최소 메모리 크기를 결정하려고 시도합니다. 파일 캐시에 저장되어 있거나 현재 직접 사용되지 않는 데이터는 스왑 파티션으로 강제 출력됩니다.

따라서 TMO의 핵심은 메모리 소비 측면에서 프로세스를 엄격하게 유지하여 제거가 성능에 큰 영향을 미치지 않는 사용되지 않은 메모리 페이지(예: 초기화 중에만 사용되는 코드가 있는 페이지 및 일회용)를 강제로 교체하는 것입니다. 디스크 캐시의 데이터). 메모리 부족에 대응하여 스왑 파티션에 정보를 제거하는 것과 달리 TMO에서는 사전 예측을 기반으로 데이터가 제거됩니다.

퇴거 기준 중 하나는 5분 동안 메모리 페이지에 접근하지 못하는 것입니다. 이러한 페이지를 콜드 메모리 페이지라고 하며 평균적으로 애플리케이션 메모리의 약 35%를 차지합니다(애플리케이션 유형에 따라 범위는 19%에서 65%까지임). 선점은 익명 메모리 페이지(애플리케이션에서 할당한 메모리) 및 파일 캐싱에 사용된 메모리(커널에서 할당)와 관련된 활동을 고려합니다. 일부 응용 프로그램에서는 주요 소비가 익명 메모리이지만 다른 응용 프로그램에서는 파일 캐시도 중요합니다. 캐시 제거 불균형을 방지하기 위해 TMO는 익명 페이지와 파일 캐시와 관련된 페이지를 비례적으로 제거하는 새로운 페이징 알고리즘을 사용합니다.

자주 사용되지 않는 페이지를 느린 메모리에 푸시하는 것은 성능에 큰 영향을 미치지 않지만 하드웨어 비용을 크게 줄일 수 있습니다. 데이터는 SSD 드라이브나 RAM의 압축된 스왑 영역으로 플러시됩니다. 10바이트의 데이터를 저장하는 비용 측면에서 NVMe SSD를 사용하는 것은 RAM에서 압축을 사용하는 것보다 최대 XNUMX배 저렴합니다.

출처 : opennet.ru