Cloudflare는 NGINX에서 Rust로 작성된 자체 Pingora 프록시로 전환했습니다.

Cloudflare는 Rust로 작성된 Pingora 프록시를 사용하기 위해 콘텐츠 전송 네트워크를 마이그레이션한다고 발표했습니다. 새로운 프록시는 NGINX 서버 기반 구성을 Lua 스크립트로 대체했으며 하루에 70조 건이 넘는 요청을 처리합니다. 특수 프록시로 전환하면 메모리를 사용한 안전한 작업으로 인해 새로운 기능을 구현하고 보안을 강화할 수 있을 뿐만 아니라 성능 및 리소스 절약이 크게 향상되었습니다. Pingora 기반 솔루션은 사용할 필요가 없습니다. 따라서 동일한 양의 트래픽을 처리하면서 CPU 리소스는 67%, 메모리는 XNUMX% 적게 사용합니다.

오랫동안 NGINX 및 Lua 스크립트를 기반으로 사용자와 최종 서버 간의 트래픽을 프록시하는 시스템은 Cloudflare의 요구 사항을 충족했지만 네트워크가 성장하고 복잡성이 증가함에 따라 범용 솔루션은 성능 측면에서 충분하지 않았습니다. 그리고 고객을 위한 새로운 기회의 확장성과 구현의 한계로 인해. 특히 단순한 게이트웨이와 로드밸런서 이상의 기능을 추가하는데 어려움이 있었습니다. 예를 들어, 서버가 요청을 처리하지 못하는 경우 요청을 다른 서버로 리디렉션하여 다른 HTTP 헤더 집합을 제공해야 합니다.

요청을 별도의 작업자 프로세스(작업자)로 분할하는 아키텍처 대신 Pingora는 다중 스레드 모델을 사용합니다. 이 모델은 Cloudflare 사용 시나리오(통계 변화가 큰 여러 사이트의 트래픽 집중)에서 리소스를 더 효율적으로 분배하는 것으로 나타났습니다. CPU 코어. 특히 nginx에서 불균형한 요청을 프로세스에 바인딩하면 CPU 코어에 불균형한 부하가 발생했고, 그 결과 리소스를 많이 사용하는 요청과 I/O 차단으로 인해 다른 요청의 처리 속도가 느려졌습니다. 또한 연결 풀을 핸들러 프로세스에 바인딩하면 다른 핸들러 프로세스에서 이미 설정된 연결을 재사용할 수 없으므로 핸들러 프로세스 수가 많을 때 효율성이 떨어집니다.

nginx:

핑고라:

Pingora의 도입으로 새로운 연결 설정 작업 수를 160배 줄이고 재사용 요청의 비율을 87.1%에서 99.92%로 높일 수 있었습니다. 재연결을 줄이고 CPU 코어를 보다 효율적으로 사용하는 것 외에도 새 프록시의 성능은 주로 nginx와 함께 사용되는 느린 Lua 핸들러를 제거했기 때문입니다.

Rust 언어는 메모리 안전 도구의 가용성과 결합된 고성능을 허용하기 위해 선택되었습니다. Cloudflare 엔지니어의 높은 자격과 C 언어로 작성된 코드 검토에도 불구하고 메모리 문제(예: HTML 파서의 취약성)로 이어지는 오류를 피할 수 없었습니다. 새로운 코드에 관해서는 Pingora의 크래시 분석 사례에 대해 이야기했는데, 이는 응용 프로그램의 문제가 아니라 Linux 커널의 버그 및 하드웨어 오류로 인해 발생한 것으로 밝혀졌습니다.

또한 Linus Torvalds는 요즘 열리는 Open-Source Summit Europe 컨퍼런스에서 Linux 커널에 Rust 언어 지원을 포함하는 것에 대해 논평했습니다. 6.0 커널에는 Rust 언어로 장치 드라이버를 개발하기 위한 패치가 포함되어 있지 않지만 Linus에 따르면 6.1 커널에 채택될 가능성이 높으며 통합을 추진하지 않을 것입니다. Rust에 대한 지원을 추가하는 동기로 Linus는 보안에 대한 긍정적인 영향 외에도 새로운 참가자의 핵심 작업에 대한 관심을 높일 수 있는 기회를 호출합니다.

출처 : opennet.ru