Cloudflare премина от NGINX към свой собствен прокси Pingora, написан на Rust

Cloudflare обяви, че мигрира своята мрежа за доставка на съдържание, за да използва проксито Pingora, написано на Rust. Новият прокси е заменил базираната на NGINX сървър конфигурация с Lua скриптове и обработва над трилион заявки на ден. Отбелязва се, че преходът към специализиран прокси позволи не само да се внедрят нови функции и да се повиши сигурността поради безопасна работа с паметта, но също така доведе до значително увеличение на производителността и спестяване на ресурси - решение, базирано на Pingora, не изисква използване на Lua, следователно консумира 70% по-малко ресурси CPU и 67% по-малко памет, докато обработва същото количество трафик.

Дълго време система за прокси трафик между потребители и крайни сървъри, базирана на NGINX и Lua скриптове, задоволяваше нуждите на Cloudflare, но с разрастването на мрежата и нарастването на нейната сложност универсалното решение не беше достатъчно, както по отношение на производителността, така и и поради ограничения в разширяемостта и внедряването на нови възможности за клиентите. По-специално, имаше трудности при добавянето на функционалност извън обикновения шлюз и балансиращото натоварване. Например, в случай че сървърът не успее да обработи заявка, стана необходимо заявката да се пренасочи към друг сървър, като му се предостави различен набор от HTTP заглавки.

Вместо архитектура с разделяне на заявките в отделни работни процеси (работници), Pingora използва многонишков модел, който в сценарии на използване на Cloudflare (висока концентрация на трафик от различни сайтове с голяма статистическа промяна) показа по-ефективно разпределение на ресурсите между процесорни ядра. По-специално, свързването на небалансирани заявки към процеси в nginx доведе до небалансирано натоварване на ядрата на процесора, в резултат на което заявките с интензивно използване на ресурси и блокиране на I / O забавят обработката на други заявки. В допълнение, обвързването на пула на връзките към процесите на манипулатори не позволява повторно използване на вече установени връзки от други процеси на манипулатори, което намалява ефективността, когато има голям брой процеси на манипулатори.

nginx:

Пингора:

Въвеждането на Pingora позволи да се намали броят на новите операции за установяване на връзка със 160 пъти и да се увеличи делът на повторно използваните заявки от 87.1% на 99.92%. В допълнение към намаляването на повторното свързване и по-ефективното използване на ядрата на процесора, производителността на новия прокси се дължи главно на премахването на бавните манипулатори на Lua, използвани с nginx.

Езикът Rust беше избран като позволяващ висока производителност, съчетана с наличието на безопасни за паметта инструменти. Споменава се, че въпреки високата квалификация на инженерите на Cloudflare и прегледите на кода, написани на езика C, не беше възможно да се избегнат грешки, които водят до проблеми с паметта (например уязвимост в HTML анализатора). Що се отнася до новия код, говорихме за случаи на анализ на сривове в Pingora, които се оказаха причинени не от проблеми в приложението, а от грешка в ядрото на Linux и хардуерни повреди.

Освен това може да се отбележи, че Линус Торвалдс коментира включването на поддръжка за езика Rust в ядрото на Linux, изразено на конференцията Open-Source Summit Europe, която се провежда тези дни. Ядрото 6.0 не включва пачове за разработване на драйвери на устройства на езика Rust, но според Линус те вероятно ще бъдат приети в ядрото 6.1, той няма да се задържи с интеграцията. Като мотив за добавяне на поддръжка за Rust, в допълнение към положителното въздействие върху сигурността, Линус нарича и възможността за увеличаване на интереса към работата върху ядрото на новите участници, което е важно в контекста на застаряващите стари хора.

Източник: opennet.ru