![\"Optimering](\"\/wp-content\/uploads\/2021\/05\/908fb8d92e84a3e7557af7f6c622298e.png\")
<\/center> <\/p>\nHovedoptimeringer: <\/p>\n
- \n
- Optimering af libreactor-koden. Som grundlag blev R18-versionen fra Techempower-s\u00e6ttet brugt, som blev forbedret ved at fjerne koden for at begr\u00e6nse antallet af anvendte CPU-kerner (optimeringen gjorde det muligt at \u00f8ge hastigheden med 25-27%), kompilering i GCC med indstillingerne \"-O3\" (for\u00f8gelse p\u00e5 5-10%) og \"-march-native\" (5-10%), udskiftning af read\/write-opkald med recv\/send (5-10%) og reduktion af overhead ved brug af pthreads (2-3%). Den samlede pr\u00e6stationsfor\u00f8gelse efter kodeoptimeringen var 55%, og kapaciteten steg fra 224k req\/s til 347k req\/s.\n
- Deaktivering af beskyttelse mod s\u00e5rbarheder for\u00e5rsaget af spekulativ eksekvering af instruktioner. Anvendelsen af boot-parametre \"nospectre_v1 nospectre_v2 pti=off mds=off tsx_async_abort=off\" gjorde det muligt at \u00f8ge ydeevnen med 28%, og kapaciteten steg fra 347k req\/s til 446k req\/s. For\u00f8gelsen fra parameteren \"nospectre_v1\" (beskyttelse mod Spectre v1 + SWAPGS) var 1-2%, \"nospectre_v2\" (beskyttelse mod Spectre v2) - 15-20%, \"pti=off\" (Spectre v3\/Meltdown) - 6%, \"mds=off tsx_async_abort=off\" (MDS\/Zombieload og TSX Asynchronous Abort) - 6%. Indstillingerne for beskyttelse mod L1TF\/Foreshadow-angreb (l1tf=flush), iTLB multihit, Speculative Store Bypass og SRBDS, blev ikke \u00e6ndret, da de ikke p\u00e5virkede ydeevnen, da de ikke krydsede med den testede konfiguration (f.eks. specifikke for KVM<\/a>, indlejret virtualisering og andre CPU-modeller).\n
- Deaktivering af auditing-mekanismer og blokering af systemopkald ved hj\u00e6lp af kommandoen \"auditctl -a never,task\" og angivelse af indstillingen \"--security-opt seccomp=unconfined\" ved opstart af docker-containeren. Den samlede pr\u00e6stationsfor\u00f8gelse var 11%, og kapaciteten steg fra 446k req\/s til 495k req\/s.\n
- Deaktivering af iptables\/netfilter ved at indl\u00e6se de relaterede kernelmoduler. Ideen om at deaktivere firewall'en, som ikke blev brugt i den specifikke serverl\u00f8sning, blev fremmet af profileringsresultaterne, der viste, at funktionen nf_hook_slow brugte 18% af tiden. Det bem\u00e6rkes, at nftables fungerer mere effektivt end iptables, men iptables bruges stadig i Amazon Linux. Efter deaktivering af iptables var der en pr\u00e6stationsfor\u00f8gelse p\u00e5 22%, og b\u00e5ndbredden steg fra 495k req\/s til 603k req\/s.\n
- Reduktion af migrationen af h\u00e5ndteringsrutiner mellem forskellige CPU-kerner for at \u00f8ge effektiviteten af CPU-cachen. Optimeringen blev udf\u00f8rt b\u00e5de p\u00e5 niveauet for binding af processer (libreactor) til CPU-kerner (CPU Pinning) og ved at fasts\u00e6tte netv\u00e6rksh\u00e5ndtere fra kernen (Receive Side Scaling). For eksempel blev irqbalance deaktiveret og bindinger til k\u00f8er blev eksplicit fastsat i \/proc\/irq\/$IRQ\/smp_affinity_list. For at bruge den samme CPU-kerne til behandling af libreactor-processen og netv\u00e6rksk\u00f8en for indkommende pakker blev en brugerdefineret BPF-h\u00e5ndterer anvendt, tilsluttet ved at s\u00e6tte flaget SO_ATTACH_REUSEPORT_CBPF, n\u00e5r der blev oprettet en socket. For at binde k\u00f8erne for udg\u00e5ende pakker til CPU'en blev indstillingerne i \/sys\/class\/net\/eth0\/queues\/tx-<n>\/xps_cpus \u00e6ndret. Den samlede pr\u00e6stationsfor\u00f8gelse var p\u00e5 38%, og b\u00e5ndbredden steg fra 603k req\/s til 834k req\/s.\n
- Optimering af behandling af interruputter og brug af pollering. Aktivering af adaptive-rx-tilstanden i ENA-driveren og manipulation med sysctl net.core.busy_read f\u00f8rte til en stigning i ydeevnen p\u00e5 28% (kapaciteten steg fra 834k req\/s til 1.06M req\/s, mens latenserne faldt fra 361 \u00b5s til 292 \u00b5s).\n
- Deaktivering af systemtjenester, der f\u00f8rer til un\u00f8dvendige blokeringer i netv\u00e6rksstakken. Deaktivering af dhclient og manual ops\u00e6tning IP-adresser<\/a> f\u00f8rte til en pr\u00e6stationsfor\u00f8gelse p\u00e5 6%, og b\u00e5ndbredden steg fra 1.06M req\/s til 1.12M req\/s. \u00c5rsagen til dhclients indvirkning p\u00e5 pr\u00e6stationen blev analyseret ved hj\u00e6lp af raw-socket trafik.\n
- Kamp mod Spin Lock. Overf\u00f8rsel af netv\u00e6rksstakken til \"noqueue\"-tilstand via sysctl \"net.core.default_qdisc=noqueue\" og \"tc qdisc replace dev eth0 root mq\" f\u00f8rte til en pr\u00e6stationsfor\u00f8gelse p\u00e5 2%, og kapaciteten steg fra 1.12M req\/s til 1.15M req\/s.\n
- De sidste sm\u00e5 optimeringer, s\u00e5som at deaktivere GRO (Generic Receive Offload) med kommandoen «ethtool -K eth0 gro off» og at erstatte algoritmen til overbelastningskontrol fra cubic til reno ved hj\u00e6lp af sysctl «net.ipv4.tcp_congestion_control=reno». Den samlede pr\u00e6stationsfor\u00f8gelse var 4%. Genneml\u00f8bet steg fra 1.15M req\/s til 1.2M req\/s. <\/ul>\n
Udover de gennemf\u00f8rte optimeringer diskuteres der i artiklen ogs\u00e5 metoder, der ikke f\u00f8rte til den forventede pr\u00e6stationsv\u00e6kst. For eksempel var f\u00f8lgende ineffektive: <\/p>\n
- \n
- En separat k\u00f8rsel af libreactor viste ikke nogen forskel i ydeevnen sammenlignet med k\u00f8rsel i en container. Udskiftningen af writev med send, stigningen i maxevents i epoll_wait, og eksperimenterne med versioner og flags i GCC havde ingen indflydelse (effekten var kun m\u00e6rkbar for flags «-O3» og «-march-native»).\n
- Opdatering af Linux-kernen til versioner 4.19 og 5.4, brug af planl\u00e6ggere SCHED_FIFO og SCHED_RR, samt manipulationer med sysctl kernel.sched_min_granularity_ns, kernel.sched_wakeup_granularity_ns, transparent_hugepages=never, skew_tick=1 og clocksource=tsc p\u00e5virkede ikke pr\u00e6stationen.\n
- I ENA-driveren havde aktiveringen af Offload-tilstande (segmentation, scatter-gather, rx\/tx checksum), kompilering med flaget «-O3» og anvendelsen af parametrene ena.rx_queue_size og ena.force_large_llq_header ikke nogen indflydelse.\n
- \u00c6ndringer i netv\u00e6rksstakken f\u00f8rte ikke til en pr\u00e6stationsfor\u00f8gelse:\n