![\"Optimizacija](\"\/wp-content\/uploads\/2021\/05\/908fb8d92e84a3e7557af7f6c622298e.png\")
<\/center> <\/p>\nGlavne optimizacije: <\/p>\n
- \n
- Optimizacija kodeksa libreactor. Osnova je bila razli\u010dica R18 iz nabora Techempower, ki je bila izbolj\u0161ana z odstranitvijo kode za omejevanje \u0161tevila uporabljenih jeder CPU (optimizacija je omogo\u010dila 25-27% pospe\u0161itev), sestavljanjem v GCC z mo\u017enostmi '-O3' (pove\u010danje 5-10%) in '-march-native' (5-10%), zamenjavo klicev read\/write z recv\/send (5-10%) in zmanj\u0161anjem stro\u0161kov pri uporabi pthreads (2-3%). Skupno pove\u010danje zmogljivosti po optimizaciji kode je zna\u0161alo 55%, prepustnost pa se je pove\u010dala z 224k req\/s na 347k req\/s.\n
- Deaktivacija za\u0161\u010dite pred ranljivostmi, povzptanimi s spekulativnim izvr\u0161evanjem navodil. Uporaba parametrov pri nalaganju jedra 'nospectre_v1 nospectre_v2 pti=off mds=off tsx_async_abort=off' je omogo\u010dila pove\u010danje zmogljivosti za 28%, prepustnost pa se je pove\u010dala z 347k req\/s na 446k req\/s. Posami\u010dno je pove\u010danje od parametra 'nospectre_v1' (za\u0161\u010dita pred Spectre v1 + SWAPGS) zna\u0161alo 1-2%, 'nospectre_v2' (za\u0161\u010dita pred Spectre v2) - 15-20%, 'pti=off' (Spectre v3\/Meltdown) - 6%, 'mds=off tsx_async_abort=off' (MDS\/Zombieload in TSX Asynchronous Abort) - 6%. Nastavitve za za\u0161\u010dito pred napadi L1TF\/Foreshadow (l1tf=flush), iTLB multihit, Speculative Store Bypass in SRBDS, ki ne vplivajo na zmogljivost, ostajajo nespremenjene, saj se niso kri\u017eale z testirano konfiguracijo (npr. specifi\u010dne za) KVM<\/a>, vgrajeno virtualizacijo in druge modele CPU).\n
- Deaktivacija mehanizmov nadzora in blokiranja sistemskih klicev z ukazom 'auditctl -a never,task' in dolo\u010danjem mo\u017enosti '--security-opt seccomp=unconfined' pri zagonu docker kontejnerja. Skupno pove\u010danje zmogljivosti je zna\u0161alo 11%, prepustnost pa se je pove\u010dala z 446k req\/s na 495k req\/s.\n
- Izklju\u010ditev iptables\/netfilterja z nalaganjem povezanih modulov jedra. Idejo o izklopu po\u017earnega zidu, ki ni bil uporabljen v specifi\u010dni stre\u017eni\u0161ki re\u0161itvi, je spodbudila profiliranje, iz katerega je razvidno, da je za izvajanje funkcije nf_hook_slow porabljalo 18% \u010dasa. Opozarja se, da nftables deluje u\u010dinkoviteje kot iptables, vendar se v Amazon Linux \u0161e vedno uporablja iptables. Po izklju\u010ditvi iptables je pridobitev zmogljivosti zna\u0161ala 22%, propustnost pa se je pove\u010dala s 495k req\/s na 603k req\/s.\n
- Zmanj\u0161anje migracij obdelovalcev med razli\u010dnimi jedri CPU za pove\u010danje u\u010dinkovitosti uporabe procesorskega predpomnilnika. Optimizacija je bila narejena na ravni vezave procesov libreactor na jedra CPU (CPU Pinning), kot tudi preko zaklenitve omre\u017enih obdelovalcev jedra (Receive Side Scaling). Na primer, izvedeno je bilo izklopitev irqbalance in izrecna nastavitev vezav vrstic na CPU v \/proc\/irq\/$IRQ\/smp_affinity_list. Za uporabo istega jedra CPU za obdelavo procesa libreactor in omre\u017ene vrste prihajajo\u010dih paketov je bil uporabljen lastni BPF-obdelovalec, povezan preko nastavitve zastavice SO_ATTACH_REUSEPORT_CBPF pri ustvarjanju socket. Za vezavo na CPU vrstic odhodnih paketov so bile spremenjene nastavitve \/sys\/class\/net\/eth0\/queues\/tx-<n>\/xps_cpus. Skupna pridobitev zmogljivosti je zna\u0161ala 38%, propustnost pa se je pove\u010dala s 603k req\/s na 834k req\/s.\n
- Optimizacija obdelave prekinitev in uporaba polinga (polling). Vklju\u010ditev na\u010dina adaptive-rx v gonilniku ENA in manipulacija s sysctl net.core.busy_read sta omogo\u010dila pove\u010danje zmogljivosti za 28% (prepustnost se je pove\u010dala z 834k req\/s na 1.06M req\/s, zakasnitve pa so se zmanj\u0161ale z 361\u03bcs na 292\u03bcs).\n
- Izklju\u010ditev sistemskih storitev, ki povzro\u010dajo nepotrebne zaklepe v omre\u017enem skladu. Izklju\u010ditev dhclient in nastavitev IP-naslove<\/a> ro\u010dno je pripeljala do pove\u010danja zmogljivosti za 6%, propustnost pa se je pove\u010dala s 1.06M req\/s na 1.12M req\/s. Razlog za vpliv dhclient na zmogljivost je analiza prometa z uporabo raw-socket.\n
- Boj proti Spin Lock. Prehod omre\u017enega sklada v na\u010din 'noqueue' preko sysctl 'net.core.default_qdisc=noqueue' in 'tc qdisc replace dev eth0 root mq' je privedel do pove\u010danja zmogljivosti za 2%, prepustnost pa se je pove\u010dala z 1.12M req\/s na 1.15M req\/s.\n
- Kon\u010dne manj\u0161e optimizacije, kot sta izklop GRO (Generic Receive Offload) z ukazom \u00abethtool -K eth0 gro off\u00bb in zamenjava algoritma nadzora zasi\u010denosti cubic z reno s pomo\u010djo sysctl \u00abnet.ipv4.tcp_congestion_control=reno\u00bb. Skupno pove\u010danje zmogljivosti je zna\u0161alo 4%. Propustnost se je pove\u010dala s 1.15M req\/s na 1.2M req\/s. <\/ul>\n
Poleg izvedenih optimizacij \u010dlanek obravnava tudi metode, ki niso privedle do pri\u010dakovanega pove\u010danja zmogljivosti. Na primer, se je izkazalo, da so neu\u010dinkovite: <\/p>\n
- \n
- Lo\u010den zagon libreactor se ni razlikoval po zmogljivosti od zagona v vsebniku. Zamenjava writev z send, pove\u010danje maxevents v epoll_wait ter eksperimenti z razli\u010dicami in zastavicami GCC niso vplivali (u\u010dinek je bil opazen le za zastavici \u00ab-O3\u00bb in \u00ab-march-native\u00bb).\n
- Posodobitev jedra Linux na razli\u010dice 4.19 in 5.4, uporaba \u010dasovnikov SCHED_FIFO in SCHED_RR, manipulacije s sysctl kernel.sched_min_granularity_ns, kernel.sched_wakeup_granularity_ns, transparent_hugepages=never, skew_tick=1 in clocksource=tsc pa prav tako niso vplivale na zmogljivost.\n
- V gonilniku ENA vklju\u010ditev na\u010dinov Offload (segmentation, scatter-gather, rx\/tx checksum), sestavljanje z zastavico \u00ab-O3\u00bb ter uporaba parametrov ena.rx_queue_size in ena.force_large_llq_header nista imela vpliva.\n
- Spremembe v omre\u017enem stacku niso privedle do pove\u010danja zmogljivosti:\n