Pwotokòl QUIC la trè enteresan pou gade, se poutèt sa nou renmen ekri sou li. Men, si piblikasyon anvan yo sou QUIC yo te plis nan yon istorik (istwa lokal, si ou renmen) nati ak pyès ki nan konpitè, jodi a nou kontan pibliye yon tradiksyon nan yon kalite diferan - nou pral pale sou aplikasyon an reyèl nan pwotokòl la nan 2019. Anplis, nou pa pale de ti enfrastrikti ki baze nan yon sa yo rele garaj, men sou Uber, ki opere prèske nan tout mond lan. Ki jan enjenyè konpayi an te pran desizyon pou yo sèvi ak QUIC nan pwodiksyon, ki jan yo te fè tès yo ak sa yo te wè apre yo fin woule li nan pwodiksyon - pi ba pase koupe a.
Foto yo klike sou. Jwi lekti!
Uber gen yon echèl mondyal, sètadi 600 vil nan prezans, nan chak nan ki aplikasyon an depann antyèman sou entènèt san fil ki soti nan plis pase 4500 operatè selilè. Itilizatè yo espere aplikasyon an pa sèlman rapid, men an tan reyèl - pou reyalize sa a, aplikasyon Uber bezwen latansi ki ba ak yon koneksyon trè serye. Ay, men pil la pa fè byen nan rezo san fil dinamik ak ki gen tandans pèt. Nou reyalize ke nan ka sa a, pèfòmans ba yo dirèkteman gen rapò ak aplikasyon TCP nan nwayo sistèm opere.
Pou rezoud pwoblèm nan, nou aplike , yon pwotokòl multiplexing chanèl modèn ki ban nou plis kontwòl sou pèfòmans pwotokòl transpò a. Kounye a gwoup travay la estandadize QUIC kòm .
Apre tès vaste, nou te konkli ke mete ann aplikasyon QUIC nan aplikasyon nou an ta lakòz pi ba latans ke konpare ak TCP. Nou te obsève yon rediksyon nan seri 10-30% pou trafik HTTPS nan aplikasyon pou chofè ak pasaje yo. QUIC te ban nou tou kontwòl bout-a-fen sou pakè itilizatè yo.
Nan atik sa a, nou pataje eksperyans nou nan optimize TCP pou aplikasyon Uber lè l sèvi avèk yon pil ki sipòte QUIC.
Dènye teknoloji a: TCP
Jodi a, TCP se pwotokòl transpò ki pi itilize pou delivre trafik HTTPS sou entènèt la. TCP bay yon kouran serye nan bytes, kidonk fè fas ak konjesyon rezo ak pèt kouch lyen. Itilizasyon TCP a toupatou pou trafik HTTPS se akòz omniprésente ansyen an (prèske chak OS gen TCP), disponiblite sou pifò enfrastrikti (tankou balanse chaj, proxy HTTPS ak CDN), ak fonksyonalite ki pa disponib. sou prèske pifò platfòm ak rezo.
Pifò itilizatè yo sèvi ak aplikasyon nou an sou wout la, ak latans ke TCP yo pa te okenn kote tou pre demand yo nan trafik HTTPS an tan reyèl nou an. Senpleman mete, itilizatè yo nan tout mond lan te fè eksperyans sa a - Figi 1 montre reta nan gwo vil yo:
Figi 1: Latansi ke yo varye atravè vil prensipal Uber yo.
Malgre ke latansi nan rezo Endyen ak brezilyen yo te pi wo pase nan peyi Etazini ak UK, latansi ke se siyifikativman pi wo pase latansi mwayèn. E sa vre menm pou Etazini ak UK.
TCP sou pèfòmans lè a
TCP te kreye pou branche rezo, se sa ki, ak yon anfaz sou lyen trè previzib. Sepandan, san fil rezo gen pwòp karakteristik yo ak difikilte yo. Premyèman, rezo san fil yo sansib a pèt akòz entèferans ak atenuasyon siyal. Pou egzanp, rezo Wi-Fi yo sansib a mikwo ond, bluetooth ak lòt ond radyo. Rezo selilè soufri pèt siyal () akòz refleksyon / absòpsyon nan siyal la pa objè ak bilding, osi byen ke soti nan soti nan vwazen . Sa a mennen nan plis enpòtan (4-10 fwa) ak plis divès ak pèt pake konpare ak yon koneksyon filaire.
Pou konbat fluctuations Pleasant ak pèt, rezo selilè tipikman itilize tanpon gwo pou pete trafik. Sa a ka mennen nan keuing twòp, ki vle di pi long reta. TCP trè souvan trete keuing sa a kòm yon fatra akòz yon tan pwolonje, kidonk TCP gen tandans relè epi kidonk ranpli tanpon an. Pwoblèm sa a ke yo rekonèt kòm (), ak sa a trè Entènèt modèn.
Finalman, pèfòmans rezo selilè varye selon konpayi asirans, rejyon, ak tan. Nan Figi 2, nou kolekte reta medyàn nan trafik HTTPS atravè selil nan yon ranje 2-kilomèt. Done yo kolekte pou de gwo operatè selilè nan Delhi, peyi Zend. Kòm ou ka wè, pèfòmans varye de selil an selil. Epitou, pwodiktivite yon operatè diferan de pwodiktivite dezyèm lan. Sa a se enfliyanse pa faktè tankou modèl antre rezo pran an kont tan ak kote, mobilite itilizatè, osi byen ke enfrastrikti rezo a pran an kont dansite gwo kay won ak rapò a nan kalite rezo (LTE, 3G, elatriye).
Figi 2. Reta yo itilize yon reyon 2 km kòm egzanp. Delhi, peyi Zend.
Epitou, pèfòmans nan rezo selilè varye sou tan. Figi 3 montre latansi medyàn pa jou nan semèn nan. Nou te obsève diferans tou sou yon echèl ki pi piti, nan yon sèl jou ak èdtan.
Figi 3. Reta ke yo ka varye anpil ant jou, men pou menm operatè a.
Tout sa ki anwo yo lakòz pèfòmans TCP yo pa efikas nan rezo san fil. Sepandan, anvan nou chèche altènativ pou TCP, nou te vle devlope yon konpreyansyon egzak sou pwen sa yo:
- èske TCP koupab prensipal la dèyè latans ke nan aplikasyon nou yo?
- Èske rezo modèn yo gen reta enpòtan ak varye pou ale/retou (RTT)?
- Ki enpak RTT ak pèt sou pèfòmans TCP?
Analiz pèfòmans TCP
Pou konprann ki jan nou analize pèfòmans TCP, ann pran yon gade rapid sou ki jan TCP transfere done ki sòti nan yon moun k ap resevwa nan yon reseptè. Premyèman, moun k la etabli yon koneksyon TCP, fè yon twa-fason : Moun k ap voye a voye yon pake SYN, tann yon pake SYN-ACK nan men reseptè a, epi li voye yon pake ACK. Yo depanse yon dezyèm ak twazyèm pas adisyonèl pou etabli koneksyon TCP la. Moun k ap resevwa a rekonèt li resevwa chak pake (ACK) pou asire livrezon serye.
Si yon pake oswa ACK pèdi, moun k la retransmèt apre yon delè (RTO, ). RTO kalkile dinamik ki baze sou plizyè faktè, tankou reta espere RTT ant moun k ap resevwa a ak moun k ap resevwa a.
Figi 4. Echanj pake sou TCP/TLS gen ladan yon mekanis retransmisyon.
Pou detèmine kijan TCP te fè nan aplikasyon nou yo, nou te kontwole pakè TCP yo pou yon semèn sou trafik konba ki soti nan serveurs Endyen kwen. Lè sa a, nou analize koneksyon TCP yo lè l sèvi avèk . Anplis de sa, nou te kreye yon aplikasyon android ki voye trafik imite nan yon sèvè tès, imite trafik reyèl otank posib. Smartphone ak aplikasyon sa a te distribye bay plizyè anplwaye, ki te kolekte mòso bwa pandan plizyè jou.
Rezilta tou de eksperyans yo te konsistan youn ak lòt. Nou te wè gwo latans RTT; valè ke yo te prèske 6 fwa pi wo pase valè medyàn lan; mwayèn aritmetik nan reta se plis pase 1 segonn. Anpil koneksyon te pèdi, sa ki lakòz TCP retransmèt 3,5% nan tout pake. Nan zòn konjesyone tankou ayewopò ak estasyon tren, nou te wè 7% pèt. Rezilta sa yo mete dout sou bon konprann konvansyonèl yo ke moun yo itilize nan rezo selilè siyifikativman diminye pèt nan nivo transpò. Anba a se rezilta tès yo nan aplikasyon "simulateur" la:
Rezo mezi
Valè
RTT, milisgond [50%, 75%, 95%, 99%]
[350, 425, 725, 2300]
RTT divergence, segonn
An mwayèn ~ 1,2 s
Pèt pake sou koneksyon enstab
Mwayèn ~ 3.5% (7% nan zòn ki twò chaje)
Prèske mwatye nan koneksyon sa yo te gen omwen yon pèt pake, pi fò nan yo SYN ak SYN-ACK pake. Pifò aplikasyon TCP itilize yon valè RTO 1 segonn pou pake SYN, ki ogmante eksponansyèlman pou pèt ki vin apre yo. Tan chaj aplikasyon yo ka ogmante akòz TCP pran plis tan pou etabli koneksyon.
Nan ka pake done, gwo valè RTO redwi anpil itilizasyon itil nan rezo a nan prezans pèt pasajè nan rezo san fil. Nou te jwenn ke tan an mwayèn retransmisyon se apeprè 1 segonn ak yon reta ke nan prèske 30 segonn. Gwo latans sa yo nan nivo TCP te lakòz delè HTTPS ak re-demann, sa ki te ogmante plis latansi rezo a ak ensifizans.
Pandan ke percentile 75th nan RTT mezire te alantou 425 ms, percentile 75th pou TCP te prèske 3 segonn. Sa a sijesyon ke pèt la te lakòz TCP pran 7-10 pas pou transmèt done avèk siksè. Sa a ka yon konsekans nan kalkil RTO ensifizan, enkapasite TCP a byen vit reponn a pèt. nan fenèt la ak inefikasite algorithm kontwòl konjesyon an, ki pa fè distenksyon ant pèt san fil ak pèt akòz konjesyon rezo a. Anba a se rezilta tès pèt TCP yo:
Estatistik pèt pake TCP
Valè
Pousantaj koneksyon ki gen omwen 1 pèt pake
45%
Pousantaj koneksyon ak pèt pandan konfigirasyon koneksyon
30%
Pousantaj koneksyon ak pèt pandan echanj done
76%
Distribisyon reta nan retransmisyon, segonn [50%, 75%, 95%,99%] [1, 2.8, 15, 28]
Distribisyon kantite retransmisyon pou yon pake oswa segman TCP
[1,3,6,7]
Aplikasyon QUIC
Orijinèlman devlope pa Google, QUIC se yon pwotokòl transpò modèn milti-threaded ki kouri sou tèt UDP. Kounye a QUIC nan (Nou te deja ekri ke gen, kòm li te, de vèsyon nan QUIC, kirye – approx. tradiktè). Jan yo montre nan Figi 5, QUIC mete anba HTTP/3 (an reyalite, HTTP/2 anlè QUIC se HTTP/3, ki kounye a ap estandadize anpil). Li pasyèlman ranplase kouch HTTPS ak TCP lè l sèvi avèk UDP pou fòme pake. QUIC sèlman sipòte transfè done sekirite kòm TLS konplètman bati nan QUIC.
Figi 5: QUIC kouri anba HTTP/3, ranplase TLS, ki te deja kouri anba HTTP/2.
Anba a se rezon ki konvenk nou pou nou itilize QUIC pou anplifikasyon TCP:
- 0-RTT etablisman koneksyon. QUIC pèmèt reitilize otorizasyon ki soti nan koneksyon anvan yo, sa ki diminye kantite lanmen sekirite. Nan lavni pral sipòte 0-RTT, men yon twa-fason TCP lanmen ap toujou mande.
- simonte HoL bloke. HTTP/2 itilize yon sèl koneksyon TCP pou chak kliyan pou amelyore pèfòmans, men sa ka mennen nan bloke HoL (head-of-line). QUIC senplifye multiplexage ak delivre demann nan aplikasyon an poukont li.
- kontwòl konjesyon. QUIC abite nan kouch aplikasyon an, sa ki fè li pi fasil pou mete ajou algorithm transpò prensipal ki kontwole voye ki baze sou paramèt rezo a (kantite pèt oswa RTT). Pifò aplikasyon TCP itilize algorithm la , ki pa pi bon pou trafik ki sansib pou latansi. Dènyèman devlope algoritm tankou , plis presizyon modèl rezo a ak optimize latansi. QUIC pèmèt ou sèvi ak BBR epi mete ajou algorithm sa a jan li itilize. .
- renouvèlman pèt yo. QUIC rele de TLP () anvan RTO a deklanche - menm lè pèt yo trè aparan. Sa a diferan de aplikasyon TCP. TLP retransmèt sitou dènye pake a (oswa nouvo a, si gen youn) pou deklanche renouvèlman rapid. Jere reta ke yo patikilyèman itil pou fason Uber opere rezo li yo, sètadi pou transfè done kout, detanzantan, ak latansi yo.
- optimize ACK. Depi chak pake gen yon nimewo sekans inik, pa gen okenn pwoblèm pakè yo lè yo retransmèt. Pake ACK yo genyen tou tan pou trete pake a epi jenere yon ACK sou bò kliyan an. Karakteristik sa yo asire ke QUIC kalkile RTT plis presizyon. ACK nan QUIC sipòte jiska 256 gwoup , ede moun k ap voye a gen plis fleksibilite nan melanje pake epi sèvi ak mwens byte nan pwosesis la. ACK selektif () nan TCP pa rezoud pwoblèm sa a nan tout ka.
- migrasyon koneksyon. Koneksyon QUIC yo idantifye pa yon ID 64-bit, kidonk si yon kliyan chanje adrès IP, ansyen ID koneksyon an ka kontinye itilize sou nouvo adrès IP la san entèripsyon. Sa a se yon pratik trè komen pou aplikasyon mobil kote itilizatè a chanje ant Wi-Fi ak koneksyon selilè.
Altènatif pou QUIC
Nou konsidere apwòch altènatif pou rezoud pwoblèm nan anvan w chwazi QUIC.
Premye bagay nou te eseye se te deplwaye TPC PoPs (Pwen Prezans) pou mete fen nan koneksyon TCP pi pre itilizatè yo. Esansyèlman, PoPs mete fen nan yon koneksyon TCP ak yon aparèy mobil ki pi pre rezo selilè a epi proxy trafik la tounen nan enfrastrikti orijinal la. Lè nou mete fen nan TCP pi pre, nou ka potansyèlman redwi RTT a epi asire ke TCP pi reponn a yon anviwònman san fil dinamik. Sepandan, eksperyans nou yo te montre ke pi fò nan RTT a ak pèt soti nan rezo selilè ak itilizasyon PoPs pa bay amelyorasyon siyifikatif pèfòmans.
Nou te gade tou akor paramèt TCP yo. Fikse yon pil TCP sou serveurs kwen etewojèn nou yo te difisil paske TCP gen aplikasyon diferan nan diferan vèsyon OS. Li te difisil pou aplike sa a epi teste diferan konfigirasyon rezo. Konfigirasyon TCP dirèkteman sou aparèy mobil pa t posib akòz mank otorizasyon. Sa ki pi enpòtan, karakteristik tankou koneksyon 0-RTT ak amelyore prediksyon RTT yo enpòtan anpil pou achitekti pwotokòl la, e se poutèt sa li enposib pou reyalize benefis enpòtan nan ajiste TCP pou kont li.
Finalman, nou te evalye plizyè pwotokòl ki baze sou UDP ki rezoud pwoblèm difizyon videyo-nou te vle wè si pwotokòl sa yo ta ede nan ka nou an. Malerezman, yo te manke anpil nan anviwònman sekirite anpil, epi tou yo te mande yon koneksyon TCP adisyonèl pou metadata ak enfòmasyon kontwòl.
Rechèch nou yo te montre ke QUIC se petèt sèl pwotokòl ki ka ede ak pwoblèm nan nan trafik Entènèt, pandan y ap pran an konsiderasyon tou de sekirite ak pèfòmans.
Entegrasyon QUIC nan platfòm la
Pou byen entegre QUIC ak amelyore pèfòmans aplikasyon an nan anviwònman koneksyon pòv yo, nou ranplase ansyen pil (HTTP/2 sou TLS/TCP) ak pwotokòl QUIC la. Nou itilize bibliyotèk rezo a nan , ki gen vèsyon orijinal Google pwotokòl la - gQUIC. Aplikasyon sa a tou toujou ap amelyore pou swiv dènye spesifikasyon IETF la.
Nou premye entegre Cronet nan aplikasyon android nou yo pou ajoute sipò pou QUIC. Entegrasyon te fèt nan yon fason pou diminye depans migrasyon yo otank posib. Olye pou yo konplètman ranplase ansyen pile rezo ki te itilize bibliyotèk la , nou te entegre Cronet ANBA fondasyon API OkHttp. Lè nou fè entegrasyon an nan fason sa a, nou evite chanjman nan apèl rezo nou yo (ki itilize pa ) nan nivo API.
Menm jan ak apwòch la pou aparèy android, nou aplike Cronet nan aplikasyon Uber sou iOS, entèsepte trafik HTTP soti nan rezo a. lè l sèvi avèk . Abstraksyon sa a, ki ofri pa iOS Fondasyon an, okipe done URL espesifik pwotokòl epi asire ke nou ka entegre Cronet nan aplikasyon iOS nou yo san yo pa depans enpòtan pou migrasyon.
Ranpli QUIC sou Google Cloud Balancers
Sou bò backend la, se Google Cloud Load balanse enfrastrikti ki bay fini QUIC, ki itilize headers nan repons pou sipòte QUIC. An jeneral, balanse a ajoute yon header alt-svc nan chak demann HTTP, e sa deja valide sipò QUIC pou domèn nan. Lè yon kliyan Cronet resevwa yon repons HTTP ak header sa a, li itilize QUIC pou demann HTTP ki vin apre nan domèn sa a. Yon fwa balanse a konplete QUIC la, enfrastrikti nou an voye aksyon sa a sou HTTP2/TCP nan sant done nou yo.
Pèfòmans: Rezilta
Pèfòmans pwodiksyon se rezon prensipal pou rechèch nou an pou yon pi bon pwotokòl. Pou kòmanse, nou te kreye yon kanpe ak pou chèche konnen ki jan QUIC pral konpòte anba diferan pwofil rezo. Pou teste pèfòmans QUIC sou rezo reyèl la, nou te fè eksperyans pandan n ap kondui nan New Delhi lè l sèvi avèk trafik rezo imite anpil menm jan ak apèl HTTP nan aplikasyon pasaje yo.
Eksperyans 1
Ekipman pou eksperyans la:
- teste aparèy Android ak pile OkHttp ak Cronet pou asire ke nou pèmèt trafik HTTPS sou TCP ak QUIC respektivman;
- yon sèvè imitasyon ki baze sou Java ki voye menm kalite HTTPS headers nan repons epi chaje aparèy kliyan pou resevwa demann nan men yo;
- prokurasyon nwaj ki sitiye fizikman toupre peyi Zend pou mete fen nan koneksyon TCP ak QUIC. Pandan ke pou revokasyon TCP nou te itilize yon prokurasyon ranvèse sou , li te difisil pou jwenn yon proxy ranvèse sous louvri pou QUIC. Nou te konstwi yon prokurasyon ranvèse pou QUIC tèt nou lè l sèvi avèk pil debaz QUIC ki soti nan Chromium ak li nan chromium kòm sous louvri.
Figi 6. TCP vs QUIC tès wout la te fèt nan aparèy Android ak OkHttp ak Cronet, proxy nwaj pou mete fen nan koneksyon, ak yon sèvè emulation.
Eksperyans 2
Lè Google te fè QUIC disponib ak , nou te itilize menm envantè a, men ak yon sèl modifikasyon: olye pou yo NGINX, nou te pran balanse chaj Google yo mete fen nan koneksyon TCP ak QUIC ki soti nan aparèy, osi byen ke wout HTTPS trafik nan sèvè a imitasyon. Balanse yo distribye nan tout mond lan, men sèvi ak sèvè PoP ki pi pre aparèy la (gras a jeolokalizasyon).
Figi 7. Nan dezyèm eksperyans la, nou te vle konpare latansi fini TCP ak QUIC: lè l sèvi avèk Google Cloud ak lè l sèvi avèk proxy nwaj nou an.
Kòm rezilta, plizyè revelasyon t ap tann nou:
- revokasyon atravè PoP amelyore pèfòmans TCP. Depi balanse yo mete fen nan koneksyon TCP pi pre itilizatè yo epi yo trè optimize, sa lakòz RTT pi ba yo, ki amelyore pèfòmans TCP. Ak byenke QUIC te mwens afekte, li toujou depase TCP an tèm de diminye latansi ke (pa 10-30 pousan).
- ke yo afekte . Malgre ke proxy QUIC nou an te pi lwen aparèy yo (apeprè 50 ms pi wo latansi) pase balans chaj Google yo, li te bay pèfòmans menm jan an - yon rediksyon 15% nan latansi kont yon rediksyon 20% nan 99yèm percentile pou TCP. Sa a sijere ke tranzisyon an dènye mil se yon bouche nan rezo a.
Figi 8: Rezilta de eksperyans yo montre ke QUIC siyifikativman depase TCP.
Konbat trafik
Enspire pa eksperimantasyon, nou te aplike sipò QUIC nan aplikasyon android ak iOS nou yo. Nou te fè tès A/B pou detèmine enpak QUIC nan vil kote Uber opere. An jeneral, nou te wè yon rediksyon enpòtan nan reta ke atravè tou de rejyon yo, operatè telecom ak kalite rezo.
Grafik ki anba yo montre pousantaj amelyorasyon nan ke (95 ak 99 percentile) pa makro-rejyon ak diferan kalite rezo - LTE, 3G, 2G.
Figi 9. Nan tès batay, QUIC depase TCP an tèm de latansi.
Se sèlman pou pi devan
Petèt sa a se jis kòmansman an - liberasyon an nan QUIC nan pwodiksyon te bay opòtinite etonan amelyore pèfòmans aplikasyon nan tou de rezo ki estab ak enstab, sètadi:
Ogmante pwoteksyon
Lè nou te analize pèfòmans pwotokòl la sou trafik reyèl, nou te wè apeprè 80% sesyon yo te itilize QUIC avèk siksè pou nan tout demann, pandan ke 15% nan sesyon yo te itilize yon konbinezon de QUIC ak TCP. Nou sipoze ke konbinezon an se akòz tan bibliyotèk Cronet la tounen nan TCP, paske li pa ka fè distenksyon ant echèk UDP reyèl ak kondisyon rezo pòv yo. Kounye a nou ap chèche yon solisyon pou pwoblèm sa a pandan n ap travay nan direksyon pou aplikasyon QUIC ki vin apre a.
QUIC optimize
Trafik ki soti nan aplikasyon mobil yo sansib pou latansi, men se pa latè sansib. Epitou, aplikasyon nou yo itilize prensipalman sou rezo selilè. Dapre eksperyans, latans ke yo toujou wo menm si w ap itilize yon prokurasyon pou mete fen nan TCP ak QUIC tou pre itilizatè yo. Nou ap chèche aktivman fason pou amelyore jesyon konjesyon ak amelyore efikasite algoritm rekiperasyon pèt QUIC yo.
Avèk sa yo ak plizyè lòt amelyorasyon, nou planifye amelyore eksperyans itilizatè a kèlkeswa rezo ak rejyon an, fè transpò pratik ak san pwoblèm pi aksesib atravè mond lan.
Sous: www.habr.com