Ahojte, volám sa Sasha a riadim testovanie backendu vo FunCorp. U nás, ako aj u mnohých iných, je implementovaná architektúra orientovaná na služby. Na jednej strane to zjednodušuje prácu, pretože každý servis je jednoduchšie testovať samostatne, ale na druhej strane vzniká potreba testovať vzájomné interakcie servisov, ktoré často prebiehajú cez sieť.
V tomto článku sa podelím o dva nástroje, pomocou ktorých môžete preveriť základné scenáre popisujúce fungovanie aplikácie pri problémoch so sieťou.
Simulujeme problémy so sieťou
Zvyčajne sa softvér testuje na testovacích serveroch s dobrým internetovým pripojením. V tvrdých podmienkach produkcie to však nemusí byť také hladké, a preto je niekedy potrebné testovať programy v podmienkach zlého pripojenia. V Linuxe nám s úlohou simulácie takýchto podmienok pomôže nástroj tc.
tc (skratka pre Traffic Control) umožňuje nastaviť prenos sieťových paketov v systéme. Tento nástroj má široké možnosti, o ktorých si môžete prečítať podrobnejšie . Tu sa zameriam len na niektoré z nich: zaujíma nás plánovanie prenosu, na čo použijeme qdisc, a pretože potrebujeme emulovať nestabilnú sieť, budeme používať beztriedny qdisc .
Spustíme echo-server na serveri (na to som použil ):
ncat -l 127.0.0.1 12345 -k -c 'xargs -n1 -i echo "Response: {}"'
Aby som podrobne zobrazil všetky časové značky pri každom kroku interakcie klienta so serverom, napísal som jednoduchý skript v Pythone, ktorý posiela požiadavku Test na náš echo-server.
Zdrojový kód klienta
#!/bin/python
import socket
import time
HOST = '127.0.0.1'
PORT = 12345
BUFFER_SIZE = 1024
MESSAGE = "Testn"
s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
t1 = time.time()
print "[time before connection: %.5f]" % t1
s.connect((HOST, PORT))
print "[time after connection, before sending: %.5f]" % time.time()
s.send(MESSAGE)
print "[time after sending, before receiving: %.5f]" % time.time()
data = s.recv(BUFFER_SIZE)
print "[time after receiving, before closing: %.5f]" % time.time()
s.close()
t2 = time.time()
print "[time after closing: %.5f]" % t2
print "[total duration: %.5f]" % (t2 - t1)
print data
Spustíme ho a pozrieme sa na prenos dát na rozhraniu lo a porte 12345:
[user@host ~]# python client.py
[čas pred pripojením: 1578652979.44837]
[čas po pripojení, pred odoslaním: 1578652979.44889]
[čas po odoslaní, pred prijatím: 1578652979.44894]
[čas po prijatí, pred zavretím: 1578652979.45922]
[čas po zavretí: 1578652979.45928]
[celková dĺžka: 0.01091]
Response: Test
Dámp prenosu
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: podrobné výstupy potlačené, použite -v alebo -vv pre úplnú dekódovanie protokolu
počúvanie na lo, typ odkazu EN10MB (Ethernet), veľkosť zachytenia 262144 bajtov
10:42:59.448601 IP 127.0.0.1.54054 > 127.0.0.1.12345: Príznaky [S], seq 3383332866, win 43690, možnosti [mss 65495,sackOK,TS val 606325685 ecr 0,nop,wscale 7], dĺžka 0
10:42:59.448612 IP 127.0.0.1.12345 > 127.0.0.1.54054: Príznaky [S.], seq 2584700178, ack 3383332867, win 43690, možnosti [mss 65495,sackOK,TS val 606325685 ecr 606325685,nop,wscale 7], dĺžka 0
10:42:59.448622 IP 127.0.0.1.54054 > 127.0.0.1.12345: Príznaky [.], ack 1, win 342, možnosti [nop,nop,TS val 606325685 ecr 606325685], dĺžka 0
10:42:59.448923 IP 127.0.0.1.54054 > 127.0.0.1.12345: Príznaky [P.], seq 1:6, ack 1, win 342, možnosti [nop,nop,TS val 606325685 ecr 606325685], dĺžka 5
10:42:59.448930 IP 127.0.0.1.12345 > 127.0.0.1.54054: Príznaky [.], ack 6, win 342, možnosti [nop,nop,TS val 606325685 ecr 606325685], dĺžka 0
10:42:59.459118 IP 127.0.0.1.12345 > 127.0.0.1.54054: Príznaky [P.], seq 1:15, ack 6, win 342, možnosti [nop,nop,TS val 606325696 ecr 606325685], dĺžka 14
10:42:59.459213 IP 127.0.0.1.54054 > 127.0.0.1.12345: Príznaky [.], ack 15, win 342, možnosti [nop,nop,TS val 606325696 ecr 606325696], dĺžka 0
10:42:59.459268 IP 127.0.0.1.54054 > 127.0.0.1.12345: Príznaky [F.], seq 6, ack 15, win 342, možnosti [nop,nop,TS val 606325696 ecr 606325696], dĺžka 0
10:42:59.460184 IP 127.0.0.1.12345 > 127.0.0.1.54054: Príznaky [F.], seq 15, ack 7, win 342, možnosti [nop,nop,TS val 606325697 ecr 606325696], dĺžka 0
10:42:59.460196 IP 127.0.0.1.54054 > 127.0.0.1.12345: Príznaky [.], ack 16, win 342, možnosti [nop,nop,TS val 606325697 ecr 606325697], dĺžka 0
Všetko štandardné: trojpádlové podanie rúk, PSH/ACK a ACK v odpovedi dvakrát — to je výmena žiadosti a odpovede medzi klientom a serverom, a dvakrát FIN/ACK a ACK — ukončenie pripojenia.
Zdržanie paketov
Teraz nastavíme zdržanie 500 milisekúnd:
tc qdisc add dev lo root netem delay 500ms
Spúšťame klienta a vidíme, že teraz skript trvá 2 sekundy:
[user@host ~]# ./client.py
[čas pred pripojením: 1578662612.71044]
[čas po pripojení, pred odoslaním: 1578662613.71059]
[čas po odoslaní, pred prijatím: 1578662613.71065]
[čas po prijatí, pred zatvorením: 1578662614.72011]
[čas po zatvorení: 1578662614.72019]
[celková doba trvania: 2.00974]
Odpoveď: Test
A čo v doprave? Pozrime sa:
Dámp prenosu
13:23:33.210520 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [S], seq 1720950927, win 43690, options [mss 65495,sackOK,TS val 615958947 ecr 0,nop,wscale 7], length 0
13:23:33.710554 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [S.], seq 1801168125, ack 1720950928, win 43690, options [mss 65495,sackOK,TS val 615959447 ecr 615958947,nop,wscale 7], length 0
13:23:34.210590 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 615959947 ecr 615959447], length 0
13:23:34.210657 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 615959947 ecr 615959447], length 5
13:23:34.710680 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [.], ack 6, win 342, options [nop,nop,TS val 615960447 ecr 615959947], length 0
13:23:34.719371 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 615960456 ecr 615959947], length 14
13:23:35.220106 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [.], ack 15, win 342, options [nop,nop,TS val 615960957 ecr 615960456], length 0
13:23:35.220188 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 615960957 ecr 615960456], length 0
13:23:35.720994 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 615961457 ecr 615960957], length 0
13:23:36.221025 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 615961957 ecr 615961457], length 0
Vidieť, že medzi klientom a serverom sa objavil očakávaný polsekundový lag. Oveľa zaujímavejšie sa správa systém, ak je lag väčší: jadro začína znovu posielať niektoré TCP pakety. Zmeníme oneskorenie na 1 sekundu a pozrieme sa na prenos (výstup klienta nebudem ukazovať, tam sú očakávané 4 sekundy v celkovej dobe trvania):
tc qdisc change dev lo root netem delay 1s
Dámp prenosu
13:29:07.709981 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [S], seq 283338334, win 43690, options [mss 65495,sackOK,TS val 616292946 ecr 0,nop,wscale 7], length 0
13:29:08.710018 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [S.], seq 3514208179, ack 283338335, win 43690, options [mss 65495,sackOK,TS val 616293946 ecr 616292946,nop,wscale 7], length 0
13:29:08.711094 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [S], seq 283338334, win 43690, options [mss 65495,sackOK,TS val 616293948 ecr 0,nop,wscale 7], length 0
13:29:09.710048 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 616294946 ecr 616293946], length 0
13:29:09.710152 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 616294947 ecr 616293946], length 5
13:29:09.711120 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [S.], seq 3514208179, ack 283338335, win 43690, options [mss 65495,sackOK,TS val 616294948 ecr 616292946,nop,wscale 7], length 0
13:29:10.710173 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [.], ack 6, win 342, options [nop,nop,TS val 616295947 ecr 616294947], length 0
13:29:10.711140 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 616295948 ecr 616293946], length 0
13:29:10.714782 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 616295951 ecr 616294947], length 14
13:29:11.714819 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 15, win 342, options [nop,nop,TS val 616296951 ecr 616295951], length 0
13:29:11.714893 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 616296951 ecr 616295951], length 0
13:29:12.715562 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 616297952 ecr 616296951], length 0
13:29:13.715596 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 616298952 ecr 616297952], length 0
Je zrejmé, že klient dvakrát poslal SYN paket a server dvakrát poslal SYN/ACK.
Okrem konštantnej hodnoty je možné pre oneskorenie nastaviť aj odchýlku, distribučnú funkciu a koreláciu (s hodnotou pre predchádzajúci paket). Robí sa to nasledovne:
tc qdisc change dev lo root netem delay 500ms 400ms 50 distribution normal
Tu sme nastavili oneskorenie v rozmedzí od 100 do 900 milisekúnd, hodnoty budú vyberané v súlade s normálnym rozdelením a bude 50-percentná korelácia s hodnotou oneskorenia pre predchádzajúci paket.
Mohli ste si všimnúť, že v prvej príkaze som použil add, a potom zmena. Hodnota týchto príkazov je zrejmá, preto len dodám, že je tu ešte del, ktorým sa dá odstrániť konfigurácia.
Strata paketov
Teraz sa pokúsime simulovať stratu paketov. Ako je zrejmé z dokumentácie, možno to dosiahnuť tromi spôsobmi: strata paketov náhodne s nejakou pravdepodobnosťou, použitie Markovovho reťazca s 2, 3 alebo 4 stavmi alebo použitie Elliott-Gilbertovho modelu. V článku preskúmam prvý (najjednoduchší a najzrejmejší) spôsob, zatiaľ čo o ostatných sa môžete dočítať. .
Vytvoríme stratu 50 % paketov s koreláciou 25 %:
tc qdisc add dev lo root netem loss 50% 25%
Žiaľ, tcpdump nám nebude schopná jasne ukázať stratu paketov, budeme len predpokladať, že to naozaj funguje. A overiť to nám pomôže zvýšený a nestabilný čas behu skriptu client.py (môže sa vykonať okamžite, alebo môže trvať 20 sekúnd), ako aj zvýšený počet retransmisných paketov:
[user@host ~]# netstat -s | grep retransmited; sleep 10; netstat -s | grep retransmited
17147 segmentov retransmited
17185 segmentov retransmited
Pridanie šumu do paketov
Okrem straty paketov môžeme simulovať aj ich poškodenie: na náhodnej pozícii paketu sa objaví šum. Urobíme poškodenie paketov s 50-percentnou pravdepodobnosťou a bez korelácie:
tc qdisc change dev lo root netem corrupt 50%
Spúšťame klientský skript (tam nie je nič zaujímavé, ale vykonal sa 2 sekundy), sledujeme prenos:
Dámp prenosu
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on lo, link-type EN10MB (Ethernet), capture size 262144 bytes
10:20:54.812434 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [S], seq 2023663770, win 43690, options [mss 65495,sackOK,TS val 1037001049 ecr 0,nop,wscale 7], length 0
10:20:54.812449 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [S.], seq 2104268044, ack 2023663771, win 43690, options [mss 65495,sackOK,TS val 1037001049 ecr 1037001049,nop,wscale 7], length 0
10:20:54.812458 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 1037001049 ecr 1037001049], length 0
10:20:54.812509 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1037001049 ecr 1037001049], length 5
10:20:55.013093 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1037001250 ecr 1037001049], length 5
10:20:55.013122 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [.], ack 6, win 342, options [nop,nop,TS val 1037001250 ecr 1037001250], length 0
10:20:55.014681 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 1037001251 ecr 1037001250], length 14
10:20:55.014745 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 15, win 340, options [nop,nop,TS val 1037001251 ecr 1037001251], length 0
10:20:55.014823 IP 127.0.0.1.43666 > 127.0.0.5.12345: Flags [F.], seq 2023663776, ack 2104268059, win 342, options [nop,nop,TS val 1037001251 ecr 1037001251], length 0
10:20:55.214088 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [P.], seq 1:15, ack 6, win 342, options [nop,unknown-65 0x0a3dcf62eb3d,[bad opt]>
10:20:55.416087 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 1037001653 ecr 1037001251], length 0
10:20:55.416804 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 1037001653 ecr 1037001653], length 0
10:20:55.416818 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 16, win 343, options [nop,nop,TS val 1037001653 ecr 1037001653], length 0
10:20:56.147086 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 1037002384 ecr 1037001653], length 0
10:20:56.147101 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 1037002384 ecr 1037001653], length 0
Je zrejmé, že niektoré balíky boli odoslané opakovane a existuje jeden balík s poškodenými metadátami: options [nop,unknown-65 0x0a3dcf62eb3d,[bad opt]>. Ale hlavné je, že všetko nakoniec fungovalo správne — TCP splnilo svoju úlohu.
Duplikácia balíkov
Čo ďalšie sa dá robiť pomocou netem? Например, сымитировать ситуацию, обратную потере пакетов, — дубликацию пакетов. Эта команда также принимает 2 аргумента: вероятность и корреляцию.
tc qdisc change dev lo root netem duplicate 50% 25%
Zmena poradia balíkov
Balíky je možné zamiešať, a to dvoma spôsobmi.
V prvom prípade sa časť balíkov odosiela okamžite, ostatné — so zadaným oneskorením. Príklad z dokumentácie:
tc qdisc change dev lo root netem delay 10ms reorder 25% 50%
S pravdepodobnosťou 25% (a koreláciou 50%) bude balík odoslaný okamžite, ostatné budú odoslané s oneskorením 10 millisekúnd.
Druhý spôsob — je, že každý N-tý balík sa odosiela okamžite s danou pravdepodobnosťou (a koreláciou), zatiaľ čo ostatné — s daným oneskorením. Príklad z dokumentácie:
tc qdisc change dev lo root netem delay 10ms reorder 25% 50% gap 5
Každý piaty balík s pravdepodobnosťou 25% bude odoslaný bez oneskorenia.
Zmena šírky pásma
Zvyčajne sa všade posiela k , ale pomocou netem je tiež možné zmeniť šírku pásma rozhrania:
tc qdisc change dev lo root netem rate 56kbit
Tento príkaz spôsobí, že posielanie bude localhost rovnaké mučivé ako surfovanie po internete cez dial-up modem. Okrem nastavenia bitovej rýchlosti je možné tiež emulovať model protokolu linkovej úrovne: nastaviť overhead pre balík, veľkosť bunky a overhead pre bunku. Napríklad, takto sa dá simulovať a bitová rýchlosť 56 kbit/s:
tc qdisc change dev lo root netem rate 56kbit 0 48 5
Simulujeme timeout pripojenia
Ďalším dôležitým bodom v testovacom pláne pri akceptácii softvéru — sú time-outy. Je to dôležité, pretože v distribuovaných systémoch, ak sa jeden zo služieb odpojí, ostatné by sa mali včas prepnúť na iné alebo vrátiť chybu klientovi, pri tom by nemali v žiadnom prípade len visieť a čakať na odpoveď alebo nadviazanie spojenia.
Existuje niekoľko spôsobov, ako to urobiť: napríklad, použiť mock, ktorý nič neodpovedá, alebo sa pripojiť k procesu pomocou debuggeru, v potrebnom mieste nastaviť breakpoint a zastaviť vykonávanie procesu (to je asi najzvrátenejší spôsob). Ale jedným z najzjavnejších je zablokovať porty alebo hostiteľov. S tým nám pomôže .
Na demonštráciu budeme blokovať port 12345 a spustiť náš klientský skript. Môžete zablokovať odchádzajúce pakety na tento port na odosielateľovi alebo prichádzajúce na prijímači. V mojich príkladoch budú blokované prichádzajúce pakety (používame chain INPUT a možnosť —dport). Takýmto paketom môžete vynaložiť DROP, REJECT alebo REJECT s TCP flagom RST, môžete použiť ICMP host unreachable (naozaj predvolené správanie je icmp-port-unreachable, a navyše je možnosť poslať odpoveď icmp-net-unreachable, icmp-proto-unreachable, icmp-net-prohibited a icmp-host-prohibited).
DROP
Pri existencii pravidla s DROP pakety jednoducho "zmiznú".
iptables -A INPUT -p tcp --dport 12345 -j DROP
Spustíme klienta a vidíme, že sa zasekáva na etape pripojenia k serveru. Sledujeme prenos:
Dámp prenosu
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on lo, link-type EN10MB (Ethernet), capture size 262144 bytes
08:28:20.213506 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203046450 ecr 0,nop,wscale 7], length 0
08:28:21.215086 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203047452 ecr 0,nop,wscale 7], length 0
08:28:23.219092 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203049456 ecr 0,nop,wscale 7], length 0
08:28:27.227087 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203053464 ecr 0,nop,wscale 7], length 0
08:28:35.235102 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203061472 ecr 0,nop,wscale 7], length 0
Vidíme, že klient posiela SYN pakety s exponenciálne rastúcim časovým limitom. Tu sme našli malú chybu v kliente: je potrebné použiť metódu settimeout(), aby sme obmedzili čas, počas ktorého sa klient pokúša pripojiť k serveru.
Ihneď odstraňujeme pravidlo:
iptables -D INPUT -p tcp --dport 12345 -j DROPMôžete odstrániť všetky pravidlá naraz:
iptables -F
Ak používate Docker a potrebujete zablokovať celý prenosový tok smerujúci na kontajner, môžete to urobiť nasledujúcim spôsobom:
iptables -I DOCKER-USER -p tcp -d CONTAINER_IP -j DROP
REJECT
Teraz pridajme podobné pravidlo, ale s REJECT:
iptables -A INPUT -p tcp --dport 12345 -j REJECT
Klient sa ukončuje po sekunde s chybou [Errno 111] Connection refused. Sledujeme ICMP prenos:
[user@host ~]# tcpdump -i lo -nn icmp
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on lo, link-type EN10MB (Ethernet), capture size 262144 bytes
08:45:32.871414 IP 127.0.0.1 > 127.0.0.1: ICMP 127.0.0.1 tcp port 12345 unreachable, length 68
08:45:33.873097 IP 127.0.0.1 > 127.0.0.1: ICMP 127.0.0.1 tcp port 12345 unreachable, length 68
Vidíme, že klient dostal dvakrát port unreachable a potom sa ukončil s chybou.
REJECT with tcp-reset
Skúsime pridať možnosť —reject-with tcp-reset:
iptables -A INPUT -p tcp --dport 12345 -j REJECT --reject-with tcp-reset
V tomto prípade klient okamžite dostane chybu, pretože na prvý dopyt obdržal RST paket:
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: podrobné výstupy sú potlačené, použite -v alebo -vv pre úplné dekódovanie protokolu
počúvanie na lo, typ spojenia EN10MB (Ethernet), veľkosť zachytenia 262144 bajtov
09:02:52.766175 IP 127.0.0.1.60658 > 127.0.0.1.12345: Flags [S], seq 1889460883, win 43690, options [mss 65495,sackOK,TS val 1205119003 ecr 0,nop,wscale 7], length 0
09:02:52.766184 IP 127.0.0.1.12345 > 127.0.0.1.60658: Flags [R.], seq 0, ack 1889460884, win 0, length 0
REJECT s icmp-host-unreachable
Skúsme ďalšiu možnosť použitia REJECT:
iptables -A INPUT -p tcp --dport 12345 -j REJECT --reject-with icmp-host-unreachable
Klient sa ukončuje po sekunde s chybou [Errno 113] Žiadna cesta k hostiteľovi, v ICMP trafiku vidíme ICMP host 127.0.0.1 je nedostupný.
Môžete si tiež vyskúšať ďalšie parametre REJECT, ale ja sa zastavím pri týchto 🙂
Imitujeme timeout požiadavky
Ďalšia situácia — keď sa klient dokáže pripojiť k serveru, ale nemôže mu poslať dopyt. Ako filtrovať pakety tak, aby filtrácia nezačala hneď? Ak sa pozrieme na traffic akejkoľvek komunikácie medzi klientom a serverom, môžeme si všimnúť, že pri nadviazaní spojenia sa používajú iba vlajky SYN a ACK, ale pri výmene údajov bude vo poslednom pakete dopytu nastavená vlajka PSH. Tá sa nastavuje automaticky, aby sa predišlo bufferovaniu. Túto informáciu môžeme využiť na vytvorenie filtra: ten bude prepúšťať všetky pakety, okrem tých, ktoré obsahujú vlajku PSH. Takto sa spojenie vytvorí, ale klient nebude schopný poslať údaje serveru.
DROP
Pre DROP bude príkaz vyzerať nasledovne:
iptables -A INPUT -p tcp --tcp-flags PSH PSH --dport 12345 -j DROP
Spúšťame klienta a sledujeme traffic:
Dámp prenosu
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: podrobné výstupy sú potlačené, použite -v alebo -vv pre úplné dekódovanie protokolu
počúvanie na lo, typ spojenia EN10MB (Ethernet), veľkosť zachytenia 262144 bajtov
10:02:47.549498 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [S], seq 2166014137, win 43690, options [mss 65495,sackOK,TS val 1208713786 ecr 0,nop,wscale 7], length 0
10:02:47.549510 IP 127.0.0.1.12345 > 127.0.0.1.49594: Flags [S.], seq 2341799088, ack 2166014138, win 43690, options [mss 65495,sackOK,TS val 1208713786 ecr 1208713786,nop,wscale 7], length 0
10:02:47.549520 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 1208713786 ecr 1208713786], length 0
10:02:47.549568 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208713786 ecr 1208713786], length 5
10:02:47.750084 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208713987 ecr 1208713786], length 5
10:02:47.951088 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208714188 ecr 1208713786], length 5
10:02:48.354089 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208714591 ecr 1208713786], length 5
Vidíme, že pripojenie je nadviazané a klient nemôže poslať dáta serveru.
REJECT
V tomto prípade bude správanie rovnaké: klient nebude môcť odoslať požiadavku, ale dostane ICMP 127.0.0.1 tcp port 12345 nedostupný a bude zvyšovať čas medzi opätovnými odoslaním požiadavky exponenciálne. Príkaz vyzerá takto:
iptables -A INPUT -p tcp --tcp-flags PSH PSH --dport 12345 -j REJECT
REJECT with tcp-reset
Príkaz vyzerá nasledovne:
iptables -A INPUT -p tcp --tcp-flags PSH PSH --dport 12345 -j REJECT --reject-with tcp-reset
Už vieme, že pri použití —reject-with tcp-reset klient dostane RST paket ako odpoveď, preto môžeme predpokladať správanie: prijatie RST paketu pri nadviazanom pripojení znamená neočakávané uzatvorenie soketu z druhej strany, takže klient by mal dostať Connection reset by peer. Spúšťame náš skript a overíme si to. A takto bude vyzerať prevádzka:
Dámp prenosu
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on lo, link-type EN10MB (Ethernet), capture size 262144 bytes
10:22:14.186269 IP 127.0.0.1.52536 > 127.0.0.1.12345: Flags [S], seq 2615137531, win 43690, options [mss 65495,sackOK,TS val 1209880423 ecr 0,nop,wscale 7], length 0
10:22:14.186284 IP 127.0.0.1.12345 > 127.0.0.1.52536: Flags [S.], seq 3999904809, ack 2615137532, win 43690, options [mss 65495,sackOK,TS val 1209880423 ecr 1209880423,nop,wscale 7], length 0
10:22:14.186293 IP 127.0.0.1.52536 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 1209880423 ecr 1209880423], length 0
10:22:14.186338 IP 127.0.0.1.52536 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1209880423 ecr 1209880423], length 5
10:22:14.186344 IP 127.0.0.1.12345 > 127.0.0.1.52536: Flags [R], seq 3999904810, win 0, length 0
REJECT s icmp-host-unreachable
Myslím, že už je všetkým zrejmé, ako bude príkaz vyzerať 🙂 Správanie klienta v takom prípade sa bude trochu líšiť od toho, ktoré bolo so zjednodušeným REJECT: klient nebude zvyšovať timeout medzi pokusmi o opätovné odoslanie paketu.
[user@host ~]# tcpdump -i lo -nn icmp
tcpdump: verbose output suppressed, use -v or -vv for full protocol decode
listening on lo, link-type EN10MB (Ethernet), capture size 262144 bytes
10:29:56.149202 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
10:29:56.349107 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
10:29:56.549117 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
10:29:56.750125 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
10:29:56.951130 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
10:29:57.152107 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
10:29:57.353115 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 nedostupný, length 65
Záver
Nie je nutné písať mock pre overenie interakcie služby so zaseknutým klientom alebo serverom, niekedy stačí použiť štandardné nástroje, ktoré sú k dispozícii v Linuxe.
Nástroje uvedené v článku mají ještě více možností, než bylo popsáno, takže si můžete vymyslet vlastní způsoby jejich využití. Osobně mi vždy stačí to, o čem jsem napsal (ve skutečnosti i méně). Pokud tyto nebo podobné nástroje používáte při testování ve své společnosti, prosím, napište, jak je konkrétně používáte. Pokud ne, doufám, že vaše software se stane kvalitnějším, pokud se rozhodnete testovat ho za podmínek sítových problémů uvedenými způsoby.
Zdroj: habr.com
