Ciao a tutti, mi chiamo Sasha e gestisco il test del backend in FunCorp. Abbiamo, come molti, un'architettura orientata ai servizi. Da un lato, questo semplifica il lavoro, poiché ogni servizio è più facile da testare singolarmente, ma dall'altro si presenta la necessità di testare l'interazione tra i servizi, che spesso avviene attraverso la rete.
In questo articolo parlerò di due utilità che possono aiutare a verificare scenari di base, che descrivono il funzionamento dell'applicazione in caso di problemi di rete.
Simuliamo problemi di rete
Di solito, il software viene testato su server di prova con una buona connessione internet. In circostanze difficili in produzione, le cose potrebbero non essere così fluide, quindi a volte è necessario verificare i programmi in condizioni di connessione scadente. In Linux, per simulare tali condizioni, l'utility tc.
tc (abbreviazione di Traffic Control) consente di configurare la trasmissione dei pacchetti di rete nel sistema. Questa utility ha molte funzionalità, di cui è possibile leggere ulteriormente . Qui tratterò solo alcune di esse: siamo interessati alla programmazione del traffico, per la quale utilizziamo qdisc, e poiché dobbiamo emulare una rete instabile, utilizzeremo il qdisc senza classe .
Avvieremo un server echo sul server (io per questo ho usato ):
ncat -l 127.0.0.1 12345 -k -c 'xargs -n1 -i echo "Response: {}"'
Per visualizzare in dettaglio tutti i timestamp in ogni passaggio dell'interazione tra client e server, ho scritto un semplice script in Python che invia una richiesta Test al nostro server echo.
Codice sorgente del client
#!/bin/python
import socket
import time
HOST = '127.0.0.1'
PORT = 12345
BUFFER_SIZE = 1024
MESSAGE = "Testn"
s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
t1 = time.time()
print "[time before connection: %.5f]" % t1
s.connect((HOST, PORT))
print "[time after connection, before sending: %.5f]" % time.time()
s.send(MESSAGE)
print "[time after sending, before receiving: %.5f]" % time.time()
data = s.recv(BUFFER_SIZE)
print "[time after receiving, before closing: %.5f]" % time.time()
s.close()
t2 = time.time()
print "[time after closing: %.5f]" % t2
print "[total duration: %.5f]" % (t2 - t1)
print data
Avviamolo e diamo un'occhiata al traffico sull'interfaccia lo e sulla porta 12345:
[user@host ~]# python client.py
[tempo prima della connessione: 1578652979.44837]
[tempo dopo la connessione, prima dell'invio: 1578652979.44889]
[tempo dopo l'invio, prima della ricezione: 1578652979.44894]
[tempo dopo la ricezione, prima della chiusura: 1578652979.45922]
[tempo dopo la chiusura: 1578652979.45928]
[durata totale: 0.01091]
Response: Test
Dump del traffico
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: output dettagliato sospeso, usa -v o -vv per decodifica completa del protocollo
in ascolto su lo, tipo di collegamento EN10MB (Ethernet), dimensione di cattura 262144 byte
10:42:59.448601 IP 127.0.0.1.54054 > 127.0.0.1.12345: Flags [S], seq 3383332866, win 43690, options [mss 65495,sackOK,TS val 606325685 ecr 0,nop,wscale 7], length 0
10:42:59.448612 IP 127.0.0.1.12345 > 127.0.0.1.54054: Flags [S.], seq 2584700178, ack 3383332867, win 43690, options [mss 65495,sackOK,TS val 606325685 ecr 606325685,nop,wscale 7], length 0
10:42:59.448622 IP 127.0.0.1.54054 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 606325685 ecr 606325685], length 0
10:42:59.448923 IP 127.0.0.1.54054 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 606325685 ecr 606325685], length 5
10:42:59.448930 IP 127.0.0.1.12345 > 127.0.0.1.54054: Flags [.], ack 6, win 342, options [nop,nop,TS val 606325685 ecr 606325685], length 0
10:42:59.459118 IP 127.0.0.1.12345 > 127.0.0.1.54054: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 606325696 ecr 606325685], length 14
10:42:59.459213 IP 127.0.0.1.54054 > 127.0.0.1.12345: Flags [.], ack 15, win 342, options [nop,nop,TS val 606325696 ecr 606325696], length 0
10:42:59.459268 IP 127.0.0.1.54054 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 606325696 ecr 606325696], length 0
10:42:59.460184 IP 127.0.0.1.12345 > 127.0.0.1.54054: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 606325697 ecr 606325696], length 0
10:42:59.460196 IP 127.0.0.1.54054 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 606325697 ecr 606325697], length 0
È tutto standard: handshake a tre vie, PSH/ACK e ACK in risposta due volte — è il intercambio di richieste e risposte tra client e server, e due volte FIN/ACK e ACK — chiusura della connessione.
Ritardo dei pacchetti
Ora impostiamo un ritardo di 500 millisecondi:
tc qdisc add dev lo root netem delay 500ms
Avviamo il client e vediamo che ora lo script viene eseguito per 2 secondi:
[user@host ~]# ./client.py
[time before connection: 1578662612.71044]
[time after connection, before sending: 1578662613.71059]
[time after sending, before receiving: 1578662613.71065]
[time after receiving, before closing: 1578662614.72011]
[time after closing: 1578662614.72019]
[total duration: 2.00974]
Response: Test
Cosa c'è nel traffico? Diamo un'occhiata:
Dump del traffico
13:23:33.210520 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [S], seq 1720950927, win 43690, options [mss 65495,sackOK,TS val 615958947 ecr 0,nop,wscale 7], length 0
13:23:33.710554 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [S.], seq 1801168125, ack 1720950928, win 43690, options [mss 65495,sackOK,TS val 615959447 ecr 615958947,nop,wscale 7], length 0
13:23:34.210590 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 615959947 ecr 615959447], length 0
13:23:34.210657 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 615959947 ecr 615959447], length 5
13:23:34.710680 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [.], ack 6, win 342, options [nop,nop,TS val 615960447 ecr 615959947], length 0
13:23:34.719371 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 615960456 ecr 615959947], length 14
13:23:35.220106 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [.], ack 15, win 342, options [nop,nop,TS val 615960957 ecr 615960456], length 0
13:23:35.220188 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 615960957 ecr 615960456], length 0
13:23:35.720994 IP 127.0.0.1.12345 > 127.0.0.1.58694: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 615961457 ecr 615960957], length 0
13:23:36.221025 IP 127.0.0.1.58694 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 615961957 ecr 615961457], length 0
Si può notare che nell'interazione tra il client e il server è comparso un ritardo atteso di mezzo secondo. È molto più interessante vedere come si comporta il sistema se il ritardo aumenta: il kernel inizia a rinviare alcuni pacchetti TCP. Cambiamo il ritardo a 1 secondo e osserviamo il traffico (non mostrerò l'output del client, lì ci sono attesi 4 secondi di durata totale):
tc qdisc change dev lo root netem delay 1s
Dump del traffico
13:29:07.709981 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [S], seq 283338334, win 43690, options [mss 65495,sackOK,TS val 616292946 ecr 0,nop,wscale 7], length 0
13:29:08.710018 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [S.], seq 3514208179, ack 283338335, win 43690, options [mss 65495,sackOK,TS val 616293946 ecr 616292946,nop,wscale 7], length 0
13:29:08.711094 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [S], seq 283338334, win 43690, options [mss 65495,sackOK,TS val 616293948 ecr 0,nop,wscale 7], length 0
13:29:09.710048 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 616294946 ecr 616293946], length 0
13:29:09.710152 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 616294947 ecr 616293946], length 5
13:29:09.711120 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [S.], seq 3514208179, ack 283338335, win 43690, options [mss 65495,sackOK,TS val 616294948 ecr 616292946,nop,wscale 7], length 0
13:29:10.710173 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [.], ack 6, win 342, options [nop,nop,TS val 616295947 ecr 616294947], length 0
13:29:10.711140 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 616295948 ecr 616293946], length 0
13:29:10.714782 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 616295951 ecr 616294947], length 14
13:29:11.714819 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 15, win 342, options [nop,nop,TS val 616296951 ecr 616295951], length 0
13:29:11.714893 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 616296951 ecr 616295951], length 0
13:29:12.715562 IP 127.0.0.1.12345 > 127.0.0.1.39306: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 616297952 ecr 616296951], length 0
13:29:13.715596 IP 127.0.0.1.39306 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 616298952 ecr 616297952], length 0
È chiaro che il cliente ha inviato due volte il pacchetto SYN e il server ha risposto due volte con SYN/ACK.
Oltre al valore costante, per il ritardo è possibile impostare una deviazione, una funzione di distribuzione e una correlazione (con il valore per il pacchetto precedente). Questo si fa nel seguente modo:
tc qdisc change dev lo root netem delay 500ms 400ms 50 distribution normal
Qui abbiamo impostato un ritardo compreso tra 100 e 900 millisecondi, i valori saranno scelti in base a una distribuzione normale e ci sarà una correlazione del 50% con il valore del ritardo per il pacchetto precedente.
Avrete notato che nel primo comando ho usato add, e poi change. Il significato di questi comandi è ovvio, quindi aggiungo solo che c'è anche del, con cui è possibile rimuovere la configurazione.
Perdita di pacchetti
Ora proviamo a simulare una perdita di pacchetti. Come indicato nella documentazione, è possibile farlo in ben tre modi: perdere pacchetti casualmente con una certa probabilità, utilizzare una catena di Markov con 2, 3 o 4 stati per calcolare la perdita di pacchetti, oppure utilizzare il modello di Elliott-Gilbert. In questo articolo esaminerò il primo metodo (quello più semplice e ovvio), mentre per gli altri potete leggere. .
Genereremo una perdita del 50% dei pacchetti con una correlazione del 25%:
tc qdisc add dev lo root netem loss 50% 25%
Sfortunatamente, tcpdump non potrà mostrarci chiaramente la perdita di pacchetti, dovremo solo supporre che funzioni effettivamente. L'aumento e l'instabilità del tempo di esecuzione dello script ci aiuterà a verificarlo client.py (può essere eseguito istantaneamente, ma anche in 20 secondi), così come l'aumento del numero di pacchetti ritrasmessi:
[user@host ~]# netstat -s | grep retransmited; sleep 10; netstat -s | grep retransmited
17147 segmenti ritrasmessi
17185 segmenti ritrasmessi
Aggiunta di rumore ai pacchetti
Oltre alla perdita di pacchetti, possiamo simulare il loro danneggiamento: apparirà rumore in una posizione casuale del pacchetto. Causiamo un danneggiamento dei pacchetti con una probabilità del 50% e senza correlazione:
tc qdisc change dev lo root netem corrupt 50%
Avviamo lo script del cliente (non c'è nulla di interessante, ma è stato eseguito per 2 secondi), controlliamo il traffico:
Dump del traffico
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: output dettagliato soppresso, usa -v o -vv per una decodifica completa del protocollo
in ascolto su lo, tipo di collegamento EN10MB (Ethernet), dimensione di cattura 262144 bytes
10:20:54.812434 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [S], seq 2023663770, win 43690, options [mss 65495,sackOK,TS val 1037001049 ecr 0,nop,wscale 7], lunghezza 0
10:20:54.812449 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [S.], seq 2104268044, ack 2023663771, win 43690, options [mss 65495,sackOK,TS val 1037001049 ecr 1037001049,nop,wscale 7], lunghezza 0
10:20:54.812458 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 1037001049 ecr 1037001049], lunghezza 0
10:20:54.812509 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1037001049 ecr 1037001049], lunghezza 5
10:20:55.013093 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1037001250 ecr 1037001049], lunghezza 5
10:20:55.013122 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [.], ack 6, win 342, options [nop,nop,TS val 1037001250 ecr 1037001250], lunghezza 0
10:20:55.014681 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [P.], seq 1:15, ack 6, win 342, options [nop,nop,TS val 1037001251 ecr 1037001250], lunghezza 14
10:20:55.014745 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 15, win 340, options [nop,nop,TS val 1037001251 ecr 1037001251], lunghezza 0
10:20:55.014823 IP 127.0.0.1.43666 > 127.0.0.5.12345: Flags [F.], seq 2023663776, ack 2104268059, win 342, options [nop,nop,TS val 1037001251 ecr 1037001251], lunghezza 0
10:20:55.214088 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [P.], seq 1:15, ack 6, win 342, options [nop,unknown-65 0x0a3dcf62eb3d,[bad opt]
10:20:55.416087 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [F.], seq 6, ack 15, win 342, options [nop,nop,TS val 1037001653 ecr 1037001251], lunghezza 0
10:20:55.416804 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 1037001653 ecr 1037001653], lunghezza 0
10:20:55.416818 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 16, win 343, options [nop,nop,TS val 1037001653 ecr 1037001653], lunghezza 0
10:20:56.147086 IP 127.0.0.1.12345 > 127.0.0.1.43666: Flags [F.], seq 15, ack 7, win 342, options [nop,nop,TS val 1037002384 ecr 1037001653], lunghezza 0
10:20:56.147101 IP 127.0.0.1.43666 > 127.0.0.1.12345: Flags [.], ack 16, win 342, options [nop,nop,TS val 1037002384 ecr 1037001653], lunghezza 0
È evidente che alcuni pacchetti sono stati inviati di nuovo e c'è un pacchetto con metadati danneggiati: options [nop,unknown-65 0x0a3dcf62eb3d,[bad opt]>. Ma la cosa principale è che alla fine tutto ha funzionato correttamente: TCP ha svolto il suo compito.
Duplicazione dei pacchetti
Cosa altro si può fare con netem? Например, сымитировать ситуацию, обратную потере пакетов, — дубликацию пакетов. Эта команда также принимает 2 аргумента: вероятность и корреляцию.
tc qdisc change dev lo root netem duplicate 50% 25%
Modifica dell'ordine dei pacchetti
È possibile mescolare i pacchetti in due modi.
Nel primo, parte dei pacchetti viene inviata immediatamente, gli altri con un ritardo specificato. Ecco un esempio dalla documentazione:
tc qdisc change dev lo root netem delay 10ms reorder 25% 50%
Con una probabilità del 25% (e correlazione del 50%), il pacchetto verrà inviato immediatamente, gli altri verranno inviati con un ritardo di 10 millisecondi.
Il secondo modo è quello in cui ogni pacchetto N-esimo viene inviato immediatamente con una probabilità (e correlazione) specificata, mentre gli altri con un ritardo specificato. Ecco un esempio dalla documentazione:
tc qdisc change dev lo root netem delay 10ms reorder 25% 50% gap 5
Ogni quinto pacchetto con una probabilità del 25% verrà inviato senza ritardo.
Modifica della larghezza di banda
Di solito, si fa riferimento a , ma anche con netem è possibile modificare la larghezza di banda dell'interfaccia:
tc qdisc change dev lo root netem rate 56kbit
Questo comando eseguirà delle operazioni localhost sono altrettanto dolorosi quanto navigare in internet tramite un modem dial-up. Oltre a impostare il bitrate, è possibile anche emulare un modello di protocollo di livello di collegamento: definire l'overhead per pacchetto, la dimensione della cella e l'overhead per la cella. Ad esempio, in questo modo è possibile simulare e bitrate 56 kbit/sec.:
tc qdisc change dev lo root netem rate 56kbit 0 48 5
Simuliamo il timeout di connessione
Un altro punto importante nel piano di test durante l'accettazione del software sono i timeout. Questo è significativo perché, nei sistemi distribuiti, quando uno dei servizi si disconnette, gli altri devono riuscire a commutare prontamente sugli altri o restituire un errore al cliente, senza mai bloccarsi in attesa di una risposta o di una connessione.
Esistono diversi modi per farlo: ad esempio, utilizzare un mock che non risponde affatto, o collegarsi a un processo con un debugger, impostare un breakpoint nel punto desiderato e fermare l'esecuzione del processo (questo è probabilmente il modo più tortuoso). Ma uno dei più ovvi è bloccare le porte o gli host. In questo ci aiuterà .
Per la dimostrazione, applicheremo un firewall sulla porta 12345 e avvieremo il nostro script client. Possiamo applicare un firewall sui pacchetti in uscita su questa porta dal mittente o in ingresso sul ricevitore. Nei miei esempi, verranno bloccati i pacchetti in ingresso (utilizziamo la catena INPUT e l'opzione —dport). A questi pacchetti è possibile applicare DROP, REJECT o REJECT con il flag TCP RST; si può anche utilizzare ICMP host unreachable (in realtà, il comportamento predefinito è icmp-port-unreachable, e c'è anche la possibilità di rispondere con icmp-net-unreachable, icmp-proto-unreachable, icmp-net-prohibited e icmp-host-prohibited).
ELIMINA
Se esiste una regola con DROP, i pacchetti scompariranno semplicemente.
iptables -A INPUT -p tcp --dport 12345 -j DROP
Avviamo il client e vediamo che si blocca durante la connessione al server. Controlliamo il traffico:
Dump del traffico
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: output verboso soppresso, usa -v o -vv per la decodifica completa del protocollo
in ascolto su lo, tipo di collegamento EN10MB (Ethernet), dimensione di cattura 262144 byte
08:28:20.213506 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203046450 ecr 0,nop,wscale 7], length 0
08:28:21.215086 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203047452 ecr 0,nop,wscale 7], length 0
08:28:23.219092 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203049456 ecr 0,nop,wscale 7], length 0
08:28:27.227087 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203053464 ecr 0,nop,wscale 7], length 0
08:28:35.235102 IP 127.0.0.1.32856 > 127.0.0.1.12345: Flags [S], seq 3019694933, win 43690, options [mss 65495,sackOK,TS val 1203061472 ecr 0,nop,wscale 7], length 0
È evidente che il client sta inviando pacchetti SYN con un timeout che aumenta esponenzialmente. Ecco che abbiamo trovato un piccolo bug nel client: è necessario utilizzare il metodo settimeout(), per limitare il tempo in cui il client tenterà di connettersi al server.
Eliminiamo subito la regola:
iptables -D INPUT -p tcp --dport 12345 -j DROPPuoi eliminare subito tutte le regole:
iptables -F
Se stai usando Docker e hai bisogno di bloccare tutto il traffico verso il contenitore, puoi farlo in questo modo:
iptables -I DOCKER-USER -p tcp -d CONTAINER_IP -j DROP
REJECT
Ora aggiungiamo una regola analoga, ma con REJECT:
iptables -A INPUT -p tcp --dport 12345 -j REJECT
Il client si chiude dopo un secondo con un errore [Errno 111] Connessione rifiutata. Vediamo il traffico ICMP:
[user@host ~]# tcpdump -i lo -nn icmp
tcpdump: output dettagliato sottointeso, usa -v o -vv per una decodifica completa del protocollo
in ascolto su lo, tipo di collegamento EN10MB (Ethernet), dimensione di cattura 262144 byte
08:45:32.871414 IP 127.0.0.1 > 127.0.0.1: ICMP 127.0.0.1 tcp port 12345 non raggiungibile, lunghezza 68
08:45:33.873097 IP 127.0.0.1 > 127.0.0.1: ICMP 127.0.0.1 tcp port 12345 non raggiungibile, lunghezza 68
Si può vedere che il client ha ricevuto due volte port non raggiungibile e dopo questo si è chiuso con un errore.
REJECT con tcp-reset
Proviamo ad aggiungere l'opzione —reject-with tcp-reset:
iptables -A INPUT -p tcp --dport 12345 -j REJECT --reject-with tcp-reset
In questo caso il client esce immediatamente con un errore, poiché alla prima richiesta ha ricevuto un pacchetto RST:
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: output dettagliato sottointeso, usa -v o -vv per una decodifica completa del protocollo
in ascolto su lo, tipo di collegamento EN10MB (Ethernet), dimensione di cattura 262144 byte
09:02:52.766175 IP 127.0.0.1.60658 > 127.0.0.1.12345: Flags [S], seq 1889460883, win 43690, opzioni [mss 65495,sackOK,TS val 1205119003 ecr 0,nop,wscale 7], lunghezza 0
09:02:52.766184 IP 127.0.0.1.12345 > 127.0.0.1.60658: Flags [R.], seq 0, ack 1889460884, win 0, lunghezza 0
REJECT con icmp-host-non-raggiungibile
Proviamo un'altra variante nell'uso di REJECT:
iptables -A INPUT -p tcp --dport 12345 -j REJECT --reject-with icmp-host-unreachable
Il client si chiude dopo un secondo con un errore [Errno 113] Nessuna rotta per l'host, nel traffico ICMP vediamo ICMP host 127.0.0.1 non raggiungibile.
Puoi anche provare gli altri parametri REJECT, ma mi fermerò su questi 🙂
Simuliamo un timeout della richiesta
Un'altra situazione è quando il client riesce a connettersi al server, ma non può inviargli una richiesta. Come filtrare i pacchetti in modo che la filtrazione inizi apparentemente non subito? Se osserviamo il traffico di qualsiasi comunicazione tra client e server, possiamo notare che durante l'instaurazione della connessione vengono utilizzati solo i flag SYN e ACK, mentre durante lo scambio di dati nell'ultimo pacchetto di richiesta ci sarà il flag PSH. Questo viene impostato automaticamente per evitare la bufferizzazione. Possiamo utilizzare queste informazioni per creare un filtro: esso permetterà il passaggio di tutti i pacchetti tranne quelli che contengono il flag PSH. In questo modo, la connessione verrà stabilita, ma il client non sarà in grado di inviare dati al server.
ELIMINA
Per DROP, il comando apparirà in questo modo:
iptables -A INPUT -p tcp --tcp-flags PSH PSH --dport 12345 -j DROP
Avviamo il client e osserviamo il traffico:
Dump del traffico
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: output dettagliato sopresso, usa -v o -vv per una decodifica completa del protocollo
in ascolto su lo, tipo link EN10MB (Ethernet), dimensione cattura 262144 byte
10:02:47.549498 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [S], seq 2166014137, win 43690, options [mss 65495,sackOK,TS val 1208713786 ecr 0,nop,wscale 7], lunghezza 0
10:02:47.549510 IP 127.0.0.1.12345 > 127.0.0.1.49594: Flags [S.], seq 2341799088, ack 2166014138, win 43690, options [mss 65495,sackOK,TS val 1208713786 ecr 1208713786,nop,wscale 7], lunghezza 0
10:02:47.549520 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 1208713786 ecr 1208713786], lunghezza 0
10:02:47.549568 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208713786 ecr 1208713786], lunghezza 5
10:02:47.750084 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208713987 ecr 1208713786], lunghezza 5
10:02:47.951088 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208714188 ecr 1208713786], lunghezza 5
10:02:48.354089 IP 127.0.0.1.49594 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1208714591 ecr 1208713786], lunghezza 5
Possiamo vedere che la connessione è stabilita e il client non può inviare dati al server.
REJECT
In questo caso, il comportamento sarà lo stesso: il client non sarà in grado di inviare una richiesta, ma continuerà a ricevere ICMP 127.0.0.1 porta tcp 12345 irraggiungibile e aumentare il tempo tra i tentativi di invio della richiesta esponenzialmente. Il comando è il seguente:
iptables -A INPUT -p tcp --tcp-flags PSH PSH --dport 12345 -j REJECT
REJECT con tcp-reset
Il comando appare come segue:
iptables -A INPUT -p tcp --tcp-flags PSH PSH --dport 12345 -j REJECT --reject-with tcp-reset
Sappiamo già che quando viene utilizzato —reject-with tcp-reset il client riceverà un pacchetto RST in risposta, quindi possiamo prevedere il comportamento: ricevere un pacchetto RST su una connessione stabilita significa che la socket è stata chiusa inaspettatamente dall'altro lato, il che implica che il client deve ricevere Connection reset by peer. Eseguiamo il nostro script e verifichiamo. Ecco come apparirà il traffico:
Dump del traffico
[user@host ~]# tcpdump -i lo -nn port 12345
tcpdump: output verboso soppresso, usa -v o -vv per una decodifica completa del protocollo
ascoltando su lo, tipo link EN10MB (Ethernet), dimensione cattura 262144 byte
10:22:14.186269 IP 127.0.0.1.52536 > 127.0.0.1.12345: Flags [S], seq 2615137531, win 43690, options [mss 65495,sackOK,TS val 1209880423 ecr 0,nop,wscale 7], length 0
10:22:14.186284 IP 127.0.0.1.12345 > 127.0.0.1.52536: Flags [S.], seq 3999904809, ack 2615137532, win 43690, options [mss 65495,sackOK,TS val 1209880423 ecr 1209880423,nop,wscale 7], length 0
10:22:14.186293 IP 127.0.0.1.52536 > 127.0.0.1.12345: Flags [.], ack 1, win 342, options [nop,nop,TS val 1209880423 ecr 1209880423], length 0
10:22:14.186338 IP 127.0.0.1.52536 > 127.0.0.1.12345: Flags [P.], seq 1:6, ack 1, win 342, options [nop,nop,TS val 1209880423 ecr 1209880423], length 5
10:22:14.186344 IP 127.0.0.1.12345 > 127.0.0.1.52536: Flags [R], seq 3999904810, win 0, length 0
REJECT con icmp-host-non-raggiungibile
Credo sia ormai chiaro a tutti come apparirà il team 🙂 Il comportamento del cliente, in questo caso, sarà un po' diverso rispetto a quanto avveniva con un semplice REJECT: il cliente non aumenterà il timeout tra i tentativi di reinvio del pacchetto.
[user@host ~]# tcpdump -i lo -nn icmp
tcpdump: output dettagliato disattivato, usa -v o -vv per la decodifica completa del protocollo
ascoltando su lo, tipo di collegamento EN10MB (Ethernet), dimensione cattura 262144 byte
10:29:56.149202 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
10:29:56.349107 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
10:29:56.549117 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
10:29:56.750125 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
10:29:56.951130 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
10:29:57.152107 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
10:29:57.353115 IP 127.0.0.1 > 127.0.0.1: ICMP host 127.0.0.1 irraggiungibile, lunghezza 65
Risultato
Non è necessario scrivere un mock per testare l'interazione del servizio con un cliente o server bloccato, a volte è sufficiente utilizzare le utilità standard disponibili in Linux.
Gli strumenti esaminati nell'articolo offrono molte più funzionalità rispetto a quelle descritte, quindi puoi inventare le tue varianti di utilizzo. Personalmente, trovo sempre sufficiente ciò di cui ho scritto (in realtà anche meno). Se utilizzi questi o strumenti simili nei test nella tua azienda, ti prego di farmi sapere come esattamente. Se non lo fai, spero che il tuo software migliori se decidi di testarlo in condizioni di rete problematiche come quelle proposte.
Fonte: habr.com
