Rede IPeE tolerante a falhas usando ferramentas improvisadas

Olá. Isso significa que existe uma rede de 5 mil clientes. Recentemente surgiu um momento não muito agradável - no centro da rede temos um Brocade RX8 e ele começou a enviar muitos pacotes unicast desconhecidos, já que a rede é dividida em vlans - isso parcialmente não é um problema, MAS existem vlans especiais para endereços brancos, etc. e eles são esticados em todas as direções da rede. Então agora imagine um fluxo de entrada para o endereço de um cliente que não está estudando como estudante fronteiriço e esse fluxo voa em direção a um link de rádio para alguma (e todas) aldeia - o canal está entupido - os clientes estão irritados - tristeza...

O objetivo é transformar um bug em um recurso. Eu estava pensando na direção de q-in-q com um cliente vlan completo, mas todos os tipos de hardware como P3310, quando dot1q está habilitado, param de passar DHCP, eles também não sabem como selecionar qinq e muitas armadilhas de aquele tipo. O que é IP sem nome e como funciona? Muito resumidamente: endereço do gateway + rota na interface. Para nossa tarefa, precisamos: cortar o shaper, distribuir endereços aos clientes, adicionar rotas aos clientes através de determinadas interfaces. Como fazer tudo isso? Shaper - lisg, dhcp - db2dhcp em dois servidores independentes, dhcprelay roda nos servidores de acesso, ucarp também roda nos servidores de acesso - para backup. Mas como adicionar rotas? Você pode adicionar tudo antecipadamente com um script grande - mas isso não é verdade. Portanto, faremos uma muleta escrita por nós mesmos.

Após uma pesquisa minuciosa na Internet, encontrei uma maravilhosa biblioteca de alto nível para C++, que permite farejar o tráfego de maneira bonita. O algoritmo do programa que adiciona rotas é o seguinte - ouvimos as solicitações arp na interface, se tivermos um endereço na interface lo do servidor solicitado, então adicionamos uma rota através desta interface e adicionamos um arp estático grave neste ip - em geral, alguns copiar e colar, um pequeno adjetivo e pronto

Fontes do 'roteador'

#include <stdio.h>
#include <sys/types.h>
#include <ifaddrs.h>
#include <netinet/in.h>
#include <string.h>
#include <arpa/inet.h>

#include <tins/tins.h>
#include <map>
#include <iostream>
#include <functional>
#include <sstream>

using std::cout;
using std::endl;
using std::map;
using std::bind;
using std::string;
using std::stringstream;

using namespace Tins;

class arp_monitor {
public:
    void run(Sniffer &sniffer);
    void reroute();
    void makegws();
    string iface;
    map <string, string> gws;
private:
    bool callback(const PDU &pdu);
    map <string, string> route_map;
    map <string, string> mac_map;
    map <IPv4Address, HWAddress<6>> addresses;
};

void  arp_monitor::makegws() {
    struct ifaddrs *ifAddrStruct = NULL;
    struct ifaddrs *ifa = NULL;
    void *tmpAddrPtr = NULL;
    gws.clear();
    getifaddrs(&ifAddrStruct);
    for (ifa = ifAddrStruct; ifa != NULL; ifa = ifa->ifa_next) {
        if (!ifa->ifa_addr) {
            continue;
        }
        string ifName = ifa->ifa_name;
        if (ifName == "lo") {
            char addressBuffer[INET_ADDRSTRLEN];
            if (ifa->ifa_addr->sa_family == AF_INET) { // check it is IP4
                // is a valid IP4 Address
                tmpAddrPtr = &((struct sockaddr_in *) ifa->ifa_addr)->sin_addr;
                inet_ntop(AF_INET, tmpAddrPtr, addressBuffer, INET_ADDRSTRLEN);
            } else if (ifa->ifa_addr->sa_family == AF_INET6) { // check it is IP6
                // is a valid IP6 Address
                tmpAddrPtr = &((struct sockaddr_in6 *) ifa->ifa_addr)->sin6_addr;
                inet_ntop(AF_INET6, tmpAddrPtr, addressBuffer, INET6_ADDRSTRLEN);
            } else {
                continue;
            }
            gws[addressBuffer] = addressBuffer;
            cout << "GW " << addressBuffer << " is added" << endl;
        }
    }
    if (ifAddrStruct != NULL) freeifaddrs(ifAddrStruct);
}

void arp_monitor::run(Sniffer &sniffer) {
    cout << "RUNNED" << endl;
    sniffer.sniff_loop(
            bind(
                    &arp_monitor::callback,
                    this,
                    std::placeholders::_1
            )
    );
}

void arp_monitor::reroute() {
    cout << "REROUTING" << endl;
    map<string, string>::iterator it;
    for ( it = route_map.begin(); it != route_map.end(); it++ ) {
        if (this->gws.count(it->second) && !this->gws.count(it->second)) {
            string cmd = "ip route replace ";
            cmd += it->first;
            cmd += " dev " + this->iface;
            cmd += " src " + it->second;
            cmd += " proto static";
            cout << cmd << std::endl;
            cout << "REROUTE " << it->first << " SRC " << it->second << endl;
            system(cmd.c_str());
            cmd = "arp -s ";
            cmd += it->first;
            cmd += " ";
            cmd += mac_map[it->first];
            cout << cmd << endl;
            system(cmd.c_str());

        }
    }
    for ( it = gws.begin(); it != gws.end(); it++ ) {
	string cmd = "arping -U -s ";
	cmd += it->first;
	cmd += " -I ";
	cmd += this->iface;
	cmd += " -b -c 1 ";
	cmd += it->first;
        system(cmd.c_str());
    }
    cout << "REROUTED" << endl;
}

bool arp_monitor::callback(const PDU &pdu) {
    // Retrieve the ARP layer
    const ARP &arp = pdu.rfind_pdu<ARP>();

    if (arp.opcode() == ARP::REQUEST) {
	
        string target = arp.target_ip_addr().to_string();
        string sender = arp.sender_ip_addr().to_string();
        this->route_map[sender] = target;
        this->mac_map[sender] = arp.sender_hw_addr().to_string();
        cout << "save sender " << sender << ":" << this->mac_map[sender] << " want taregt " << target << endl;
        if (this->gws.count(target) && !this->gws.count(sender)) {
            string cmd = "ip route replace ";
            cmd += sender;
            cmd += " dev " + this->iface;
            cmd += " src " + target;
            cmd += " proto static";
//            cout << cmd << std::endl;
/*            cout << "ARP REQUEST FROM " << arp.sender_ip_addr()
                 << " for address " << arp.target_ip_addr()
                 << " sender hw address " << arp.sender_hw_addr() << std::endl
                 << " run cmd: " << cmd << endl;*/
            system(cmd.c_str());
            cmd = "arp -s ";
            cmd += arp.sender_ip_addr().to_string();
            cmd += " ";
            cmd += arp.sender_hw_addr().to_string();
            cout << cmd << endl;
            system(cmd.c_str());
        }
    }
    return true;
}

arp_monitor monitor;
void reroute(int signum) {
    monitor.makegws();
    monitor.reroute();
}

int main(int argc, char *argv[]) {
    string test;
    cout << sizeof(string) << endl;

    if (argc != 2) {
        cout << "Usage: " << *argv << " <interface>" << endl;
        return 1;
    }
    signal(SIGHUP, reroute);
    monitor.iface = argv[1];
    // Sniffer configuration
    SnifferConfiguration config;
    config.set_promisc_mode(true);
    config.set_filter("arp");

    monitor.makegws();

    try {
        // Sniff on the provided interface in promiscuous mode
        Sniffer sniffer(argv[1], config);

        // Only capture arp packets
        monitor.run(sniffer);
    }
    catch (std::exception &ex) {
        std::cerr << "Error: " << ex.what() << std::endl;
    }
}

script de instalação da libtins

#!/bin/bash

git clone https://github.com/mfontanini/libtins.git
cd libtins
mkdir build
cd build
cmake ../
make
make install
ldconfig

Comando para construir o binário

g++ main.cpp -o arp-rt -O3 -std=c++11 -lpthread -ltins

Como iniciá-lo?


start-stop-daemon --start --exec  /opt/ipoe/arp-routes/arp-rt -b -m -p /opt/ipoe/arp-routes/daemons/eth0.800.pid -- eth0.800

Sim - reconstruirá as tabelas com base no sinal HUP. Por que você não usou o netlink? É apenas preguiça e o Linux é um script em um script - então está tudo bem. Bem, rotas são rotas, o que vem a seguir? Em seguida, precisamos enviar para a fronteira as rotas que estão neste servidor - aqui, devido ao mesmo hardware desatualizado, tomamos o caminho de menor resistência - atribuímos essa tarefa ao BGP.

configuração bgpnome de anfitrião *******
senha *******
arquivo de log /var/log/bgp.log
!
# Número AC, endereços e redes são fictícios
roteador bgp 12345
ID do roteador bgp 1.2.3.4
redistribuir conectado
redistribuir estática
vizinho 1.2.3.1 remoto como 12345
vizinho 1.2.3.1 next-hop-self
vizinho 1.2.3.1 mapa de rotas nenhum em
vizinho 1.2.3.1 exportação do mapa de rotas
!
licença de exportação de lista de acesso 1.2.3.0/24
!
licença de exportação de mapa de rotas 10
correspondência de exportação de endereço IP
!
exportação de mapa de rotas negar 20

Vamos continuar. Para que o servidor responda às solicitações arp, você deve habilitar o proxy arp.


echo 1 > /proc/sys/net/ipv4/conf/eth0.800/proxy_arp

Vamos em frente - ucarpo. Nós mesmos escrevemos os scripts de lançamento desse milagre.

Exemplo de execução de um daemon


start-stop-daemon --start --exec  /usr/sbin/ucarp -b -m -p /opt/ipoe/ucarp-gen2/daemons/$iface.$vhid.$virtualaddr.pid -- --interface=eth0.800 --srcip=1.2.3.4 --vhid=1 --pass=carpasword --addr=10.10.10.1 --upscript=/opt/ipoe/ucarp-gen2/up.sh --downscript=/opt/ipoe/ucarp-gen2/down.sh -z -k 10 -P --xparam="10.10.10.0/24"

para cima.sh


#!/bin/bash

iface=$1
addr=$2
gw=$3

vlan=`echo $1 | sed "s/eth0.//"`


ip ad ad $addr/32 dev lo
ip ro add blackhole $gw
echo 1 > /proc/sys/net/ipv4/conf/$iface/proxy_arp

killall -9 dhcrelay
/etc/init.d/dhcrelay zap
/etc/init.d/dhcrelay start


killall -HUP arp-rt

para baixo.sh


#!/bin/bash

iface=$1
addr=$2
gw=$3

ip ad d $addr/32 dev lo
ip ro de blackhole $gw
echo 0 > /proc/sys/net/ipv4/conf/$iface/proxy_arp


killall -9 dhcrelay
/etc/init.d/dhcrelay zap
/etc/init.d/dhcrelay start

Para que o dhcprelay funcione em uma interface, ele precisa de um endereço. Portanto, nas interfaces que utilizamos adicionaremos endereços à esquerda - por exemplo 10.255.255.1/32, 10.255.255.2/32, etc. Não vou te dizer como configurar o relé - tudo é simples.

O que temos então? Backup de gateways, autoconfiguração de rotas, dhcp. Este é o conjunto mínimo - lisg também envolve tudo e já temos um modelador. Por que tudo é tão longo e complicado? Não é mais fácil pegar o accel-pppd e usar o pppoe completamente? Não, não é mais simples - as pessoas dificilmente conseguem colocar um patchcord em um roteador, sem falar no pppoe. accel-ppp é uma coisa legal - mas não funcionou para nós - tem muitos erros no código - ele desmorona, corta torto, e o mais triste é que se iluminou - então as pessoas precisam recarregar tudo - os telefones estão vermelhos - não funcionou de jeito nenhum. Qual é a vantagem de usar ucarp em vez de keepalived? Sim, em tudo - são 100 gateways, keepalived e um erro de configuração - nem tudo funciona. 1 gateway não funciona com ucarp. Em relação à segurança, dizem que os esquerdistas vão cadastrar endereços para si e vão utilizá-los no compartilhamento - para controlar esse momento, configuramos dhcp-snooping + source-guard + inspeção arp em todos os switches/olts/bases. Se o cliente não tiver dhpc, mas estático - lista de acesso na porta.

Por que tudo isso foi feito? Para destruir o tráfego indesejado. Agora cada switch tem sua própria vlan e o unicast desconhecido não assusta mais, pois só precisa ir para uma porta e não para todas... Bom, os efeitos colaterais são configuração padronizada do equipamento, maior eficiência na alocação do espaço de endereçamento .

Como configurar o lisg é um tópico separado. Links para bibliotecas estão anexados. Talvez o que foi dito acima ajude alguém a alcançar seus objetivos. A versão 6 ainda não está sendo implementada em nossa rede - mas haverá um problema - há planos para reescrever o lisg para a versão 6, e será necessário corrigir o programa que adiciona rotas.

Linux ISG
DB2DHCP
Libtins

Fonte: habr.com

Adicionar um comentário