Отказоустойчива IPeE мрежа от подръчни средства

Здравейте. Има мрежа от 5000 клиенти. Неотдавна се появи неприятен момент — в центъра на мрежата имаме Brocade RX8, който започна да изпраща много unknown-unicast пакети, тъй като мрежата е разделена на VLAN — отчасти това не е проблем, НО има специални VLAN за бели адреси и т.н., които са разпределени във всички направления на мрежата. Представете си входящия поток на адреса на клиента, който не се учи от бордера, и този поток тръгва към радио линка на някое (или на всичките) село — каналът е зает — клиентите са недоволни — тъга…

Задачата е — да превърнем проблема в предимство. Мислех в посока q-in-q с пълен клиент-VLAN, но различни устройства като P3310 спират да пропускат DHCP при включване на dot1q, освен това не могат да правят селективно qinq и има много подводни камъни в този смисъл. Какво е ip-unnumbered и как работи? Вкратце — адрес на шлюза + маршрут на интерфейса. За нашата задача ни трябва: да режем шейпера, да раздаваме адреси на клиентите, да добавяме маршрути за клиентите чрез определени интерфейси. С какво да го направим? Шейпер — lisg, dhcp — db2dhcp на два независими сървъра, на сървърите за достъп работи dhcprelay, също така на сървърите за достъп работи ucarp — за бекъп. А как да добавим маршрути? Може с голям скрипт предварително да добавим всичко — но това не е истинско решение. Значи ще изградим самостоятелен хаком.

Основно, след като прерових интернет, намерих страхотна високоуровнева библиотека за C++, която позволява красиво засичане на трафика. Алгоритъмът на програмата, добавяща маршрути, е следният — слушаме ARP запитвания на интерфейса, ако на нашия сървър има адрес на интерфейса lo, който се запитва, добавяме маршрут през този интерфейс и добавяме статична ARP запис на този IP — в общи линии, малко копипейст, малко наш човек и готово.

Източниците на 'маршрутчика'

#include <stdio.h>
#include <sys/types.h>
#include <ifaddrs.h>
#include <netinet/in.h>
#include <string.h>
#include <arpa/inet.h>

#include <tins/tins.h>
#include <map>
#include <iostream>
#include <functional>
#include <sstream>

using std::cout;
using std::endl;
using std::map;
using std::bind;
using std::string;
using std::stringstream;

using namespace Tins;

class arp_monitor {
public:
    void run(Sniffer &sniffer);
    void reroute();
    void makegws();
    string iface;
    map <string, string> gws;
private:
    bool callback(const PDU &pdu);
    map <string, string> route_map;
    map <string, string> mac_map;
    map <IPv4Address, HWAddress<6>> addresses;
};

void  arp_monitor::makegws() {
    struct ifaddrs *ifAddrStruct = NULL;
    struct ifaddrs *ifa = NULL;
    void *tmpAddrPtr = NULL;
    gws.clear();
    getifaddrs(&ifAddrStruct);
    for (ifa = ifAddrStruct; ifa != NULL; ifa = ifa->ifa_next) {
        if (!ifa->ifa_addr) {
            continue;
        }
        string ifName = ifa->ifa_name;
        if (ifName == "lo") {
            char addressBuffer[INET_ADDRSTRLEN];
            if (ifa->ifa_addr->sa_family == AF_INET) { // check it is IP4
                // is a valid IP4 Address
                tmpAddrPtr = &((struct sockaddr_in *) ifa->ifa_addr)->sin_addr;
                inet_ntop(AF_INET, tmpAddrPtr, addressBuffer, INET_ADDRSTRLEN);
            } else if (ifa->ifa_addr->sa_family == AF_INET6) { // check it is IP6
                // is a valid IP6 Address
                tmpAddrPtr = &((struct sockaddr_in6 *) ifa->ifa_addr)->sin6_addr;
                inet_ntop(AF_INET6, tmpAddrPtr, addressBuffer, INET6_ADDRSTRLEN);
            } else {
                continue;
            }
            gws[addressBuffer] = addressBuffer;
            cout << "GW " << addressBuffer << " is added" << endl;
        }
    }
    if (ifAddrStruct != NULL) freeifaddrs(ifAddrStruct);
}

void arp_monitor::run(Sniffer &sniffer) {
    cout << "RUNNED" << endl;
    sniffer.sniff_loop(
            bind(
                    &arp_monitor::callback,
                    this,
                    std::placeholders::_1
            )
    );
}

void arp_monitor::reroute() {
    cout << "REROUTING" << endl;
    map<string, string>::iterator it;
    for ( it = route_map.begin(); it != route_map.end(); it++ ) {
        if (this->gws.count(it->second) && !this->gws.count(it->second)) {
            string cmd = "ip route replace ";
            cmd += it->first;
            cmd += " dev " + this->iface;
            cmd += " src " + it->second;
            cmd += " proto static";
            cout << cmd << std::endl;
            cout << "REROUTE " << it->first << " SRC " << it->second << endl;
            system(cmd.c_str());
            cmd = "arp -s ";
            cmd += it->first;
            cmd += " ";
            cmd += mac_map[it->first];
            cout << cmd << endl;
            system(cmd.c_str());

        }
    }
    for ( it = gws.begin(); it != gws.end(); it++ ) {
	string cmd = "arping -U -s ";
	cmd += it->first;
	cmd += " -I ";
	cmd += this->iface;
	cmd += " -b -c 1 ";
	cmd += it->first;
        system(cmd.c_str());
    }
    cout << "REROUTED" << endl;
}

bool arp_monitor::callback(const PDU &pdu) {
    // Retrieve the ARP layer
    const ARP &arp = pdu.rfind_pdu<ARP>();

    if (arp.opcode() == ARP::REQUEST) {
	
        string target = arp.target_ip_addr().to_string();
        string sender = arp.sender_ip_addr().to_string();
        this->route_map[sender] = target;
        this->mac_map[sender] = arp.sender_hw_addr().to_string();
        cout << "save sender " << sender << ":" << this->mac_map[sender] << " want taregt " << target << endl;
        if (this->gws.count(target) && !this->gws.count(sender)) {
            string cmd = "ip route replace ";
            cmd += sender;
            cmd += " dev " + this->iface;
            cmd += " src " + target;
            cmd += " proto static";
//            cout << cmd << std::endl;
/*            cout << "ARP REQUEST FROM " << arp.sender_ip_addr()
                 << " for address " << arp.target_ip_addr()
                 << " sender hw address " << arp.sender_hw_addr() << std::endl
                 << " run cmd: " << cmd << endl;*/
            system(cmd.c_str());
            cmd = "arp -s ";
            cmd += arp.sender_ip_addr().to_string();
            cmd += " ";
            cmd += arp.sender_hw_addr().to_string();
            cout << cmd << endl;
            system(cmd.c_str());
        }
    }
    return true;
}

arp_monitor monitor;
void reroute(int signum) {
    monitor.makegws();
    monitor.reroute();
}

int main(int argc, char *argv[]) {
    string test;
    cout << sizeof(string) << endl;

    if (argc != 2) {
        cout << "Usage: " << *argv << " <interface>" << endl;
        return 1;
    }
    signal(SIGHUP, reroute);
    monitor.iface = argv[1];
    // Sniffer configuration
    SnifferConfiguration config;
    config.set_promisc_mode(true);
    config.set_filter("arp");

    monitor.makegws();

    try {
        // Sniff on the provided interface in promiscuous mode
        Sniffer sniffer(argv[1], config);

        // Only capture arp packets
        monitor.run(sniffer);
    }
    catch (std::exception &ex) {
        std::cerr << "Error: " << ex.what() << std::endl;
    }
}

Скрипт за инсталиране на libtins

#!/bin/bash

git clone https://github.com/mfontanini/libtins.git
cd libtins
mkdir build
cd build
cmake ../
make
make install
ldconfig

Команда за компилиране на бинарното

g++ main.cpp -o arp-rt -O3 -std=c++11 -lpthread -ltins

Как да го стартираме?

start-stop-daemon --start --exec /opt/ipoe/arp-routes/arp-rt -b -m -p /opt/ipoe/arp-routes/daemons/eth0.800.pid -- eth0.800

Да — той реагира на HUP сигнал и реконструира таблиците. Защо не използва нетлинк? Просто мързел, а и линукс е скрипт на скрипт, така че всичко е наред. Ами маршрутите, какво следва? Следва да изпратим на бордер маршрутите, които имаме на този сървър — тук, поради същите стари устройства, поехме по пътя на най-малкото съпротивление — поставихме тази задача на BGP.

Конфигурация bgphostname *******
password *******
log file /var/log/bgp.log
!
# номер ас-ки, адреса и сети выдуманы
router bgp 12345
bgp router-id 1.2.3.4
redistribute connected
redistribute static
neighbor 1.2.3.1 remote-as 12345
neighbor 1.2.3.1 next-hop-self
neighbor 1.2.3.1 route-map none in
neighbor 1.2.3.1 route-map export out
!
access-list export permit 1.2.3.0/24
!
route-map export permit 10
match ip address export
!
route-map export deny 20

Продължаваме. За да сървърът отговаря на ARP заявки, е необходимо да активираме прокси ARP.

echo 1 > /proc/sys/net/ipv4/conf/eth0.800/proxy_arp

Продължаваме — ucarp. Скриптовете за стартиране на това чудо пишем сами

Пример за стартиране на един демон

start-stop-daemon --start --exec /usr/sbin/ucarp -b -m -p /opt/ipoe/ucarp-gen2/daemons/$iface.$vhid.$virtualaddr.pid -- --interface=eth0.800 --srcip=1.2.3.4 --vhid=1 --pass=carpasword --addr=10.10.10.1 --upscript=/opt/ipoe/ucarp-gen2/up.sh --downscript=/opt/ipoe/ucarp-gen2/down.sh -z -k 10 -P --xparam="10.10.10.0/24"

up.sh

#!/bin/bash

iface=$1
addr=$2
gw=$3

vlan=`echo $1 | sed "s/eth0.//"`


ip ad ad $addr/32 dev lo
ip ro add blackhole $gw
echo 1 > /proc/sys/net/ipv4/conf/$iface/proxy_arp

killall -9 dhcrelay
/etc/init.d/dhcrelay zap
/etc/init.d/dhcrelay start


killall -HUP arp-rt

down.sh

#!/bin/bash

iface=$1
addr=$2
gw=$3

ip ad d $addr/32 dev lo
ip ro de blackhole $gw
echo 0 > /proc/sys/net/ipv4/conf/$iface/proxy_arp


killall -9 dhcrelay
/etc/init.d/dhcrelay zap
/etc/init.d/dhcrelay start

За да работи dhcprelay на интерфейса — му е необходим адрес. Затова на интерфейсите, които използваме, добавяме фалшиви адреси — например 10.255.255.1/32, 10.255.255.2/32 и т.н. Как да настроим релея не бих искал да обяснявам — там е всичко просто.

И така, какво имаме. Бекъп на шлюзовете, автоматично настройване на маршрутите, DHCP. Това е минималният набор — допълнително на всичко това добавяме lisg и вече имаме и шейпинг. Защо всичко е толкова дълго и сложно? Не би ли било по-лесно да вземем accel-pppd и въобще да използваме pppoe? Не, не е по-лесно — хората трудно могат да вкарат пачкорд в рутера, да не говорим за pppoe. accel-ppp е страхотен, но не се получи — много грешки в кода — получава се, изрязва неправилно, и най-лошото е, че ако се срути — на хората им трябва да презаредят всичко — телефоните червени — въобще не се получи. Какво е предимството на използването на ucarp вместо keepalived? Да, всичко — има 100 шлюза, keepalived и една грешка в конфигурацията — не работи всичко. С ucarp не работи един шлюз. Що се отнася до сигурността, ако напишат фалшиви адреси и ще използват на шарика — за контрол на този момент на всички суичове/олти/бази настройваме dhcp-snooping + source-guard + arp inspection. Ако клиента няма dhcp а статик — acces-list на порта.

Защо всичко това беше направено? За унищожаване на нежелания трафик. Сега всеки свич има свой VLAN и unknown-unicast вече не е страшен, тъй като той може да преминава само през един порт, а не през всички... А страничните ефекти - стандартизиран конфигурационен файл на оборудването, по-висока ефективност при разпределение на адресното пространство.

Как да конфигурираме lisg - това е отделна тема. Приложени са линкове към библиотеките. Може би материалът по-горе ще помогне на някого в изпълнението на задачите си. Версия 6 все още не се внедрява в нашата мрежа - но там ще има проблемче - планира се да се пренапише lisg за 6 версия и ще трябва да се коригира програмата, която добавя маршрути.

Linux ISG
DB2DHCP
Libtins

Източник: habr.com