Ավտոգեներացիա և ցանցային սարքերի կղզիավորում Nornir-ի միջոցով

Ավտոգեներացիա և ցանցային սարքերի կղզիավորում Nornir-ի միջոցով

Բարև, Хабр!

Վերջերս այստեղ մի հոդված անցավ Mikrotik և Linux։ Ռուտին և ավտոմատացում որտեղ նման խնդիրը լուծել էին քարայրային միջոցներով։ Եվ hoewel խնդիրը լիովին տիպական է, Հաբրում դրա ավելի նման բան չի գտնվում։ Նվիրում եմ հարգելի ԻՏ-համայնությանը իմ հեծանիվը։

Դա այսպիսի խնդրի համար առաջին հեծանիվը չէ։ Առաջին տարբերակը իրականացվել էր մի քանի տարի առաջ դեռ անսիբլ հանդիպման 1.x.x տարբերակում։ Հեծանիվը պարբերաբար օգտագործվում էր, ուստի միշտ մոռանում էր։ Այդ իսկ իմաստով, որ ինքնադասի առաջացումը այնքան հաճախ չի լինում, որքան թարմացումները անսիբլ։ Եվ ամեն անգամ, երբ պետք էր հեռանալ, կամ անկեղծորեն իջնում էր շղթան, կամ wheels-ը ընկնում էր։ Արտառոցը այն է, որ առաջին մասը, կոնֆիգացման ստեղծումը՝ միշտ աշխատում էր շատ ճշգրիտ, բարի վճռականություն jinja2 շարժիչը վաղուց հաստատված է։ Իսկ երկրորդ մասը՝ կոնֆիգների միջոցով առաջանում էր, երբեք չի տվել յուրահատուկ անակնկալներ։ Եվ քանի որ ինձ ստիպված է, որպեսզի կոնֆիգը գնալիս լինի, ապա որոշակի մաս չէին կարող ընթանալ՝ ես դա անելու համար մոտ 50 սարքավորումների վրա, որոնցից որոշները գտնվում են հազարավոր կմ հեռավորության վրա, ուստի այս գործիքը օգտագործելը մի քիչ ցնցող էր։

Այստեղ պետք է ընդունել, որ իմ վստահությունը թեև պարտադրված է գիտելիքների անբավարարությունն ավելի քան նրա մասերի մեղք։ Եվ այստեղ, ի դեպ, կարևոր պահ է։ անսիբլ՝ դա լիովին առանձին է, իր սեփական գիտելիքների ոլորտ, որն ունի իր սեփական DSL (Դոմեյնին հատուկ լեզու), որի մասին պետք է վստահ լինել։ Ու նաև այն պահը, որ անսիբլ թափանցիկորեն զարգանում է, չնայած հատուկ կապ չունենալով հակառակ համատեղելիության հետ, վստահություն չի ավելացնում։ անսիբլ Որպեսզի ոչ այդքան վաղուց եղել է երկրորդ տարբերակի հեծանիվ։ Այս անգամ՝

և հենց այդ ֆրեյםովին վրա, որ գրել է pythonNornir python այսինքն_microframework, որը գրում է python նվազագույն անվանով և նախատեսված է ավտոմատացման համար։ Ինչպես նաեւ դեպքում՝ այստեղ խնդիրների լուծման համար անհրաժեշտ է ճիշտ պատրաստություն տվյալների, այսինքն՝ բանավոր հոգատարություն և դրանց պարամետրերը, իսկ սցենարները գրում են ոչ մի առանձին DSL-ով, այլ՝ նրա նույն չշրջանառ, բայց առհասարակ օգտակար պ[ի|այ]տոնում։

Եկեք դիտենք, թե ինչպիսին է դա հաջորդ կենդանի օրինակով։ և նախատեսված է ավտոմատացման համար։ Ինչպես նաեւ դեպքում՝ այստեղ խնդիրների լուծման համար անհրաժեշտ է ճիշտ պատրաստություն տվյալների, այսինքն՝ բանավոր հոգատարություն և դրանց պարամետրերը, իսկ սցենարները գրում են ոչ մի առանձին DSL-ով, այլ՝ նրա նույն չշրջանառ, բայց առհասարակ օգտակար պ[ի|այ]տոնում։ Ունեմ մասնաճյուղային ցանց մի քանի տասնյակ գրասենյակների հետ ամբողջ երկրում։ Սարերում յուրաքանչյուր գրասենյակ ունի WAN-մարզիչ, որը ավարտում է մի քանի կապի ալիքներ տարբեր օպերատորներից։ Ռուտինացման պրոտոկոլը՝ BGP। WAN-մարզիչները լինում են երկու տեսակ՝ Cisco ISG կամ Juniper SRX։ python այսինքն_microframework, որը գրում է python Հիմա խնդիրը՝ պետք է կոնֆիգուրացնել բոլոր WAN-մարզիչներին մասնաճյուղային ցանցում՝ առանձնացված ենթահանդիպում՝ տեսահսկման համար անջատված նավարկության մեջ՝ հայտնաբերել դա BGP-ում՝ սահմանել արագության սահմանափակում առանձնացված նավարկության։ անսիբլ, для решения задач здесь требуется грамотная подготовка данных т.е. инвентаризации хостов и их параметров, а вот сценарии пишутся не на отдельном DSL, а все на том же не очень старом, но весьма добром п[и|ай]тоне.

Давайте рассмотрим что оно такое на следующем живом примере.

Есть у меня филиальная сеть с несколькими десятками офисов по всей стране. В каждом офисе существует WAN-маршрутизатор, который терминирует несколько каналов связи от разных операторов. Протокол маршрутизации — BGP. WAN-маршрутизаторы бывают двух типов: Cisco ISG или Juniper SRX.

Теперь задача: необходимо сконфигурировать на всех WAN-маршрутизаторах филиальной сети выделенную подсеть для Видеонаблюдения в отдельном порту — анонсировать эту подсеть в BGP — сконфигурировать ограничение скорости выделенного порта.

Նախ, անհրաժեշտ է պատրաստել որոշ կարգաբառեր, որոնց հիման վրա կհատկացվեն կոնֆիգուրացիաներ առանձին Cisco և Juniper-ի համար: Կա՛ էլ անհրաժեշտ է պատրաստել տվյալներ յուրաքանչյուր կետից և միացման պարամետրեր, այսինքն՝ հավաքել այն նույն ինվենտարը

Ուղղակի գրպան ևս Cisco-ի համար:

$ cat templates/ios/base.j2 
class-map match-all VIDEO_SURV
 match access-group 111

policy-map VIDEO_SURV
 class VIDEO_SURV
    police 1500000 conform-action transmit  exceed-action drop

interface {{ host.task_data.ifname }}
  description VIDEOSURV
  ip address 10.10.{{ host.task_data.ipsuffix }}.254 255.255.255.0
  service-policy input VIDEO_SURV

router bgp {{ host.task_data.asn }}
  network 10.40.{{ host.task_data.ipsuffix }}.0 mask 255.255.255.0

access-list 11 permit 10.10.{{ host.task_data.ipsuffix }}.0 0.0.0.255
access-list 111 permit ip 10.10.{{ host.task_data.ipsuffix }}.0 0.0.0.255 any

Շաբлон Juniper-ի համար:

$ cat templates/junos/base.j2 
set interfaces {{ host.task_data.ifname }} unit 0 description "Video surveillance"
set interfaces {{ host.task_data.ifname }} unit 0 family inet filter input limit-in
set interfaces {{ host.task_data.ifname }} unit 0 family inet address 10.10.{{ host.task_data.ipsuffix }}.254/24
set policy-options policy-statement export2bgp term 1 from route-filter 10.10.{{ host.task_data.ipsuffix }}.0/24 exact
set security zones security-zone WAN interfaces {{ host.task_data.ifname }}
set firewall policer policer-1m if-exceeding bandwidth-limit 1m
set firewall policer policer-1m if-exceeding burst-size-limit 187k
set firewall policer policer-1m then discard
set firewall policer policer-1.5m if-exceeding bandwidth-limit 1500000
set firewall policer policer-1.5m if-exceeding burst-size-limit 280k
set firewall policer policer-1.5m then discard
set firewall filter limit-in term 1 then policer policer-1.5m
set firewall filter limit-in term 1 then count limiter

Շաբлонները, իհարկե, վերցվում են ոչ թե զուրից: Սա աստիճանաբար դրանց վրայոց տարբեր պատասխանների տողերն են տարբեր մոդելների երկու կոնկրետ маршрутизատուների վրա առաջադրանքի լուծման ընթացքում:

Մեր տողերից մենք տեսնում ենք, որ խնդրին լուծում տալու համար մեզ անհրաժեշտ են երկու պարամետր Juniper-ի համար և 3 պարամետր Cisco-ի համար: ահա թե ինչ են նրանք՝

  • ifname
  • ipsuffix
  • asn

Հիմա անհրաժեշտ է սահմանել այս պարամետրերը յուրաքանչյուր սարքի համար, այսինքն՝ անել այն նույնը inventory.

Այդուհանդերձ inventory կստանանք ուշադիր հետևել փաստաթղթավորմանը Nornir բեռնաթափում

այսինքն՝ ստեղծելու ենք նույնպիսի ֆայլային ոսկոր:

.
├── config.yaml
├── inventory
│   ├── defaults.yaml
│   ├── groups.yaml
│   └── hosts.yaml

config.yaml ֆայլը՝ nornir-ի ստանդարտ կոնֆիգուրացիայի ֆայլ է

$ cat config.yaml 
---
core:
    num_workers: 10

inventory:
    plugin: nornir.plugins.inventory.simple.SimpleInventory
    options:
        host_file: "inventory/hosts.yaml"
        group_file: "inventory/groups.yaml"
        defaults_file: "inventory/defaults.yaml"

Հիմնական պարամետրերը կնշվեն hosts.yaml ֆայլում hosts.yaml, խմբայիները (իմ դեպքում դա սինքներդ/գաղտնաբառերն են)՝ groups.yaml, իսկ defaults.yaml ինչ-որ բան չի նշվելու, բայց այնտեղ անհրաժեշտ է նշել երեք չափանիշ — ցույց տալու, որ սա yaml ֆայլ՝ իհարկե դատարկ:

Ահա թե ինչպես է երևում hosts.yaml:

---
srx-test:
    hostname: srx-test
    groups: 
        - juniper
    data:
        task_data:
            ifname: fe-0/0/2
            ipsuffix: 111

cisco-test:
    hostname: cisco-test
    groups: 
        - cisco
    data:
        task_data:
            ifname: GigabitEthernet0/1/1
            ipsuffix: 222
            asn: 65111

Իսկ այսպես է groups.yaml-ն:

---
cisco:
    platform: ios
    username: admin1
    password: cisco1

juniper:
    platform: junos
    username: admin2
    password: juniper2

Եվ այսպիսին է ստացվել inventory մեր խնդրի համար: Նախարարում՝ պարամետրերը inventory ֆայլերից միանում են օբյեկտական մոդելին InventoryElement.

Սպոյլերի տակ InventoryElement մոդելի սխեման

print(json.dumps(InventoryElement.schema(), indent=4))
{
    "title": "InventoryElement",
    "type": "object",
    "properties": {
        "hostname": {
            "title": "Hostname",
            "type": "string"
        },
        "port": {
            "title": "Port",
            "type": "integer"
        },
        "username": {
            "title": "Username",
            "type": "string"
        },
        "password": {
            "title": "Password",
            "type": "string"
        },
        "platform": {
            "title": "Platform",
            "type": "string"
        },
        "groups": {
            "title": "Groups",
            "default": [],
            "type": "array",
            "items": {
                "type": "string"
            }
        },
        "data": {
            "title": "Data",
            "default": {},
            "type": "object"
        },
        "connection_options": {
            "title": "Connection_Options",
            "default": {},
            "type": "object",
            "additionalProperties": {
                "$ref": "#\/definitions\/ConnectionOptions"
            }
        }
    },
    "definitions": {
        "ConnectionOptions": {
            "title": "ConnectionOptions",
            "type": "object",
            "properties": {
                "hostname": {
                    "title": "Hostname",
                    "type": "string"
                },
                "port": {
                    "title": "Port",
                    "type": "integer"
                },
                "username": {
                    "title": "Username",
                    "type": "string"
                },
                "password": {
                    "title": "Password",
                    "type": "string"
                },
                "platform": {
                    "title": "Platform",
                    "type": "string"
                },
                "extras": {
                    "title": "Extras",
                    "type": "object"
                }
            }
        }
    }
}

Այս մոդելը կարող է թվալ մի քիչ բարդ, հատկապես սկզբում: Առանց հասկանալու, շատ լավ է երևում ինտերակտիվ ռեժիմում դեպի ipython.

 $ ipython3
Python 3.6.9 (default, Nov  7 2019, 10:44:02) 
Type 'copyright', 'credits' or 'license' for more information
IPython 7.1.1 -- An enhanced Interactive Python. Type '?' for help.

In [1]: from nornir import InitNornir                                                                           

In [2]: nr = InitNornir(config_file="config.yaml", dry_run=True)                                                

In [3]: nr.inventory.hosts                                                                                      
Out[3]: 
{'srx-test': Host: srx-test, 'cisco-test': Host: cisco-test}

In [4]: nr.inventory.hosts['srx-test'].data                                                                                    
Out[4]: {'task_data': {'ifname': 'fe-0\/0\/2', 'ipsuffix': 111}}

In [5]: nr.inventory.hosts['srx-test']['task_data']                                                     
Out[5]: {'ifname': 'fe-0\/0\/2', 'ipsuffix': 111}

In [6]: nr.inventory.hosts['srx-test'].platform                                                                                
Out[6]: 'junos'

Եվ վերջապես անցնում ենք ինքնաբերաբար դեպի սկրիպտը: Այստեղ ոչինչ ավանդական չէ: Ես պարզապես վերցրել եմ պատրաստի օրինակներից է հոդվածի և գրեթե առանց փոփոխության օգտագործել եմ այն: Այսպիսինն է պատրաստի աշխատող սկրիպտը:

nornir - ից ներմուծել InitNornir
nornir.plugins.tasks - ից ներմուծել networking, text
nornir.plugins.functions.text - ից ներմուծել print_title, print_result

def config_and_deploy(task):
    # Տնօրենելու տվյալները կոնֆիգուրացիայի վերածելու համար լրացման ֆայլի միջոցով
    r = task.run(task=text.template_file,
                 name="Հիմնական կոնֆիգուրացիա",
                 template="base.j2",
                 path=f"templates/{task.host.platform}")

    # Սsaved compiled configuration - ը տնօերայի փոփոխականում
    task.host["config"] = r.result

    # Սsaved compiled configuration - ը ֆայլում
    with open(f"configs/{task.host.hostname}", "w") as f:
        f.write(r.result)

    # Դրա կոնֆիգուրացիան սարքին տեղադրելու համար օգտագործելով NAPALM
    task.run(task=networking.napalm_configure,
             name="Կոնֆիգուրացիայի բեռնում սարքում",
             replace=False,
             configuration=task.host["config"])

nr = InitNornir(config_file="config.yaml", dry_run=True) # set dry_run=False, cross your fingers and run again

# run tasks
result = nr.run(task=config_and_deploy)
print_result(result)

Խնդրում ենք ուշադրություն դարձնել պարամետրի վրա dry_run=True օբյեկտի նախաձեռնություն շարքում nr.
Այստեղ նույնպես ինչպես անսիբլ իրականացվում է փորձնական ընթացք, որի ժամանակ կատարում են կապի հետևում, պատրաստվում է նոր, փոփոխված կոնֆիգուրացիա, որը հետո վավերացվում է սարքով (բայց դա չէ, սնունդ, կախված սարքի աջակցությունից և NAPALM- ի վարորդի իրականացումից), սակայն նոր կոնֆիգուրացիայի կիրառումը չի կատարվում։ Այն քաղաքականությամբ անհրաժեշտ է հեռացնել պարամետրը dry_run կամ փոխել նրա արժեքը False.

Nornir սցենարը կատարելու ընթացքում, կոնսոլում ցուցաբերում է մանրամասն հաշվետվություններ։

Անաղետության մեջ տեղակայված ֆայլը երկու փորձնական սարքերի վրա հեշտությամբ անցնող ելքեր։

config_and_deploy***************************************************************
* cisco-test ** փոխված ՝ True *******************************************
vvvv config_and_deploy ** փոխված ՝ True vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv INFO
---- Հիմնական կոնֆիգուրացիա ** փոխված ՝ True ------------------------------------- INFO
class-map match-all VIDEO_SURV
 match access-group 111

policy-map VIDEO_SURV
 class VIDEO_SURV
    police 1500000 conform-action transmit  exceed-action drop

interface GigabitEthernet0/1/1
  description VIDEOSURV
  ip address 10.10.222.254 255.255.255.0
  service-policy input VIDEO_SURV

router bgp 65001
  network 10.10.222.0 mask 255.255.255.0

access-list 11 permit 10.10.222.0 0.0.0.255
access-list 111 permit ip 10.10.222.0 0.0.0.255 any
---- Ապրանքների ստացում սարքում ** փոխված ՝ True --------------------- INFO
+class-map match-all VIDEO_SURV
+ match access-group 111
+policy-map VIDEO_SURV
+ class VIDEO_SURV
+interface GigabitEthernet0/1/1
+  description VIDEOSURV
+  ip address 10.10.222.254 255.255.255.0
+  service-policy input VIDEO_SURV
+router bgp 65001
+  network 10.10.222.0 mask 255.255.255.0
+access-list 11 permit 10.10.222.0 0.0.0.255
+access-list 111 permit ip 10.10.222.0 0.0.0.255 any
^^^^ END config_and_deploy ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
* srx-test ** փոխված ՝ True *******************************************
vvvv config_and_deploy ** փոխված ՝ True vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv INFO
---- Հիմնական կոնֆիգուրացիա ** փոխված ՝ True ------------------------------------- INFO
set interfaces fe-0/0/2 unit 0 description "Video surveillance"
set interfaces fe-0/0/2 unit 0 family inet filter input limit-in
set interfaces fe-0/0/2 unit 0 family inet address 10.10.111.254/24
set policy-options policy-statement export2bgp term 1 from route-filter 10.10.111.0/24 exact
set security zones security-zone WAN interfaces fe-0/0/2
set firewall policer policer-1m if-exceeding bandwidth-limit 1m
set firewall policer policer-1m if-exceeding burst-size-limit 187k
set firewall policer policer-1m then discard
set firewall policer policer-1.5m if-exceeding bandwidth-limit 1500000
set firewall policer policer-1.5m if-exceeding burst-size-limit 280k
set firewall policer policer-1.5m then discard
set firewall filter limit-in term 1 then policer policer-1.5m
set firewall filter limit-in term 1 then count limiter
---- Ապրանքների ստացում սարքում ** փոխված ՝ True --------------------- INFO
[edit interfaces]
+   fe-0/0/2 {
+       unit 0 {
+           description "Video surveillance";
+           family inet {
+               filter {
+                   input limit-in;
+               }
+               address 10.10.111.254/24;
+           }
+       }
+   }
[edit]
+  policy-options {
+      policy-statement export2bgp {
+          term 1 {
+              from {
+                  route-filter 10.10.111.0/24 exact;
+              }
+          }
+      }
+  }
[edit security zones]
     security-zone test-vpn { ... }
+    security-zone WAN {
+        interfaces {
+            fe-0/0/2.0;
+        }
+    }
[edit]
+  firewall {
+      policer policer-1m {
+          if-exceeding {
+              bandwidth-limit 1m;
+              burst-size-limit 187k;
+          }
+          then discard;
+      }
+      policer policer-1.5m {
+          if-exceeding {
+              bandwidth-limit 1500000;
+              burst-size-limit 280k;
+          }
+          then discard;
+      }
+      filter limit-in {
+          term 1 {
+              then {
+                  policer policer-1.5m;
+                  count limiter;
+              }
+          }
+      }
+  }
^^^^ END config_and_deploy ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

Թաքցնում ենք գաղտնաբառերը ansible_vault-ում

Այս հոդվածում մի փոքր քննադատեցի անսիբլ, բայց ոչ բոլորում այնքան էլ վատ է: Ինձ շատ են դուր գալիս նրանց vault որ մատակարարվում է զգայուն տեղեկատվությունը աչքերին թաքցնելու համար։ Եվ հավանաբար շատերը նկատել են, որ մեր բոլոր մուտքերը/գաղտնաբառերը բոլոր մարտական маршруտավորիչներում բաց տեսքով հստակ չեն երևում ֆայլում gorups.yaml. Բարդ է, իհարկե։ Եկեք պաշտպանենք այս տվյալները vault.

Պարամետրերը տեղափոխենք groups.yaml-ից creds.yaml, և կ encrypt անենք այն AES256- ով 20-անիշ գաղտնաբառով:

$ cd inventory
$ cat creds.yaml
---
cisco:
    username: admin1
    password: cisco1

juniper:
    username: admin2
    password: juniper2

$ pwgen 20 -N 1 > vault.passwd
ansible-vault encrypt creds.yaml --vault-password-file vault.passwd  
Encryption successful
$ cat creds.yaml 
$ANSIBLE_VAULT;1.1;AES256
39656463353437333337356361633737383464383231366233386636333965306662323534626131
3964396534396333363939373539393662623164373539620a346565373439646436356438653965
39643266333639356564663961303535353364383163633232366138643132313530346661316533
6236306435613132610a656163653065633866626639613537326233653765353661613337393839
62376662303061353963383330323164633162386336643832376263343634356230613562643533
30363436343465306638653932366166306562393061323636636163373164613630643965636361
34343936323066393763323633336366366566393236613737326530346234393735306261363239
35663430623934323632616161636330353134393435396632663530373932383532316161353963
31393434653165613432326636616636383665316465623036376631313162646435

Այդքան հեշտ: մնում է սովորեցնել մեր և նախատեսված է ավտոմատացման համար։ Ինչպես նաեւ դեպքում՝ այստեղ խնդիրների լուծման համար անհրաժեշտ է ճիշտ պատրաստություն տվյալների, այսինքն՝ բանավոր հոգատարություն և դրանց պարամետրերը, իսկ սցենարները գրում են ոչ մի առանձին DSL-ով, այլ՝ նրա նույն չշրջանառ, բայց առհասարակ օգտակար պ[ի|այ]տոնում։-սցենարը՝ քաղել և կիրառել այս տվյալները:
Այսպիսով, մեր սցենարի մեջ, մեկնարկային տողից հետո nr = InitNornir(config_file=… ավելացնում ենք հաջորդ կոդը:

...
nr = InitNornir(config_file="config.yaml", dry_run=True) # सेट करें dry_run=False, κρατήστε τα δάχτυλά σας σταυρωμένα και δοκιμάστε ξανά

# enriched Inventory with the encrypted vault data
from ansible_vault import Vault
vault_password_file="inventory/vault.passwd"
vault_file="inventory/creds.yaml"
with open(vault_password_file, "r") as fp:
    password = fp.readline().strip()   
    vault = Vault(password)
    vaultdata = vault.load(open(vault_file).read())

for a in nr.inventory.hosts.keys():
    item = nr.inventory.hosts[a]
    item.username = vaultdata[item.groups[0]]['username']
    item.password = vaultdata[item.groups[0]]['password']
    #print("hostname={}, username={}, password={}n".format(item.hostname, item.username, item.password))

# run tasks
...

Միայն vault.passwd-ը չպետք է գտնվի creds.yaml-ի կողքին, ինչպես իմ օրինակն է: Բայց խաղալու համար դա բավարար է:

Այս պահին այնքան: Ավելին են մի քանի հոդվածներ Cisco + Zabbix-ի մասին, բայց դա մի փոքր տարբեր է ավտոմատացումից: Իսկ գալիք ապագայում նախատեսում եմ գրել RESTCONF-ի մասին Cisco-ում:

Ընտանիք: habr.com

Գնել հուսալի հյուրընկալում DDoS պաշտպանությամբ, VPS VDS սերվերներով 🔥 Գնել հուսալի հյուրընկալում DDoS պաշտպանությամբ, VPS VDS սերվերներով | ProHoster