Windows 10 рдорд╛ Apache Airflow рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрдиреЗ рдЕрдиреБрднрд╡ рд▓рд┐рдиреБрд╣реЛрд╕реН

рдкреНрд░рд╕реНрддрд╛рд╡рдирд╛: рднрд╛рдЧреНрдпрдХреЛ рдЗрдЪреНрдЫрд╛рд▓реЗ, рдЕрдХрд╛рджрдорд┐рдХ рд╡рд┐рдЬреНрдЮрд╛рди (рдЪрд┐рдХрд┐рддреНрд╕рд╛) рдХреЛ рд╕рдВрд╕рд╛рд░рдмрд╛рдЯ рдореИрд▓реЗ рдЖрдлреВрд▓рд╛рдИ рд╕реВрдЪрдирд╛ рдкреНрд░рд╡рд┐рдзрд┐рдХреЛ рд╕рдВрд╕рд╛рд░рдорд╛ рднреЗрдЯреНрдЯрд╛рдПрдБ, рдЬрд╣рд╛рдБ рдореИрд▓реЗ рдкреНрд░рдпреЛрдЧрд╛рддреНрдордХ рдбреЗрдЯрд╛рдХреЛ рд╡рд┐рд╢реНрд▓реЗрд╖рдгрдХреЛ рд▓рд╛рдЧрд┐ рдкреНрд░рдпреЛрдЧ рд░ рд░рдгрдиреАрддрд┐рд╣рд░реВ рдирд┐рд░реНрдорд╛рдг рдЧрд░реНрдиреЗ рд╡рд┐рдзрд┐рдХреЛ рдореЗрд░реЛ рдЬреНрдЮрд╛рди рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреБрдкрд░реНрдЫ, рддрдерд╛рдкрд┐, рд▓рд╛рдЧреВ рдЧрд░реНрдиреБрд╣реЛрд╕реНред рдПрдЙрдЯрд╛ рдЯреЗрдХреНрдиреЛрд▓реЛрдЬреА рд╕реНрдЯреНрдпрд╛рдХ рдЬреБрди рдореЗрд░реЛ рд▓рд╛рдЧрд┐ рдирдпрд╛рдБ рдЫред рдпреА рдкреНрд░рд╡рд┐рдзрд┐рд╣рд░реВрдорд╛ рдорд╣рд╛рд░рдд рд╣рд╛рд╕рд┐рд▓ рдЧрд░реНрдиреЗ рдкреНрд░рдХреНрд░рд┐рдпрд╛рдорд╛, рдореИрд▓реЗ рдзреЗрд░реИ рдХрдард┐рдирд╛рдЗрд╣рд░реВрдХреЛ рд╕рд╛рдордирд╛ рдЧрд░реНрдЫреБ, рдЬреБрди, рд╕реМрднрд╛рдЧреНрдпрд╡рд╢, рдЕрд╣рд┐рд▓реЗрд╕рдореНрдо рдкрд╛рд░ рднрдПрдХреЛ рдЫред рд╕рд╛рдпрдж рдпреЛ рдкреЛрд╖реНрдЯ рддрд┐рдиреАрд╣рд░реВрдХрд╛ рд▓рд╛рдЧрд┐ рдЙрдкрдпреЛрдЧреА рд╣реБрдиреЗрдЫ рдЬрд╕рд▓реЗ Apache рдкрд░рд┐рдпреЛрдЬрдирд╛рд╣рд░реВрд╕рдБрдЧ рдХрд╛рдо рдЧрд░реНрди рдерд╛рд▓реЗрдХрд╛ рдЫрдиреНред

рддреНрдпрд╕реИрд▓реЗ, рдмрд┐рдиреНрджреБрдорд╛ред рдкреНрд░реЗрд░рд┐рдд рд▓реЗрдЦ рдпреБрд░реА Emelyanov рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдкреНрд░рдХреНрд░рд┐рдпрд╛рд╣рд░реБ рдХреЛ рд╕реНрд╡рдЪрд╛рд▓рди рдХреЛ рдХреНрд╖реЗрддреНрд░ рдорд╛ Apache Airflow рдХреЛ рдХреНрд╖рдорддрд╛рд╣рд░реБ рдХреЛ рдмрд╛рд░реЗ рдорд╛, рдо рдореЗрд░реЛ рдХрд╛рдо рдорд╛ рдкреБрд╕реНрддрдХрд╛рд▓рдпрд╣рд░реБ рдХреЛ рдкреНрд░рд╕реНрддрд╛рд╡рд┐рдд рд╕реЗрдЯ рдХреЛ рдЙрдкрдпреЛрдЧ рд╢реБрд░реВ рдЧрд░реНрди рдЪрд╛рд╣рдиреНрдереЗред Apache Airflow рд╕рдБрдЧ рдкрд░рд┐рдЪрд┐рдд рдирднрдПрдХрд╛ рд╡реНрдпрдХреНрддрд┐рд╣рд░реВрд▓рд╛рдИ рдЫреЛрдЯреЛ рд╕рд┐рдВрд╣рд╛рд╡рд▓реЛрдХрдирдорд╛ рд░реБрдЪрд┐ рд╣реБрди рд╕рдХреНрдЫ рд▓реЗрдЦ рд░рд╛рд╖реНрдЯреНрд░рд┐рдп рдкреБрд╕реНрддрдХрд╛рд▓рдпрдХреЛ рд╡реЗрдмрд╕рд╛рдЗрдЯрдорд╛ред рдПрди рдИ рдмрд╛рдЙрдордиред

рдПрдпрд░рдлреНрд▓реЛ рдЪрд▓рд╛рдЙрдирдХреЛ рд▓рд╛рдЧрд┐ рд╕рд╛рдорд╛рдиреНрдп рдирд┐рд░реНрджреЗрд╢рдирд╣рд░реВ Windows рд╡рд╛рддрд╛рд╡рд░рдгрдорд╛ рд▓рд╛рдЧреВ рд╣реБрдиреЗ рджреЗрдЦрд┐рдБрджреИрди, рдпреЛ рд╕рдорд╕реНрдпрд╛ рд╕рдорд╛рдзрд╛рди рдЧрд░реНрди рдпрд╕рд▓рд╛рдИ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреБрд╣реЛрд╕реН рдбрдХрд░ рдореЗрд░реЛ рдорд╛рдорд▓рд╛ рдорд╛ рдпреЛ рдЕрдирд╛рд╡рд╢реНрдпрдХ рд╣реБрдиреЗрдЫ, рдореИрд▓реЗ рдЕрдиреНрдп рд╕рдорд╛рдзрд╛рди рдЦреЛрдЬреНрди рдерд╛рд▓реЗред рд╕реМрднрд╛рдЧреНрдпрд╡рд╢ рдореЗрд░реЛ рд▓рд╛рдЧрд┐, рдо рдпрд╕ рдорд╛рд░реНрдЧрдорд╛ рдкрд╣рд┐рд▓реЛ рдерд┐рдПрди, рддреНрдпрд╕реИрд▓реЗ рдореИрд▓реЗ рдПрдЙрдЯрд╛ рдЕрджреНрднреБрдд рдлреЗрд▓рд╛ рдкрд╛рд░реНрди рд╕рдлрд▓ рднрдПрдБ рднрд┐рдбрд┐рдпреЛ рдирд┐рд░реНрджреЗрд╢рди рдбрдХрд░ рдкреНрд░рдпреЛрдЧ рдирдЧрд░реА Windows 10 рдорд╛ Apache Airflow рдХрд╕рд░реА рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрдиреЗред рддрд░, рдкреНрд░рд╛рдп рдЬрд╕реЛ рд╣реБрдиреНрдЫ, рд╕рд┐рдлрд╛рд░рд┐рд╕ рдЧрд░рд┐рдПрдХрд╛ рдЪрд░рдгрд╣рд░реВ рдкрдЫреНрдпрд╛рдЙрдБрджрд╛, рдХрдард┐рдирд╛рдЗрд╣рд░реВ рдЙрддреНрдкрдиреНрди рд╣реБрдиреНрдЫрдиреН, рд░, рдо рд╡рд┐рд╢реНрд╡рд╛рд╕ рдЧрд░реНрдЫреБ, рдореЗрд░реЛ рд▓рд╛рдЧрд┐ рдорд╛рддреНрд░ рд╣реЛрдЗрдиред рддреНрдпрд╕рдХрд╛рд░рдг, рдо Apache Airflow рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрдиреЗ рдореЗрд░реЛ рдЕрдиреБрднрд╡рдХреЛ рдмрд╛рд░реЗрдорд╛ рдХреБрд░рд╛ рдЧрд░реНрди рдЪрд╛рд╣рдиреНрдЫреБ, рд╣реБрдирд╕рдХреНрдЫ рдпрд╕рд▓реЗ рдХрд╕реИрд▓рд╛рдИ рдереЛрд░реИ рд╕рдордп рдмрдЪрд╛рдЙрдиреЗрдЫред

рдирд┐рд░реНрджреЗрд╢рдирд╣рд░реВрдХреЛ рдЪрд░рдгрд╣рд░реВ рдорд╛рд░реНрдлрдд рдЬрд╛рдФрдВ (рд╕реНрдкреЛрдЗрд▓рд░ - 5 рдФрдВ рдЪрд░рдгрдорд╛ рд╕рдмреИ рдареАрдХ рднрдпреЛ):

1. рд▓рд┐рдирдХреНрд╕ рд╡рд┐рддрд░рдгрдХреЛ рдкрдЫрд┐рд▓реНрд▓реЛ рд╕реНрдерд╛рдкрдирд╛рдХреЛ рд▓рд╛рдЧрд┐ рд▓рд┐рдирдХреНрд╕рдХреЛ рд▓рд╛рдЧрд┐ рд╡рд┐рдиреНрдбреЛрдЬ рд╕рдмрд╕рд┐рд╕реНрдЯрдо рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрджреИ

рдпреЛ рд╕рдмреИрднрдиреНрджрд╛ рдХрдо рд╕рдорд╕реНрдпрд╛ рд╣реЛ, рддрд┐рдиреАрд╣рд░реВ рднрдиреНрдЫрдиреН:

рдХрдиреНрдЯреНрд░реЛрд▓ рдкреНрдпрд╛рдирд▓ тЖТ рдкреНрд░реЛрдЧреНрд░рд╛рдорд╣рд░реВ тЖТ рдкреНрд░реЛрдЧреНрд░рд╛рдо рд░ рд╕реБрд╡рд┐рдзрд╛рд╣рд░реВ тЖТ рд╡рд┐рдиреНрдбреЛрдЬ рд╕реБрд╡рд┐рдзрд╛рд╣рд░реВ рдЦреЛрд▓реНрдиреБрд╣реЛрд╕реН рд╡рд╛ рдмрдиреНрдж рдЧрд░реНрдиреБрд╣реЛрд╕реН тЖТ рд▓рд┐рдирдХреНрд╕рдХрд╛ рд▓рд╛рдЧрд┐ рд╡рд┐рдиреНрдбреЛрдЬ рд╕рдмрд╕рд┐рд╕реНрдЯрдо

2. рдЖрдлреНрдиреЛ рд░реЛрдЬрд╛рдЗрдХреЛ рд▓рд┐рдирдХреНрд╕ рд╡рд┐рддрд░рдг рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрдиреБрд╣реЛрд╕реН

рдореИрд▓реЗ рдЕрдиреБрдкреНрд░рдпреЛрдЧ рдкреНрд░рдпреЛрдЧ рдЧрд░реЗрдВ Ubuntu.

3. рд╕реНрдерд╛рдкрдирд╛ рд░ рдЕрдкрдбреЗрдЯ рдкрд╛рдЗрдк

sudo apt-get install software-properties-common
sudo apt-add-repository universe
sudo apt-get update
sudo apt-get install python-pip

4. Apache Airflow рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрджреИ

export SLUGIFY_USES_TEXT_UNIDECODE=yes
pip install apache-airflow

5. рдбрд╛рдЯрд╛рдмреЗрд╕ рдкреНрд░рд╛рд░рдореНрднрд┐рдХрд░рдг

рд░ рдореЗрд░реЛ рд╕рд╛рдирд╛ рдХрдард┐рдирд╛рдЗрд╣рд░реВ рдпрд╣реАрдБрдмрд╛рдЯ рд╕реБрд░реБ рднрдпреЛред рдирд┐рд░реНрджреЗрд╢рдирд╣рд░реВрд▓реЗ рддрдкрд╛рдИрдВрд▓рд╛рдИ рдЖрджреЗрд╢ рдкреНрд░рд╡рд┐рд╖реНрдЯ рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫ airflow initdb рд░ рдЕрд░реНрдХреЛ рдЪрд░рдгрдорд╛ рдЬрд╛рдиреБрд╣реЛрд╕реНред рддрд░, рдореИрд▓реЗ рд╕рдзреИрдВ рдЬрд╡рд╛рдл рдкрд╛рдПрдБ airflow: command not foundред рдпреЛ рддрд░реНрдХрд╕рдВрдЧрдд рдЫ рдХрд┐ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛрдХреЛ рд╕реНрдерд╛рдкрдирд╛рдХреЛ рдХреНрд░рдордорд╛ рдХрдард┐рдирд╛рдЗрд╣рд░реВ рдЙрддреНрдкрдиреНрди рднрдпреЛ рд░ рдЖрд╡рд╢реНрдпрдХ рдлрд╛рдЗрд▓рд╣рд░реВ рдорд╛рддреНрд░ рдЙрдкрд▓рдмреНрдз рдЫреИрдирдиреНред рд╕рдмреИ рдХреБрд░рд╛ рдЬрд╣рд╛рдБ рд╣реБрдиреБ рдкрд░реНрдЫ рднрдиреНрдиреЗ рдХреБрд░рд╛ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдЧрд░реЗрдкрдЫрд┐, рдореИрд▓реЗ рдПрдпрд░рдлреНрд▓реЛ рдлрд╛рдЗрд▓рдХреЛ рдкреВрд░реНрдг рдорд╛рд░реНрдЧ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдЧрд░реНрдиреЗ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрдиреЗ рдирд┐рд░реНрдгрдп рдЧрд░реЗрдВ (рдпреЛ рдпрд╕реНрддреЛ рджреЗрдЦрд┐рдиреНрдЫ: ╨Я╨╛╨╗╨╜╤Л╨╣/╨┐╤Г╤В╤М/╨┤╨╛/╤Д╨░╨╣╨╗╨░/airflow initdb)ред рддрд░ рдЪрдорддреНрдХрд╛рд░ рднрдПрди рд░ рдЬрд╡рд╛рдл рдПрдЙрдЯреИ рдерд┐рдпреЛ airflow: command not foundред рдореИрд▓реЗ рдлрд╛рдЗрд▓рдорд╛ рд╕рд╛рдкреЗрдХреНрд╖ рдорд╛рд░реНрдЧ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреЗ рдкреНрд░рдпрд╛рд╕ рдЧрд░реЗрдВ (./.local/bin/airflow initdb), рдЬрд╕рд▓реЗ рдирдпрд╛рдБ рддреНрд░реБрдЯрд┐ рдирд┐рдореНрддреНрдпрд╛рдпреЛ ModuleNotFoundError: No module named json'рдЬреБрди рдкреБрд╕реНрддрдХрд╛рд▓рдп рдЕрдкрдбреЗрдЯ рдЧрд░реЗрд░ рд╣рдЯрд╛рдЙрди рд╕рдХрд┐рдиреНрдЫ рдЙрдкрдХрд░рдг (рдореЗрд░реЛ рдорд╛рдорд▓рд╛рдорд╛ рд╕рдВрд╕реНрдХрд░рдг реж.резрел.рек рд╕рдореНрдо):

pip install werkzeug==0.15.4

рддрдкрд╛рдИрдВ werkzeug рдмрд╛рд░реЗ рдердк рдкрдвреНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫ рдпрд╣рд╛рдБ.

рдпреЛ рд╕рд░рд▓ рд╣реЗрд░рдлреЗрд░ рдЖрджреЗрд╢ рдкрдЫрд┐ ./.local/bin/airflow initdb рд╕рдлрд▓рддрд╛рдкреВрд░реНрд╡рдХ рд╕рдореНрдкрдиреНрди рднрдпреЛред

6. рдПрдпрд░рдлреНрд▓реЛ рд╕рд░реНрднрд░ рд╕реБрд░реБ рдЧрд░реНрджреИ

рдпреЛ рд╣рд╛рд╡рд╛ рдкреНрд░рд╡рд╛рд╣ рдкрд╣реБрдБрдЪ рд╕рдВрдЧ рдХрдард┐рдирд╛рдЗрд╣рд░реБ рдХреЛ рдЕрдиреНрдд рдЫреИрдиред рдЖрджреЗрд╢ рдЪрд▓рд╛рдЙрдБрджреИ ./.local/bin/airflow webserver -p 8080 рддреНрд░реБрдЯрд┐рдХреЛ рдХрд╛рд░рдг рднрдпреЛ No such file or directoryред рд╕рдореНрднрд╡рддрдГ, рдПрдХ рдЕрдиреБрднрд╡реА Ubuntu рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд▓реЗ рддреБрд░реБрдиреНрддреИ рдЖрджреЗрд╢ рдкреНрд░рдпреЛрдЧ рдЧрд░реЗрд░ рдлрд╛рдЗрд▓ рдкрд╣реБрдБрдЪ рдЧрд░реНрди рдпрд╕реНрддреЛ рдХрдард┐рдирд╛рдЗрд╣рд░реВ рд╣рдЯрд╛рдЙрди рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрдиреЗрдЫред export PATH=$PATH:~/.local/bin/ (рдЕрд░реНрдерд╛рддреН, /.local/bin/ рд▓рд╛рдИ рдЕрд╡рд╕реНрдерд┐рдд PATH рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрдирдпреЛрдЧреНрдп рдЦреЛрдЬ рдорд╛рд░реНрдЧрдорд╛ рдердкреНрджреИ), рддрд░ рдпреЛ рдкреЛрд╖реНрдЯ рддрд┐рдиреАрд╣рд░реВрдХрд╛ рд▓рд╛рдЧрд┐ рд╣реЛ рдЬрд╕рд▓реЗ рдореБрдЦреНрдп рд░реВрдкрдорд╛ рд╡рд┐рдиреНрдбреЛрдЬрд╕рдБрдЧ рдХрд╛рдо рдЧрд░реНрдЫрдиреН рд░ рдпреЛ рд╕рдорд╛рдзрд╛рди рд╕реНрдкрд╖реНрдЯ рдЫ рднрдиреНрдиреЗ рд╕реЛрдЪреНрджреИрдирдиреНред

рдорд╛рдерд┐ рд╡рд░реНрдгрди рдЧрд░рд┐рдПрдХреЛ рд╣реЗрд░рдлреЗрд░ рдкрдЫрд┐, рдЖрджреЗрд╢ ./.local/bin/airflow webserver -p 8080 рд╕рдлрд▓рддрд╛рдкреВрд░реНрд╡рдХ рд╕рдореНрдкрдиреНрди рднрдпреЛред

7.URL: рд▓реЛрдХрд▓рд╣реЛрд╕реНрдЯ: рез8080 /

рдпрджрд┐ рдЕрдШрд┐рд▓реНрд▓реЛ рдЪрд░рдгрд╣рд░реВрдорд╛ рд╕рдмреИ рдХреБрд░рд╛ рд░рд╛рдореНрд░рд░реА рдЧрдпреЛ рднрдиреЗ, рддрдкрд╛рдИрдВ рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рд╢рд┐рдЦрд░рд╣рд░реВ рдЬрд┐рддреНрди рддрдпрд╛рд░ рд╣реБрдиреБрд╣реБрдиреНрдЫред

рдорд▓рд╛рдИ рдЖрд╢рд╛ рдЫ рдХрд┐ Windows 10 рдорд╛ Apache Airflow рд╕реНрдерд╛рдкрдирд╛ рдЧрд░реНрджрд╛ рдорд╛рдерд┐ рд╡рд░реНрдгрди рдЧрд░рд┐рдПрдХреЛ рдЕрдиреБрднрд╡ рдиреМрд╕рд┐рдЦрд┐рдпрд╛ рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдЙрдкрдпреЛрдЧреА рд╣реБрдиреЗрдЫ рд░ рдЖрдзреБрдирд┐рдХ рдПрдирд╛рд▓рд┐рдЯрд┐рдХреНрд╕ рдЙрдкрдХрд░рдгрд╣рд░реВрдХреЛ рдмреНрд░рд╣реНрдорд╛рдгреНрдбрдорд╛ рдЙрдиреАрд╣рд░реВрдХреЛ рдкреНрд░рд╡реЗрд╢рд▓рд╛рдИ рдЧрддрд┐ рджрд┐рдиреЗрдЫред

рдЕрд░реНрдХреЛ рдкрдЯрдХ рдо рд╡рд┐рд╖рдп рдЬрд╛рд░реА рд░рд╛рдЦреНрди рдЪрд╛рд╣рдиреНрдЫреБ рд░ рдореЛрдмрд╛рдЗрд▓ рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВрдХреЛ рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛ рд╡реНрдпрд╡рд╣рд╛рд░ рд╡рд┐рд╢реНрд▓реЗрд╖рдгрдХреЛ рдХреНрд╖реЗрддреНрд░рдорд╛ Apache Airflow рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреЗ рдЕрдиреБрднрд╡рдХреЛ рдмрд╛рд░реЗрдорд╛ рдХреБрд░рд╛ рдЧрд░реНрди рдЪрд╛рд╣рдиреНрдЫреБред

рд╕реНрд░реЛрдд: www.habr.com

рдПрдХ рдЯрд┐рдкреНрдкрдгреА рдердкреНрди