áááá«ááºáž: áá¶ááŒáá¹áá¬áá²á·ááá¹áá¡á ááá¬áááºááá¯ááºáᬠáááá¹áᶠ(áá±ážááá¬) áá±á¬áááá± ááááºážá¡áá»ááºá¡áááºáááºážááá¬áá±á¬ááá²ááŸá¬ áá«ááœá±á·áá²á·áááºá áá«áá±ááá·áº áááºááœá±á·á ááºážáááºááŸá¯áá áºáá¯áááºáá±á¬ááºáá¯á¶áá²á· áááºážá áá áºááá¯ááºáᬠá¡ááááá¬ááá¯á¡áá¯á¶ážáá»ááŒá®áž á ááºážáááºááŸá¯á¡áá»ááºá¡áááºááœá±ááᯠááœá²ááŒááºážá áááºááŒá¬ááá¯á· áááºážáá»á°áá¬ááœá±ááᯠá¡áá¯á¶ážáá»áá²á·áááºá áá«á·á¡ááœáẠá¡áá áºáá±á¬ áááºážááá¬á¡á á¯áá áºáá¯á áá®áááºážááá¬ááœá±ááᯠáá»áœááºážáá»áœááºážáá»ááºáá»áẠáá»áœááºážáá»ááºá¡á±á¬áẠáá¯ááºáá±áá²á· áá¯ááºáááºážá ááºááŸá¬ áá¶áá±á¬ááºážáá±á¬ááºáá áœá¬áá²á· á¡áá¯á¡áá»áááºá¡áá áá»á±á¬áºááœáŸá¬ážááá¯ááºáá²á·áá²á· á¡áááºá¡áá²áá»á¬ážá áœá¬ááᯠáá»áœááºáá±á¬áº ááŒá¯á¶ááœá±á·áá²á·ááá«áááºá Apache ááá±á¬áá»ááºáá»á¬ážááᯠá áááºáá¯ááºááá¯ááºáá±áá°áá»á¬ážá¡ááœáẠá€ááá¯á·á áºááẠá¡áá¯á¶ážáááºááá¯ááºáááºááŒá áºáááºá
ááá¯áá±á¬á· ááœáá¯áá·áº. á
áááºá¡á¬ážáááºááŒáœá
á±áá«áááºá
Airflow áááºáááºááŒááºážá¡ááœáẠáá¯á¶ááŸááºááœáŸááºááŒá¬ážáá»ááºáá»á¬ážááẠWindows áááºáááºážáá»ááºááœáẠáááºáá±á¬ááºáá¯á¶ááá±á«áºáá±á¬ááŒá±á¬áá·áºá á€ááŒá¿áá¬ááá¯ááŒá±ááŸááºážááẠáááºážááᯠá¡áá¯á¶ážááŒá¯áá«á
ááœáŸááºááŒá¬ážáá»ááºáá»á¬ážá á¡ááá·áºáá»á¬ážááᯠááŒááºáááºážááŒáá«á
áá¯á· (spoiler - 5th á¡ááá·áºááœáẠá¡á¬ážáá¯á¶áž á¡áááºááŒá±ááœá¬ážáááº)á
1. Linux ááŒáá·áºáá±ááŸá¯áá»á¬ážá áá±á¬ááºáááºááœá² ááá·áºááœááºážááŸá¯á¡ááœáẠLinux á¡ááœáẠWindows Subsystem ááᯠááá·áºááœááºážááŒááºážá
áá«á áá°ááá¯á·ááŒá±á¬áááᯠááŒá¿áá¬ááœá±áá²á á¡áááºážáá¯á¶ážáá«á
Control Panel â áááá¯ááááºáá»á¬áž â áááá¯ááááºáá»á¬ážááŸáá·áº á¡ááºá¹áá«áááºáá»á¬áž â Windows á¡ááºá¹áá«áááºáá»á¬ážááᯠá¡ááœáá·áºá¡ááááºáá¯ááºááŒááºáž â Linux á¡ááœáẠWindows Subsystem
2. áááºááŸá áºáááºáᬠLinux ááŒáá·áºááŒá°ážááŸá¯ááᯠááá·áºááœááºážáá«á
áá»áŸá±á¬ááºááœáŸá¬ááá¯áá¯á¶ážáá²á·áááºá
3. áááºáááºááŒááºážááŸáá·áº pip ááᯠá¡ááºááááºáá¯ááºáá«á
sudo apt-get install software-properties-common
sudo apt-add-repository universe
sudo apt-get update
sudo apt-get install python-pip
4. Apache Airflow ááᯠááá·áºááœááºážááŒááºážá
export SLUGIFY_USES_TEXT_UNIDECODE=yes
pip install apache-airflow
5. áá±áá¬áá±á·á Ạá áááºááŒááºáž
áá®áá±áá¬á áá»áœááºááá²á·á¡áááºá¡áá²áá±ážááœá± á
áááºáá²á·áááºá ááœáŸááºááŒá¬ážáá»ááºáá»á¬ážááẠááá·áºá¡á¬áž á¡áááá·áºááᯠááá·áºááœááºážááẠááá¯á¡ááºáááºá airflow initdb
ááŒá®ážáá»áŸáẠáá±á¬ááºáá
áºááá·áºááá¯á· áááºááœá¬ážáá«á áá«áá±ááá·áº áá»áœááºáá±á¬áº á¡ááŒá²áááºáž á¡ááŒá±áá
áºáᯠááá²á·áá«áááºá airflow: command not found
. Apache Airflow ááᯠááá·áºááœááºážá
ááºá¡ááœááºáž á¡áááºá¡áá²áá»á¬áž ááŒá
áºáá±á«áºáá¬ááŒá®áž ááá¯á¡ááºáá±á¬ááá¯ááºáá»á¬ážááᯠááá¯ážááŸááºážá
áœá¬ ááááŸáááá¯ááºáᯠáá°áááŒááºážááẠáá¯áá¹áááááºáá«áááºá á¡áá¬á¡á¬ážáá¯á¶ážááẠááŒá
áºááá·áºááá·áºáá±áá¬ááŒá
áºááŒá±á¬ááºáž áá±áá»á¬ááŒá®ážáá±á¬ááºá áá±á
á®ážáááºážááŸá¯ááá¯ááºááá¯á· áááºážááŒá±á¬ááºážá¡ááŒáá·áºá¡á
á¯á¶ááᯠáááºááŸááºááẠááŒáá¯ážá
á¬ážááẠáá¯á¶ážááŒááºáá²á·ááẠ(áááºážááẠá€áá²á·ááá¯á· ááŒá
áºááá·áºáááº- ÐПлМÑй/пÑÑÑ/ЎП/Ñайла/airflow initdb
) ááá¯á·áá±á¬áº á¡á¶á·ááœááºá¡ááŸá¯áááŒá
áºáá²á·áá² á¡ááŒá±á á¡áá°áá°ááẠairflow: command not found
. ááá¯ááºááá¯á· ááœá±áá»áá¯ážáááºážááŒá±á¬ááºážááᯠá¡áá¯á¶ážááŒá¯á ááŒáá¯ážá
á¬ážáá²á·ááẠ(./.local/bin/airflow initdb
) á¡ááŸá¬ážá¡áá
áºáá
áºáá¯áá®ááá¯á· áŠážáááºá
á±áá²á·áááºá ModuleNotFoundError: No module named json'
á
á¬ááŒáá·áºááá¯ááºááᯠá¡ááá·áºááŒáŸáá·áºáááºááŒááºážááŒáá·áº áá»á±á¬áºááœáŸá¬ážááá¯ááºáááºá áááááᬠ(áá»áœááºá¯ááºáááá
á¹á
ááœáẠáá¬ážááŸááºáž 0.15.4 á¡áá)á
pip install werkzeug==0.15.4
werkzeug á¡ááŒá±á¬ááºážááá¯ááá¯áááºááŸá¯ááá¯ááºáá«áááºá
á€ááá¯ážááŸááºážáá±á¬ááá¯ááºááœááºááŒá®ážáá±á¬áẠcommand ááᯠ./.local/bin/airflow initdb
á¡á±á¬ááºááŒááºá
áœá¬ááŒá®ážááŒá±á¬ááºáá²á·áá«áááºá
6. Airflow áá¬áá¬ááᯠá áááºááŒááºáž
á€áááºááŸá¬ áá±áááºáá±ááœááºáááºáá±á¬ááºááẠá¡áááºá¡áá²áá»á¬ážá á¡áá¯á¶ážááá¯ááºáá«á á¡áááá·áºáá
áºáá¯áá¯ááºáá±á¬ááºááŒááºážá ./.local/bin/airflow webserver -p 8080
error ááŒá
áºáá±á«áºáá²á·áááºá No such file or directory
. á¡ááœá±á·á¡ááŒá¯á¶ááŸááá±á¬ Ubuntu á¡áá¯á¶ážááŒá¯áá°áá
áºáŠážááẠcommand ááá¯á¡áá¯á¶ážááŒá¯á ááá¯ááºááá¯áááºáá±á¬ááºááŒááºážááœááºááá¯á¡áááºá¡áá²áá»á¬ážááá¯áá»ááºáá»ááºážáá»á±á¬áºááœáŸá¬ážáááºááŒáá¯ážá
á¬ážáááá·áºáááºááŒá
áºáááºá export PATH=$PATH:~/.local/bin/
(ááá¯ááá¯áááºááŸá¬á /.local/bin/ ááᯠáááºáá² PATH á
á®áá¶áá¯ááºáá±á¬ááºááá¯ááºáá±á¬ ááŸá¬ááœá±ááŸá¯áááºážááŒá±á¬ááºážááá¯á· áá±á«ááºážááá·áºááŒááºáž)á ááá¯á·áá±á¬áº á€ááá¯á·á
áºááẠWindows ááŸáá·áº á¡áááá¡áá¯ááºáá¯ááºáá±á¬áá°áá»á¬ážá¡ááœáẠáááºááœááºááŒá®áž á€ááŒá±ááŸááºážáá»ááºááẠáááºááŸá¬ážáááºáᯠááááºááá¯ááºáá±á
á¡áááºáá±á¬áºááŒáá« manipulation ááŒá®ážáá±á¬ááº, command ááᯠ./.local/bin/airflow webserver -p 8080
á¡á±á¬ááºááŒááºá
áœá¬ááŒá®ážááŒá±á¬ááºáá²á·áá«áááºá
7.URL-
ááááºá¡ááá·áºáá»á¬ážááœáẠá¡áá¬á¡á¬ážáá¯á¶áž áá±á¬ááºážááœááºáá²á·áá«áá áááºááẠááœá²ááŒááºážá áááºááŒá¬ááŸá¯ á¡ááœááºá¡ááááºáá»á¬ážááᯠá¡ááá¯ááºáá°ááẠá¡áááºááá·áºááŒá áºáá±áá«ááŒá®á
Windows 10 ááœáẠApache Airflow ááᯠááá·áºááœááºážáá¬ááœáẠá¡áááºááœááºáá±á¬áºááŒáá¬ážáá±á¬ á¡ááœá±á·á¡ááŒá¯á¶ááẠá¡ááœá±á·á¡ááŒá¯á¶áááŸááá±ážáá±á¬ á¡áá¯á¶ážááŒá¯áá°áá»á¬ážá¡ááœáẠá¡áá¯á¶ážáááºáááºááŒá áºááŒá®áž áá±ááºáá® ááœá²ááŒááºážá áááºááŒá¬ááŸá¯áááááá¬áá»á¬ážá á ááŒáá á¬áá²ááá¯á· áááºážááá¯á·ááááºáá±á¬ááºááŸá¯ááᯠá¡ááŸáááºááŒáŸáá·áºáá±ážáááºáᯠáá»áŸá±á¬áºááá·áºáá«áááºá
áá±á¬ááºáá
áºááŒáááºááœáẠáá»áœááºá¯ááºááẠáá±á«ááºážá
ááºááᯠáááºáááºááŒá®áž ááá¯ááá¯ááºážá¡ááºááºáá®áá±ážááŸááºážáá»á¬ážá á¡áá¯á¶ážááŒá¯áá°áá¡ááŒá¯á¡áá°ááᯠááá¯ááºážááŒá¬ážá
áááºááŒá¬ááŒááºážáááºáááºááœáẠApache Airflow ááá¯á¡áá¯á¶ážááŒá¯ááŒááºážá¡ááœá±á·á¡ááŒá¯á¶á¡ááŒá±á¬ááºáž ááŒá±á¬ááŒááá¯áá«áááºá
source: www.habr.com