ááŒá®ážáá²á·áá±á¬ááŒá±á¬ááºáááá·áºááœáẠáá»áœááºá¯ááºááẠáááºážá¡ááœáẠáááŠážá¡ááŒá±áá¶á¡áá±á¬áẠá¡á¡á¯á¶ááá«áá² ááááºáááºááŸá¯ (áááá¬áá±á¬áá¯ááºáá±á¬ááºáá»ááºá ááááºáááºááŸá¯á
áááº) ááᯠááá¯ááºáá»ááºááẠá
áá
áºáá
áºáá¯ááᯠáááºáá®ážáá±áá«áááºá áá»áœááºá¯ááºááá¯á·áá
áá
áºááœáẠáá»áœááºá¯ááºááá¯á·ááœá±á·ááŸáááŒá®áž á¡áá±á¬ááºá¡áááºáá±á¬áºáá²á·áá±á¬ ááá±á·á¡ááŒá¶áá¬ááºáá»á¬ážááẠááááºáááºááŸá¯áá»á¬ážá
áœá¬ááᯠááŸá¬ááœá±ááŒá®áž ááœá²ááŒááºážá
áááºááŒá¬ááẠáá°áá®áá±ážáá«áááºá á€áá±á¬ááºážáá«ážááœááºá áá»áœááºá¯ááºááá¯á·áá¯ááºáá±á¬ááºáá²á·ááá·áº á¡ááŒá±áá¶áá°áá»á¬ážááŸáá·áº áááºážááá¬ááá¯ááºážááá¯ááºáᬠá¡á
áááºá¡ááá¯ááºážááá¯á· ááááºáá² áá»áœááºá¯ááºááá¯á·áá
áá
áºá áááºááŸáá¡ááŒá±á¡áá±ááá¯á· á¡á±á¬ááºááŒááºááẠáá»áœááºá¯ááºááá¯á·áá¯ááºáá±á¬ááºáá²á·ááá·áºá¡áá¬áá»á¬ážá¡ááŒá±á¬ááºáž ááœá±ážááœá±ážááá¯áá«áááºá
áá»áœááºá¯ááºááá¯á·áá áá áºá¡ááŒá±áá¶áá°áá»á¬áž
"á¡ááá¯á¡áá»á±á¬ááº" ááŸáá·áº "ááááºáááºááŸáá·áºááŒá¬ážááŸá¯" áá²á·ááá¯á·áá±á¬ áá±á«áá¬ááá»á¬ážááᯠáááºááŒá¬ážáá±á¬á¡áá«á áááºááẠá ááºáááºáá°ááŸá¯á Apache Sparká Hadoopá Pythoná Airflow ááŸáá·áº Apache Foundation áá±áá áá áºááŸáá·áº áá±áá¬áááá¹áá¶áááºáááºá០á¡ááŒá¬ážáááºážááá¬áá»á¬ážá¡ááŒá±á¬ááºáž áááºá áááºá ááºážá á¬ážááœááºááŸááááºá á¡áá»á¬ážá¡á¬ážááŒáá·áº áá±á¬áºááŒáá±á·áááŸááá±á¬ á€áááááá¬áá»á¬ážááᯠá¡áá¯á¶ážááŒá¯ááŒááºážá ááá¹ááá áºáá¯ááŸááááºáᯠáá»áœááºáá±á¬áºáááºáááº- áááºážááá¯á·ááᯠáááºá áááºá¡áá¯á¶ážáááŒá¯áá® ááá·áºáá¯ááºáááºážá áá áºááœáẠá¡áá»áá¯á·áá±á¬ ááŒáá¯áááºááá¯á¡ááºáá»ááºáá»á¬áž ááá¯á¡ááºáá«áááºá á¡ááá¯áá»á¯ááºááŒá±á¬ááá»áŸááºá áááºááẠáá±áá¬á¡áá¯ááºááŸáá·áº ááá¯áá±á«ááºáá«áááºááá·áº áá¯ááºáááºážáá±áá¬ááááºáá±á¬ááºážáá áºáᯠááá¯á¡ááºáááºá áá«áá±ááá·áº ááá·áºááŸá¬ á¡á²áá®ááᯠplatform áááŸááá±ážáá² áá®á¡áá±á·á¡áá»áá·áºááᯠáá±á¬áºáá±á¬ááºááá¯á· ááá¯á¡ááºáá±áá±ážáááºáá±á¬á á¡á±á¬ááºááœááºáá±á¬áºááŒáá¬ážáá±á¬ áá»áœááºá¯ááºáá»áŸáá±ááá·áº á¡ááŒá±áá¶áá°áá»á¬ážááẠá¡áá¯ááºááŒá áºááá·áºá¡áá¬ááá¯ááŸá¬ááœá±ááŒááºážááẠáá»áœááºá¯ááºááá¯á·áá áááºáá°ážáá»á¬ážááᯠááá¯ááá¯áá±á¬ááºážááœááºáá¬á á±ááẠá¡á¬áá¯á¶á áá¯ááºááá¯ááºááá·áºáá±áá¬ááá¯á· áá±á¬ááºááŸáááẠáá°áá®áá±ážáá«áááºá ááá¯á·áá±á¬áº á€áááºááŸá¬ ááá±á¬áá»áẠáá¯ááºážááŒááºááŒáá·áºááá¯ááºáá«á áááºážááá¬ááŸáá·áº áá¯ááºáá¯ááºá¡ááŒááºá¡á á¡á á®á¡á ááºááœáẠá¡áá¬áá»á¬ážá áœá¬ ááŸááá«áá±ážáááºá
á ááºážáá»ááºáž 1- áá¯ááºáááºážáááºááá¯áž ááá
áá»áœááºá¯ááºááá¯á·ááẠáá»áœááºá¯ááºááá¯á·áááŒáá¯ážáááºážááŸá¯á¡á¬ážáá¯á¶ážá ááŸá±á·áá¯á¶ážááœáẠâá á®ážááœá¬ážáá±ážáááºááá¯ážâ ááᯠáá¬ážááŸááááºá áá±áá¯áá»á¡á¬ážááŒáá·áºá áááºááá·áº á¡ááá¯á¡áá»á±á¬áẠááœá²ááŒááºážá áááºááŒá¬ááŸá¯á áá áºááẠá¡ááá¯á¡áá»á±á¬ááºá áá áºááŸáá·áº áááºážááá¬ááá¯ááºáᬠááŸá¯ááºááœá±ážááŸá¯ ááŒáá·áºáá¬ážáá±á¬ ááŸá¯ááºááœá±ážáá±á¬ á áá áºáá»á¬ážá¡á¯ááºá á¯ááœáẠááŸááááºá ááŒá®ážááŒáá·áºá á¯á¶áá±á¬ á¡ááŒá±áá áºáá¯ááᯠáááºáá®ážááŒááºážááẠáááºážááᯠá¡á á០áááºáá®ážáááºááá¯áá«á á¡áá»áááºáá»á¬ážá áœá¬ áá°ááááºááŒá áºáááºá áá¯ááºáááºážáááºááá¯ážááᯠááááŠážá á¬ážáá±ážááŒá®áž áááºážááá¬ááŒáá·áºá á¯á¶ááŸá¯ááᯠáá¯ááááá¬ážááá¯á· áá¯á¶ážááŒááºáá²á·áá«áááºá áááºááœá±á·ááááœááºá á€áááºááŸá¬ áá»áœááºá¯ááºááá¯á·ááẠáá±ááºáá®áááºážááá¬ááᯠá¡áá°áá«áá¡ááŒá Ạáááºááá¶ááŒá±á¬ááºáž ááá¯ááá¯áááºá áá»áœááºá¯ááºááá¯á·ááẠááá¯á¡áá»áááºááœáẠáá»áœááºá¯ááºááá¯á·á¡ááœáẠá¡ááá·áºáá±á¬áºáá¯á¶ážáá±á¬ áááºážááá¬ááᯠááœá±ážáá»ááºáá«áááºá á¡áá»áááºááŒá¬áá¬áááºááŸáá·áºá¡áá»áŸá áá»áœááºá¯ááºááá¯á·ááẠá¡áá»áá¯á·áá±á¬ module áá»á¬ážááᯠááŒááºáááºá¡áá±á¬ááºá¡áááºáá±á¬áºááááºáᯠáááºááá±áááºá áá«á áá»áœááºáá±á¬áºááá¯á· áááºáá¶áá¬ážáá²á· ááŸáááŸáá¯ááºážááŸá¯áá«á
áááá¬á 2- áá¬ááºáááºááᯠááŒáŸáá·áºáááºáá«á
á ááºáááºáá°ááŸá¯ááŒá±ááŸááºážáá»ááºáá»á¬ážááœáẠáá²áá²áááºáááºááá«áááºáá°á¡áá»á¬ážá á¯ááẠáá°áá¬ážáá»á¬ážááᯠá¡á á¬ážááá¯ážááŒááºážááẠáááºážááá¯ááºááŒá áºáááºáᯠáááºáá±á¬ááºážáááºááŒáá±áááºá á¡ááŸááºááŸá¬á á ááºáááºáá°ááŸá¯ááŒá±ááŸááºážáá»ááºáá»á¬ážááẠááŒá®ážááŒáá·áºá á¯á¶áááºááŸáá·áº áá±ážááœá¬ááŒá®áž á¡áá»áá¯á·áá±áá¬áá»á¬ážááœááºáᬠá¡á á¬ážááá¯ážááẠááŒá áºááá¯ááºáááºá á¡ááŒá±á¬ááºážááŒáá»ááºáá»á¬ážá áœá¬ááŒáá·áº á€á¡áá°á¡áááᯠáá»áœááºá¯ááºááá¯á· áááºáá»áá«áááº- ááááºáááºááŸá¯ááá¯ááºáᬠáááºáá»ááºááá®áá±á¬ áá±áá¬ááŸáá·áº á ááºáááºáá°ááŸá¯áá±á¬áºáááºáá»á¬ážá¡ááœáẠááŒá®ážááŒáá·áºá á¯á¶áá±á¬ á¡ááºá¹áá«áááºáá»á¬ážá á¬áááºážááᯠáá±ážá áœááºážááá¯ááºááŒááºáž áááŸáááŒááºážá ááá·áºáá»ááºáááºá¡á¬ážááŒáá·áº áá»áœááºá¯ááºááá¯á·ááẠááá¯ááá¯áá±á¬ááºážááœááºáá±á¬ áá¬ááºáááºááœá±ážáá»ááºááŸá¯ááᯠááœá±ážáá»ááºáá²á·áááºá áááºážááẠAI á áá¶á·ááá¯ážáá±ážááá·áº á¡áááºážááá¹áááᯠá¡áá±ážáá±ážááá·áº áá¬ááºáááºáá¯á á¡á á¬ážááá¯áž á¡áá°á¡ááá áºáá¯ááŒá áºááŒá®áž ááááŸá¯áááºážááá¬áá»á¬ážááẠáááºážááᯠá¡á á¬ážááá¯ážááá·áºá¡á á¬áž áá°áá¬ážáá¬ááºáááºááᯠááŒáŸáá·áºáááºááẠáááºááœááºáááºáá°áá±á¬ á¡áá»ááºááᯠá¡áá±ážáá±ážáá¬ážáááºá [1]
á€á¡áá»ááºááŒá±á¬áá·áºá ááŒá®ážááŒáá·áºá á¯á¶áá±á¬ á ááºáááºáá°ááŸá¯ááŒá±ááŸááºážáá»ááºááᯠá¡á ááŸá áááºáááºáá±á¬ááºááẠááá¯á¡ááºáááºááŒá áºááŒá®ážá áá»áœááºá¯ááºááá¯á·ááá¯ááºáááºážá¡ááœáẠáááºááá¯ážáááºáá®ážááŸá¯ááᯠááŸá±á¬áá·áºááŸá±ážá á±ááá·áº ááŒá®ážáá¬ážáá±á¬á¡á¬ážáá¯ááºááŸá¯áá áºáᯠááá¯á¡ááºáááºááŒá áºáááºá áá»áœááºá¯ááºááá¯á·áááá¯ááááºážáá»áœááºážáá»ááºáá°áá»á¬ážá áááºážááœáŸááºááŸá¯á¡á±á¬ááºááœáẠá¡á ááºáá áá¯áẠááŒá®ážááœá¬ážáá¬áá±á¬ á ááºáááºáá°ááŸá¯áá¯á¶á á¶ááŒáá·áº á áá áºáá áºáá¯ááᯠáááºáá±á¬ááºááẠáá¯á¶ážááŒááºáá²á·áááºá ááá¯ááá¯á·áá±á¬á áá áºáá áºáá¯ááᯠáá±á¬áºáá±á¬ááºááŒááºážá á áááºáá±á«áºááŸá¯á¡ááá¯ááºážááŸá¬ áááºážááẠáá»áœááºá¯ááºááá¯á·á ááœá²ááŒááºážá áááºááŒá¬áá°áá»á¬ážááᯠááááºáááºáá¯ááºáá±á¬ááºááŸá¯ áá¯ááºá ááá¯áẠáá°áá±á¬ á ááºážáááºážáá»ááºáá»á¬ážááá¬áá á¡ááŸá¯ááá á¹á áá»á¬ážááá¯áá« áá±ážáá±á¬ááºááááºááŒá áºáá«áááºá áá±áá°áá»á¡á¬ážááŒáá·áºá áá±á¬ááºáááºá¡ááŒá¯á¡áá°ááœáẠááœá²ááœá²ááŸá¯áá áºá á¯á¶áá áºáá¬ááẠáá»áœááºážáá»ááºáá°áá»á¬ážá á á¯á¶á ááºážá á áºáá±ážáááºááŸáá·áº áá áºáááºážáááºážááŒáá·áº áá¯á¶á·ááŒááºááẠááá¯á¡ááºááá·áº áá¶ááááŒá áºááœááºááá á¹á áááºááŒá áºáááºá á¡á á®áááºáá¶áááºááŒáá¬ážáá±á¬ á¡ááŸá¯á¡áááºážáá»á¬ážá áá áºá áááºáá áºááá¯ááºážááá¯áᬠá¡ááŸááºáááẠááááºáááºááŸá¯á¡ááŒá Ạááœá²ááŒá¬ážáááºááŸááºááá¯ááºáááºá
á ááºážáá»ááºáž 3- ááŒáœááºááá±á¬ ááá¯ááºážááŒá¬ážá áááºááŒá¬ááŸá¯ ááááºáá±á¬ááºáž
áá»áœááºá¯ááºááá¯á·áá áá áºá á¡áááºáá²áá¯á¶ážá¡ááá¯ááºážááŸá¬ á áá áºááá¯ááºáááºážá¡ááœá¬ážá¡áá¬ááᯠá¡áá¯á¶ážááŸá¡áá¯á¶ážá¡áá á á áºáá±ážááŒááºážááŒá áºáá«áááºá ááœá²ááŒááºážá áááºááŒá¬áááºá¡ááœáẠá¡áá¯á¶ážááŒá¯ááá·áº áááºááá áºáá»á¬ážá¡á¬ážáá¯á¶ážááᯠáá±á·áá¬áá¯á¶ážáááºáá°áá»á¬ážááŸáá·áº áá±á¬á·ááºáá²áá±ážáá¬ážáá°áá»á¬ážááẠá¡ááœááºááá° ááá°ááá·áºáááºá ááá¯á·á¡ááŒááºá áá±áá¬ááááºáá±á¬ááºážááẠááŸáááŒá®ážáá¬ážáááºááá áºá¡á á¯á¶ááá¯ááºá¡áá áºáá»á¬ážááŸáá·áº ááŒáá·áºá áœááºááẠááœááºáá°áá±á¬áááºážáááºážááᯠáá±ážááá·áºáááºá áá»áœááºá¯ááºááá¯á· áááºáá®ážááá·áº áá¯ááºáááºážá ááºáá»á¬ážááẠáá±á¬á·ááºáá²áẠáá¯ááºáááºážá ááºáá»á¬ážáá¬ááá ááááºáá¬ááá»á¬ážááᯠá¡ááœááºááá° ááŒááºáááºááœááºáá»ááºááŒááºážá áááºááá áºá¡áá áºáá»á¬áž ááá·áºááœááºážááŒááºážááŸáá·áº áá±áá¬ááá·áºááŸááºážáá»ááºááá¯á·ááᯠááŒá±á¬ááºážáá²ááá¯ááºá á±áááºááŒá áºáááºá áá»áœááºá¯ááºááá¯á·á áá¯ááºáá¯ááºááŸá¯á áá áºá០áá¯ááºáá±ážááá·áº áá±áá¬á¡á¬ážáá¯á¶ážááᯠá á¯áá±á¬ááºážááŒááºážááŒáá·áº áááºážááᯠá¡á±á¬ááºááŒááºááá¯ááºáááºá á€ááá á¹á ááœááºá áá±áá¬ááẠáááŒááºážááŒááºáž á¡ááŸá±á¬áá·áºá¡ááŸááºááŒá áºáá¬áááá·áºáááºá áá»áœááºá¯ááºááá¯á· á¡áá¯á¶ážáááŒá¯áá±á¬ áá±áá¬ááá¬á ááá¯ážááœá¬ážáá¬áᬠáááºážááᯠáá¬ááœááºááẠááá¯á¡ááºáááºááŒá áºáááºá ááá¯ááá¯á·áá±á¬á¡ááŒá±á¡áá±áá»áá¯ážááœááºá áá±áá¬ááẠá¡áá»áááºááŒá¬áá¬áááºááŸáá·áºá¡áá»áŸ ááá¯áááá¯ááááºááá¯ááºáá¬áááºááŒá áºáá±á¬áºáááºáž áááºážááá¯á á®áá¶ááá·áºááœá²ááẠáá»áœááºá¯ááºááá¯á·áááŒáá¯ážáááºážá¡á¬ážáá¯ááºááŸá¯áá»á¬áž ááá¯á¡ááºáá±áá±ážáááºá áá»áœááºá¯ááºááá¯á·á¡ááœááºá áá±áá¬á á¯áá¯á¶ááŒááºážááŸá¬ á¡áááá¹áá«ááºáááŸááá±á¬ááŒá±á¬áá·áº ááœá²ááŒá¬ážáá±á¬áá»ááºážáááºááŸá¯áá áºáá¯ááᯠáá¯ááºáá±á¬ááºááẠáá¯á¶ážááŒááºáá²á·áááºá áá»áœááºá¯ááºááá¯á·ááẠáá»áœááºá¯ááºááá¯á· á¡áá»áá¯ážá¡á á¬ážááœá²ááá¯áá±á¬ áá áºááŸááºáá»á¬ážá¡áá®ážáá áºááá¯ááºááœáẠá¡áá»áááºááŸáá·áºáá áºááŒá±ážáá® áá±áá¬á ááá¯ážááá¯ááºáá»á¬ážááᯠá á¯á ááºážááŒá®áž áá±á¬ááºáá¯á¶ážááŸáá·áº áááºááá¯ááºáá¬áá¬ááá»á¬ážááᯠá á áºáá±ážááœáá·áºááŒá¯ááá·áº áá±áá¬áá»á¬ážááá¯áᬠááááºážáááºážááẠáá¯á¶ážááŒááºáá²á·áááºá á€ááŒáá¯ážáááºážá¡á¬ážáá¯ááºááŸá¯á¡ááœáẠá áááºáá±á«áºááŸá¯ááŸá¬ áá»áœááºá¯ááºááá¯á·áá áá áºááẠáááááºáááºážáááºáááºááẠááá¯áá áá¯ááºá á®á ááºááŸá¯ááá¯á¡ááºáá±á¬ áá±áá¬á ááá¯ážááá¯ááºáá»á¬ážááŸáá·áº áá±á¬á·ááºáá² module á¡áá»á¬ážá¡ááŒá¬ážááŒáá·áº ááœá²ááŒá¬ážáá±áá±á¬ááŒá±á¬áá·áºááŒá áºáááºá
áá»áœááºá¯ááºááá¯á·áá áá áºááá®ááá¯ááºážááá±á¬ááá¬ážáá»á¬áž
áá»áœááºá¯ááºááá¯á·áá áá áºááœáẠá¡áááá¡á áááºá¡ááá¯ááºážáá±ážáá¯ááŸááááº- á á¬ážáá¯á¶ážááŸá¯á áá áºá ááœááºáá»ááºááŸá¯ááá¯ááºáá¬á BI ááœá²ááŒááºážá áááºááŒá¬ááŒááºážááŸáá·áº ááŒá±áá¬áá¶ááŒááºážá áá áºá áááºážááá¯á·ááẠáááá»áá±á¬á áá®ážááŒá¬ážáááºááœááºáá»ááºáá»á¬ážááᯠáá±á¬ááºááœááºáá±ážááŒá®áž áá®ážááŒá¬ážáá®ááá¯ááºážáá»ááºážáááºááŸá¯áá»á¬ážááᯠááá¯ááºáá¬ááŒááºážááŒáá·áº áááºážááá¯á·ááᯠáá®ážááŒá¬ážááœá²áá¯ááºáá¬ážáááºá
á á¬áá»á¯ááºá¡ááŒá±áá¶áá®ááá¯ááºáž
ááááŠážá áœá¬á á¡á áááºá¡ááá¯ááºážáá»á¬ážááẠáááºážááá¯á·ááŒá¬ážááœááºááŒááºáááºážáá±á¬ á¡áá»áá¯á·áá±á¬áá±áá¬ááœá²á·á ááºážáá¯á¶áá»á¬áž (á á¬áá»á¯ááºáá»á¬áž) áá±á«áºááœááºáᬠá¡á¬ážááá¯ážááá·áºáááºáᯠáá»áœááºá¯ááºááá¯á·ááá±á¬áá°áá«áááºá áááºážááẠáááºážááá¯á·ááŒá¬ážááœáẠáá±á«ááºážá ááºááẠááœááºáá°á á±ááŒá®áž á¡á áááºá¡ááá¯ááºážáá»á¬ážá áá®ážááŒá¬ážááœá²á·á ááºážááŸá¯ (ááŸáá·áº á¡áááá·áº) ááᯠáááŒáá¬ááºážá á±áá«á á¥ááá¬á¡á¬ážááŒáá·áºá á¡áá»áá¯á·áá±á¬ááá á¹á áá»á¬ážááœáẠáááºážááẠáá»áœááºá¯ááºááá¯á·á¡á¬áž á á¬ážáá¯á¶ážááŸá¯á áá áºá¡á¬áž ááááá±ážáá»ááºááŒá±áá¬áá¶ááŒááºážá áá áºááŸáá·áº ááá¯ááºááá¯ááºáá±á«ááºážá ááºááá¯ááºá á±áá«áááºá ááá¯ááá¯á·áá±á¬á¡ááŒá±á¡áá±áá»áá¯ážááœáẠááá±á¬áá°áá®áá¬ážááá·áº ááááá±ážáá»ááºá á¬áá»á¯ááºááŸáá·áºá¡áá® áá¯ááºáá±á¬ááºáááºááŒá áºáááºá ááá¯ááá¯áááºááŸá¬ á¡á áááºá¡ááá¯ááºážááŸá áºáá¯á áá¯á¶ážááᯠá¡ááŒá¬ážáááºááá·áºá¡á áááºá¡ááá¯ááºážááá¯áááᯠá¡áá¯á¶ážááŒá¯ááá¯ááºááá·áº á á¬áá»á¯ááºááᯠá¡áá¯á¶ážááŒá¯á áá±á«ááºážá ááºááœá¬ážáááºááŒá áºáááºá ááá·áºááœááºážááŸá¯á áá áºá០ááŒá±áá¬áá¶á áá áºááá¯á· ááááá±ážáá»ááºáá»á¬ážááá·áºááẠáá±á¬ááºáááºá á¬áá»á¯ááºáá áºáᯠáááºááá·áºáááºááá¯ááºáá«á á€áá»ááºážáááºááŸá¯ááẠááŒáá¯áááºáááºááŸááºáá¬ážáá±á¬ á¡áááºážáá¯á¶ážá á¬áá»á¯ááºá¡áá±á¡ááœááºááᯠá¡áá¯á¶ážááŒá¯áááºááŸáá·áº á áá áºááŸáá·áº áááºááœááºáá±ážááᯠááá¯ážááŸááºážá á±áááºá á¡ááŒá±áá¶á¡á¬ážááŒáá·áºá áá»áœááºá¯ááºááá¯á·ááẠ"Contract First Design" áá¯áá±á«áºáá±á¬ áá»ááºážáááºááŸá¯ááá¯áá¶áá°ááŒá®áž áááºážááᯠstreaming á á¬áá»á¯ááºáá»á¬ážááœáẠá¡áá¯á¶ážááŒá¯áá«áááºá [2]
áá±áá¬á¡ááŸá¶á·ááœáŸáá·áº
á áá áºáá áºáá¯ááœáẠááá¯ááºáá¶áá±á¬áºááᯠááááºážáááºážááŒááºážááŸáá·áº á á®áá¶ááá·áºááœá²ááŒááºážááẠáááºážá á¡áá±á¬ááºá¡áááºáá±á¬áºááŸá¯ááœáẠááŸá¯ááºááœá±ážááŸá¯áá»á¬ážááᯠáááœá²áááœá±ááŒá áºáá±á«áºá á±áááºááŒá áºáááºá áá±áá°áá»á¡á¬ážááŒáá·áºá ááŒááºáááºááẠáááºááá·áº á¡á áááºá¡ááá¯ááºážá០áááºáá±á¬ááºááá¯ááºááá·áºáááºá áááºážááẠáááááºáááºážááŒá áºááŒá®áž á¡á áááºá¡ááá¯ááºážá¡á¬ážáá¯á¶ážááœáẠáááºááŸááááºááá¯ážááᯠáá±ážáá±á¬ááºááá·áºááŒá®áž áááºážááẠááŸááºáááºáá±á¬áááºááá¯ážáá»á¬ážááŒáá·áº áá¯á¶ááŒááºááá±áááºá ááá¯á·á¡ááŒááºá áá±á¬ááºáá¯á¶ážá¡ááŒá±á¡áá±á¡á¬áž ááŒááºáááºááá°ááẠá¡ááŒá²áááŒááºááá¯ááŸá±á¬ááºááŸá¯ááá¯á· áá±á«áºááá¯ááŸá¯áá»á¬ážááŸáááŒááºážá áá»áœááºá¯ááºááá¯á·áá¡áá»áááºááŸáá·áºáá áºááŒá±ážáá® ááá¯ááºááá¯ááºážáá»á¬ážááœáẠá¡áá¯á¶ážááŒá¯ááá·áº á¡ááºáááá¯áá®áááºáá»á¬ážá ááŸá¯ááºááœá±ážááŸá¯á¡áá±á¡ááœááºááŸáá·áº I/O áá¯ááºáá±á¬ááºáá»ááºáá»á¬ážááᯠááá¯ážáá¬á á±áááºááŒá áºáááºá ááá¯á·á¡ááœááºááŒá±á¬áá·áº ááŒá áºááá¯ááºáá«á ááŒááºáááºááá¯ááŸá±á¬ááºááŸá¯á áá áºá០áá¯á¶ážááááºááŸá¬ážááẠáá¯á¶ážááŒááºáá²á·áááºá á€áá»ááºážáááºááŸá¯ááœáẠááá¯á¡ááºáá±á¬áá±áá¬á¡á¬ážáá¯á¶ážááᯠáá¯ááºááœáŸáá·áºááá·áºáá±áá¬ááááºááá¯á·ááŒááºáž (áááºáá±á·áá»áº) ááœáẠááá·áºááœááºážááẠááá¯á¡ááºáááºá á¥ááá¬á¡á¬ážááŒáá·áºá á¡áá»áá¯á·áá±á¬ á á°ážá ááºážáá±á·áá¬ááŸá¯áá»á¬ážá á á¯á á¯áá±á«ááºážá¡áá±á¡ááœááºááᯠááœááºáá»ááºááẠááá¯á¡ááºáá«á (á¡áá»áá¯á·áá±á¬ ááá¹ááá¬áá»á¬ážááŸáááá·áº áá¯ááºáá±á¬ááºáá»áẠá¡áá±á¡ááœááº) ááᯠáááºááá¯áá®ááœáẠááœááºáá»ááºááŒá®áž ááá¯áá²á·ááá¯á·áá±á¬ áááºááá¯ážáá»á¬ážááᯠáá¯ááºáá±ážáá«áááºá ááŸá®ááá¯áá±áá±á¬ module áá»á¬ážááẠstream ááᯠentities áá»á¬ážá¡ááŒá áºááœá²ááŒá®áž áá±á¬ááºáá¯á¶ážáááºááá¯ážáá»á¬ážááá¯áá¯ááºáá±á¬ááºáááºá¡ááœáẠpartition ááŸáá·áº batch ááá¯á¡áá¯á¶ážááŒá¯áá«áááºá á€áááºážáááºážááẠááá¯áá²á·ááá¯á·áá±á¬áá±áá¬á¡ááœáẠááŒá²ááŒá¶áá±á¬áá áºááá¯ááŸá±á¬ááºááŸá¯ááá¯á¡ááºááŸá¯ááᯠáááºááŸá¬ážáá±ážáááºá áá»áœááºá¯ááºááá¯á·áá áá áºááẠKafka ááᯠáááºáá±á·áá»áºááœá²á á¬ážá¡ááŒá Ạá¡áá¯á¶ážááŒá¯áᬠKSQL ááŸáá·áº áá±áá¬áá±á·á áºáá áºáá¯á¡ááŒá Ạá¡áá¯á¶ážááŒá¯ááá¯ááºáááºá [3] ááá¯á·áá±á¬áº áááºážááá¯á¡áá¯á¶ážááŒá¯ááŒááºážááŒáá·áº áá»áœááºá¯ááºááá¯á·áááŒá±ááŸááºážáá»ááºá¡á¬áž Kafka ááŸáá·áº ááŒá®ážáá¬ážá áœá¬ áá»áááºáááºááá¯ááºáááºááŒá áºááŒá®áž áááºážááᯠááá¯á¶ážááẠáá¯á¶ážááŒááºáá²á·áááºá áá»áœááºá¯ááºááá¯á·ááœá±ážáá»ááºáá±á¬áááºážáááºážááẠá áá áºááœáẠááŒá®ážááŒá®ážáá¬ážáá¬ážá¡ááœááºážááá¯ááºážááŒá±á¬ááºážáá²ááŸá¯áááŸááá² Kafka ááᯠá¡ááŒá¬ážáááºáá±á·ááºá»ááœá²á á¬ážááŒáá·áº á¡á á¬ážááá¯ážááá¯ááºá á±áá«áááºá
á€á¡áá°á¡áááẠáá»áœááºá¯ááºááá¯á·ááẠáá áºááºááá¯ááŸá±á¬ááºááŸá¯ááŸáá·áº áá±áá¬áá±á·á áºáá»á¬ážááᯠá¡áá¯á¶ážáááŒá¯áᯠáááá¯ááá¯áá«á á áá áºá áœááºážáá±á¬ááºáááºááᯠá ááºážáááºááŒá®áž ááá¯ááºážááŒá¬ážá áááºááŒá¬áááºá á¡áá»áá¯ážáá»áá¯ážáá±á¬ áááºááá áºáá»á¬ážááŸáá·áº ááŒááºáááºáá»á¬ážááᯠááá¯ááºá á¬ážááŒá¯ááá·áº áá áºáá±á«áºááœáẠáá±áá¬ááá¬ááá»á¬ážá áœá¬ááᯠááááºážáááºážááẠááá¯á¡ááºáá«áááºá á€áá±áá¬ááœáẠá¡áá±ážááŒá®ážáá±á¬á¡áá»ááºááŸá¬ á¡áá»áááºááŸáá·áºáááŒá±ážáá® algorithms áá»á¬ážááẠááá¯áá±áá¬áá±á«áºááœáẠááá°áááºáá«á ááá á¹á á¡áá»á¬ážá á¯ááœááºá áá»áœááºá¯ááºááá¯á·ááẠá¡á±á¬á·ááºááá¯ááºážááœá²ááŒááºážá áááºááŒá¬ááŸá¯á á¡ááŸá¬ážááŸá¬ááŒááºááŒááºážááŸáá·áº á áá áºááŸáá¯ááºáá¯ááºááá·áº áá®ážááŒá¬ážááŒá áºáááºáá»á¬ážááŸáá·áº ááááºáá»á¬ážááᯠááŒá±áá¬áá¶ááŒááºážá¡ááœáẠááááºážáááºážáá¬ážáá±á¬áá±áá¬ááᯠá¡áá¯á¶ážááŒá¯áá«áááºá
áá»áœááºá¯ááºááá¯á·áá áá áºáááŒá¿áá¬áá»á¬áž
á¡áá»áá¯á·áá±á¬ ááŒá¿áá¬áá»á¬ážááᯠáá»áœááºá¯ááºááá¯á· ááŒá±ááŸááºážááŒá®ážááá·áº á¡ááá·áºááœáẠááŸááááºá ááá¯á·áá±á¬áº áááºážááá¯á·ááẠááá¯ááᯠááœá±ážáá±á«áºááŒá±á¬áºááŒááºáá±á¬ ááŒá±ááŸááºážááŸá¯áá»á¬áž ááá¯á¡ááºáá«áááºá á¡áá¯áá»áœááºáá±á¬áºááŒá±á¬áá»ááºáá¬á á¡áá»ááºáá áºáá¯á á®ááá¯ááºážáᬠáá°á·ááá¯ááºááá¯ááºáá±á¬ááºážáá«ážáá²á·ááá¯ááºáááºáá¬ááŒá±á¬áá·áº áá°ááá¯á·ááᯠáá®áá±áá¬ááŸá¬ áá±á¬áºááŒáá»ááºáá«áááºá
- áá»áœááºá¯ááºááá¯á·á á¡ááá¯á¡áá»á±á¬áẠáá±áá¬ááœá²ááŒááºážá áááºááŒá¬ááŸá¯á ááŸá¬ááœá±ááœá±á·ááŸáááŸá¯ááŸáá·áº á á°ážá ááºážááŸá¬ááœá±ááŸá¯á¡ááœáẠá¡áááá¹áá¬ááºááŒáá·áºáááŒá®áž áááºááá¯ááºáá¬áá±áá¬áá»á¬áž á á¯áá±á¬ááºážááŒááºážááᯠáá¶á·ááá¯ážáá±ážááá·áº áá¯ááºáááºážá ááºáá»á¬ážááŸáá·áº áá°áá«ááá»á¬ážááᯠáá»áœááºá¯ááºááá¯á· áááºááŸááºááẠááá¯á¡ááºáá±áá±ážáááºá
- áá°áá¬ážááœá²ááŒááºážá áááºááŒá¬ááŸá¯ááœáẠáá±á«ááºážá ááºááá·áºááœááºážááŒááºážááẠáááºážááᯠáá±á¬ááºáá¯á¶ážáá±áá¬ááŒáá·áº á¡ááºááááºáá¯ááºáááºá¡ááœáẠá¡ááá¯á¡áá»á±á¬ááºá áá áºááá·áºááœááºážááŒááºážáá¯ááºáááºážá ááºááœáẠááááºáá»á¬ážááŒá áºáááºá áááºážááẠáá»áœááºá¯ááºááá¯á·á áá±á¬áºáááºááᯠááœááºážáá¶áá¯á¶áá¬áá áá»áœááºá¯ááºááá¯á·á áá¯ááºáááºážá ááºáá»á¬ážááᯠá¡ááºááááºáá¯ááºááŒááºážááŸáá·áº áá»áœááºá¯ááºááá¯á·á áá±áá¬áá»á¬ážááᯠáá¬ážáááºááŸá¯ ááá¯ážáááºá á±áá«áááºá
- IF-ELSE ááŸáá·áº ML á á¡áá¯á¶ážá áœááºáá±á¬ áá»ááºážáááºááŸá¯ááŒá¬áž áá»áááºááœááºáá»áŸá¬ááᯠááŸá¬ááœá±ááŒááºážá áá áºá á¯á¶áá áºáŠážá "ML ááẠá áááºáá»ááºá¡á¬ážáááºáá°áá»á¬ážá¡ááœáẠáááááá¬áá áºáá¯ááŒá áºáááºá" ááá¯ááá¯áááºááŸá¬ áááºá á¡ááºáááá¯áá®áááºáá»á¬ážááᯠáááºááá¯á·ááá¯áá±á¬ááºážá¡á±á¬áẠááŒáŸáá·áºáááºááááºááᯠáá¬ážááááºáá±á¬á¡áá«ááœáẠáááºááẠML ááᯠá¡áá¯á¶ážááŒá¯ááá¯áááºááŒá áºáááºá á¡ááŒá¬ážáá áºáááºááœááºá á¡áá¯á¶ážá¡ááŒááºáá±ážááá·áºáá»ááºážáááºááŸá¯ááŸá¬ ááá»áŸá±á¬áºááŸááºážáá¬ážááá·áº ááœá²ááœá²áá»ááºáá»á¬ážááᯠáá±á¬ááºááŸááºážááá¯ááºááœáá·áºáááŸááá«á
- áá»áœááºá¯ááºááá¯á·ááẠáá»áœááºá¯ááºááá¯á·á áá°ááá»áẠááá¯á·ááá¯áẠáá±áá¬ááŸá áááºááá áºáá»á¬ážááŒá¬áž áááºá ááºááŸá¯áá»á¬ážááᯠá ááºážáááºááẠááá¯ážááŸááºážáá±á¬áááºážáááºáž ááá¯á¡ááºáá«áááºá
- á áá áºááœáẠá á áºááŸááºáá±á¬ á¡ááŒá¯ááá±á¬ ááááºáá»á¬áž á¡ááá·áºáá»á¬ážá áœá¬ ááŸáááá«áááºá ááááºáááºááŸá¯ááá á¹á áá»á¬ážááẠá áá áºá¡ááœáẠá¡ááŒá¯ááá±á¬áᯠáá°áááá¯ááºááá·áº á¡ááŸá¯á¡á¬ážáá¯á¶ážá áá áºá áááºáá áºááá¯ááºážáá»áŸáá¬ááŒá áºáááºá á¥ááá¬á¡á¬ážááŒáá·áºá áá±á·áá¬áá¯á¶ážáááºáá°áá»á¬ážááẠáá¶ááááŒá áºááœááºááá á¹á áá»á¬ážááᯠá¡áááºááŒá¯áááºá¡ááœáẠáááºáá¶ááá¯ááŒááŒá®áž áááºážááá¯á·áá²á០á¡áááºážáááºáᬠááááºáááºááŸá¯áá»á¬ážááŒá áºáááºá á áá áºááẠá¡ááŸááºáááẠááááºáááºááŸá¯ ááá¯á·ááá¯áẠáá¶ááááŒá áºááœááºá¡ááŒá¯á¡áá°áá»á¬ážáááºááŒá áºá á± ááááºááá¯ááºááá·áº ááá á¹á á¡á¬ážáá¯á¶ážááᯠáá±á·áá¬áá¯á¶ážáááºáá°áá»á¬ážáᶠáááááá±á¬ááºáá±á¬ááºáááºááŒááá«áááºá
- áá±áá¬ááááºáá±á¬ááºážááẠááœááºáá»ááºááŸá¯áá»á¬áž áá¯ááºáá±ážááŒá®áž á¡ááŒááºááœááºáá»ááºááŒááºážááŒáá·áº áááá¯ááºážáááºáá±áá¬á¡ááœá²áá»á¬ážááᯠáá¯ááºáá°ááá¯ááºááá«áááºá
- áá¯ááºáá¯ááºááŸá¯á á ááºážáááºááŸá¯ (áá®áá¬) ááŸáá·áº áá±á¬á·ááºáá²á¡ááºáá»ááºáá®áá¬áá»á¬ážá¡ááœáẠá¡áááºážáá¯á¶áž ááá°áá®áá±á¬ áááºáááºážáá»ááºáá¯á¶ážáá»áá¯ážááœáẠá áá áºá¡á áááºá¡ááá¯ááºážáá»á¬ážááᯠá¡ááœááºááá° á¡ááá¯á¡áá»á±á¬áẠá¡áá¯á¶ážáá»áá«á
- áá±á¬ááºáá¯á¶áž áá«áá±ááá·áº á¡áááºážáá¯á¶ážáá±á¬á· ááá¯ááºáá«áá°ážá áá»áœááºá¯ááºááá¯á·ááá±á¬áºáááºáá»á¬ážááá¯ááœá²ááŒááºážá áááºááŒá¬ááá¯ááºááá·áºááŒáœááºááá±á¬á áœááºážáá±á¬ááºáááºá ááºážáááºááŒááºážááááºáá±á¬ááºážááá¯áááºáá±á¬ááºáááºááá¯á¡ááºáááºá [4]
ááá¯ážáá¬áž
Augmented Intelligence ááá¯áᬠáá¬áá²á API-First Design Methodology ááᯠá¡áá±á¬ááºá¡áááºáá±á¬áºááŒááºážá Kafka ááẠ"ááŒá áºáááºááœáŸáá·áºáá±áá¬áá±á·á áº" ááá¯á·ááŒá±á¬ááºážáá²áá±ááẠAUC - ROC Curve ááᯠáá¬ážáááºááŒááºážá
source: www.habr.com