рд╡рд┐рдЧрдд рдЖрда рд╡рд░реНрд╖рджреЗрдЦрд┐ рдо рдкрд░рд┐рдпреЛрдЬрдирд╛ рдкреНрд░рдмрдиреНрдзрдХрдХреЛ рд░реВрдкрдорд╛ рдХрд╛рдо рдЧрд░рд┐рд░рд╣реЗрдХреЛ рдЫреБ (рдо рдХрд╛рдордорд╛ рдХреЛрдб рд▓реЗрдЦреНрджрд┐рди), рдЬрд╕рд▓реЗ рд╕реНрд╡рд╛рднрд╛рд╡рд┐рдХ рд░реВрдкрдорд╛ рдореЗрд░реЛ рдкреНрд░рд╛рд╡рд┐рдзрд┐рдХ рдмреНрдпрд╛рдХрдЗрдиреНрдбрд▓рд╛рдИ рдирдХрд╛рд░рд╛рддреНрдордХ рд░реВрдкрдорд╛ рдЕрд╕рд░ рдЧрд░реНрдЫред рдореИрд▓реЗ рдореЗрд░реЛ рдкреНрд░рд╛рд╡рд┐рдзрд┐рдХ рдЧреНрдпрд╛рдк рдмрдиреНрдж рдЧрд░реНрдиреЗ рд░ рдбрд╛рдЯрд╛ рдЗрдиреНрдЬрд┐рдирд┐рдпрд░рдХреЛ рдкреЗрд╢рд╛ рд▓рд┐рдиреЗ рдирд┐рд░реНрдгрдп рдЧрд░реЗрдВред рдбрд╛рдЯрд╛ рдЗрдиреНрдЬрд┐рдирд┐рдпрд░рдХреЛ рдореБрдЦреНрдп рд╕реАрдк рднрдиреЗрдХреЛ рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ рдбрд┐рдЬрд╛рдЗрди, рдирд┐рд░реНрдорд╛рдг рд░ рдорд░реНрдордд рдЧрд░реНрдиреЗ рдХреНрд╖рдорддрд╛ рд╣реЛред
рдореИрд▓реЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдпреЛрдЬрдирд╛ рдмрдирд╛рдПрдХреЛ рдЫреБ, рдорд▓рд╛рдИ рд▓рд╛рдЧреНрдЫ рдХрд┐ рдпреЛ рдореЗрд░реЛ рд▓рд╛рдЧрд┐ рдорд╛рддреНрд░ рд╣реЛрдЗрди рдЙрдкрдпреЛрдЧреА рд╣реБрдиреЗрдЫред рдпреЛрдЬрдирд╛ рд╕реНрд╡-рдЕрдзреНрдпрдпрди рдкрд╛рдареНрдпрдХреНрд░рдорд╣рд░реВрдорд╛ рдХреЗрдиреНрджреНрд░рд┐рдд рдЫред рд░реБрд╕реА рднрд╛рд╖рд╛рдорд╛ рдирд┐:рд╢реБрд▓реНрдХ рдкрд╛рдареНрдпрдХреНрд░рдорд╣рд░реВрд▓рд╛рдИ рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рджрд┐рдЗрдиреНрдЫред
рдЦрдгреНрдбрд╣рд░реВ:
- рдПрд▓реНрдЧреЛрд░рд┐рджрдо рд░ рдбрд╛рдЯрд╛ рд╕рдВрд░рдЪрдирд╛ред рдХреБрдЮреНрдЬреА рдЦрдгреНрдбред рдпреЛ рд╕рд┐рдХреНрдиреБрд╣реЛрд╕реН рд░ рдЕрд░реВ рд╕рдмреИ рдХрд╛рдо рдкрдирд┐ рд╣реБрдиреЗрдЫред рдХреЛрдбрдорд╛ рдЖрдлреНрдиреЛ рд╣рд╛рдд рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрди рд░ рдЖрдзрд╛рд░рднреВрдд рд╕рдВрд░рдЪрдирд╛ рд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдорд╣рд░реВ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рдЫред
- рдбрд╛рдЯрд╛рдмреЗрд╕ рд░ рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ, рд╡реНрдпрд╛рдкрд╛рд░ рдЦреБрдлрд┐рдпрд╛ред рд╣рд╛рдореА рдПрд▓реНрдЧреЛрд░рд┐рджрдордмрд╛рдЯ рдбрд╛рдЯрд╛ рднрдгреНрдбрд╛рд░рдг рд░ рдкреНрд░рд╢реЛрдзрдирдорд╛ рдЬрд╛рдБрджреИрдЫреМрдВред
- Hadoop рд░ рдмрд┐рдЧ рдбрд╛рдЯрд╛ред рдЬрдм рдбрд╛рдЯрд╛рдмреЗрд╕ рд╣рд╛рд░реНрдб рдбреНрд░рд╛рдЗрднрдорд╛ рд╕рдорд╛рд╡реЗрд╢ рдЧрд░рд┐рдПрдХреЛ рдЫреИрди, рд╡рд╛ рдЬрдм рдбрд╛рдЯрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫ, рддрд░ рдПрдХреНрд╕реЗрд▓рд▓реЗ рддрд┐рдиреАрд╣рд░реВрд▓рд╛рдИ рд▓реЛрдб рдЧрд░реНрди рд╕рдХреНрджреИрди, рдареВрд▓реЛ рдбрд╛рдЯрд╛ рд╕реБрд░реБ рд╣реБрдиреНрдЫред рдореЗрд░реЛ рд╡рд┐рдЪрд╛рд░рдорд╛, рдЕрдШрд┐рд▓реНрд▓рд╛ рджреБрдИрд╡рдЯрд╛ рдЧрд╣рд┐рд░реЛ рдЕрдзреНрдпрдпрди рдЧрд░реЗрдкрдЫрд┐ рдорд╛рддреНрд░ рдпреЛ рдЦрдгреНрдбрдорд╛ рдЕрдЧрд╛рдбрд┐ рдмрдвреНрди рдЖрд╡рд╢реНрдпрдХ рдЫред
рдПрд▓реНрдЧреЛрд░рд┐рджрдо рд░ рдбрд╛рдЯрд╛ рд╕рдВрд░рдЪрдирд╛
рдореЗрд░реЛ рдпреЛрдЬрдирд╛рдорд╛, рдореИрд▓реЗ рдкрд╛рдЗрдерди рд╕рд┐рдХреНрдиреЗ, рдЧрдгрд┐рдд рд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдорд╛рдЗрдЬреЗрд╕рдирдХреЛ рдЖрдзрд╛рд░рднреВрдд рдХреБрд░рд╛рд╣рд░реВ рджреЛрд╣реЛрд░реНрдпрд╛рдЙрдиреЗ рд╕рдорд╛рд╡реЗрд╢ рдЧрд░реЗрдВред
Python рдорд╛ рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдЩ рдкрд╛рдЗрдерди: рдЖрдзрд╛рд░рднреВрдд рд░ рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВ рд░реЗрдЦреАрдп рдмреАрдЬрдЧрдгрд┐рдд рдЕрд▓рдЧ рдЧрдгрд┐рдд рдорд╛ Likbez рдПрд▓реНрдЧреЛрд░рд┐рджрдо: рд╕рд┐рджреНрдзрд╛рдиреНрдд рд░ рдЕрднреНрдпрд╛рд╕ред рд╡рд┐рдзрд┐рд╣рд░реВ рдПрд▓реНрдЧреЛрд░рд┐рджрдо: рд╕рд┐рджреНрдзрд╛рдиреНрдд рд░ рдЕрднреНрдпрд╛рд╕ред рдбрд╛рдЯрд╛ рд╕рдВрд░рдЪрдирд╛рд╣рд░реВ
рдбрд╛рдЯрд╛рдмреЗрд╕ рд░ рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ, рд╡реНрдпрд╛рдкрд╛рд░ рдЦреБрдлрд┐рдпрд╛
- рдкреБрд╕реНрддрдХ: рдорд╛рд░реНрдЯрд┐рди рдХреНрд▓реЗрдкрдореНрдпрд╛рди - рдЕрддреНрдпрдзрд┐рдХ рд▓реЛрдб рдЧрд░рд┐рдПрдХрд╛ рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВред рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдЩ, рд╕реНрдХреЗрд▓рд┐рдВрдЧ, рд╕рдорд░реНрдердиред рдкреБрд╕реНрддрдХрд▓реЗ рд╡рд┐рднрд┐рдиреНрди рдбреЗрдЯрд╛ рдореЛрдбреЗрд▓рд╣рд░реВрд▓реЗ рдХрд╕рд░реА рдХрд╛рдо рдЧрд░реНрдЫ, рднрд┐рддреНрд░рдмрд╛рдЯ рддрд┐рдиреАрд╣рд░реВрдХреЛ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди, рд╕реАрдорд┐рддрддрд╛рд╣рд░реВ рд░ рдХрд╛рд░реНрдпрд╣рд░реВрдорд╛ рдирд┐рд░реНрднрд░ рдЫрдиреМрдЯрд╣рд░реВ рд╡рд░реНрдгрди рдЧрд░реНрджрдЫред
рдбрд╛рдЯрд╛рдмреЗрд╕ рдХреЛ рдкрд░рд┐рдЪрдп DBMS рдорд╛ рдбреБрдмреНрдиреБрд╣реЛрд╕реН рдЧреИрд░-рд░рд┐рд▓реЗрд╢рдирд▓ рдбрд╛рдЯрд╛рдмреЗрд╕рд╣рд░реВрдХреЛ рдкрд░рд┐рдЪрдп
рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ, ETL, OLAP рдХреНрдпреВрдмрд╣рд░реВ рдирд┐рд░реНрдорд╛рдгрд╕рдБрдЧ рд╕рдореНрдмрдиреНрдзрд┐рдд рд╡рд┐рд╖рдпрд╣рд░реВ рдЙрдкрдХрд░рдгрд╣рд░реВрдорд╛ рдЕрддреНрдпрдзрд┐рдХ рдирд┐рд░реНрднрд░ рдЫрдиреН, рддреНрдпрд╕реИрд▓реЗ рдо рдпрд╕ рдХрд╛рдЧрдЬрд╛рддрдорд╛ рдкрд╛рдареНрдпрдХреНрд░рдорд╣рд░реВрдХреЛ рд▓рд┐рдЩреНрдХрд╣рд░реВ рджрд┐рдБрджрд┐рдиред рдПрдХ рд╡рд┐рд╢реЗрд╖ рдХрдореНрдкрдиреА рдорд╛ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдкрд░рд┐рдпреЛрдЬрдирд╛ рдорд╛ рдХрд╛рдо рдЧрд░реНрджрд╛ рдпрд╕реНрддреЛ рдкреНрд░рдгрд╛рд▓реА рдЕрдзреНрдпрдпрди рдЧрд░реНрди рд╕рд▓реНрд▓рд╛рд╣ рджрд┐рдЗрдиреНрдЫред ETL рд╕рдВрдЧ рдкрд░рд┐рдЪрд┐рдд рдХреЛ рд▓рд╛рдЧреА, рддрдкрд╛рдЗрдБ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫ
рдореЗрд░реЛ рд╡рд┐рдЪрд╛рд░рдорд╛, рдЖрдзреБрдирд┐рдХ рдбрд╛рдЯрд╛ рднрд▓реНрдЯ рдбрд┐рдЬрд╛рдЗрди рдкрджреНрдзрддрд┐ рдЕрдзреНрдпрдпрди рдЧрд░реНрдиреБ рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рдЫ
рдЕрдиреНрдд рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд╣рд░реВрдХрд╛ рд▓рд╛рдЧрд┐ рд╡реНрдпрд╛рдкрд╛рд░ рдЦреБрдлрд┐рдпрд╛ рдЙрдкрдХрд░рдгрд╣рд░реВрд╕рдБрдЧ рдкрд░рд┐рдЪрд┐рдд рд╣реБрди, рддрдкрд╛рдИрдВрд▓реЗ рд░рд┐рдкреЛрд░реНрдЯрд╣рд░реВ, рдбреНрдпрд╛рд╕рдмреЛрд░реНрдбрд╣рд░реВ, рдорд┐рдиреА рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ Power BI рдбреЗрд╕реНрдХрдЯрдкрдХреЛ рдирд┐:рд╢реБрд▓реНрдХ рдбрд┐рдЬрд╛рдЗрдирд░ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫред рд╢реИрдХреНрд╖рд┐рдХ рд╕рд╛рдордЧреНрд░реА:
Hadoop рд░ рдмрд┐рдЧ рдбрд╛рдЯрд╛
- рддрдкрд╛рдИрдВрд▓реЗ рддреЗрд╕реНрд░реЛ-рдкрдХреНрд╖ рдкреБрд╕реНрддрдХрд╛рд▓рдпрд╣рд░реВ рдмрд┐рдирд╛ MapReduce рдХреЛ рдПрдХ рд╕реНрд╡рддрдиреНрддреНрд░ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрдирдХреЛ рд╕рд╛рде рд╕реБрд░реБ рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫред рдпрд╕рд▓реЗ рднрд╡рд┐рд╖реНрдпрдорд╛ рдорд▓реНрдЯрд┐рдереНрд░реЗрдб рдЧрд░рд┐рдПрдХрд╛ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрдирд╣рд░реВрдХреЛ рд░рд╛рдореНрд░реЛрд╕рдБрдЧ рдмреБрдЭреНрдирдХреЛ рд▓рд╛рдЧрд┐ рдЕрдиреБрдорддрд┐ рджрд┐рдиреЗрдЫред рдкрд╛рдЗрдерди рдорд╛ рдПрдХ рдЙрддреНрдХреГрд╖реНрдЯ рдЙрджрд╛рд╣рд░рдг рд╡рд░реНрдгрди рдЧрд░рд┐рдПрдХреЛ рдЫ
рдпрд╣рд╛рдБ . рд╣рдбреБрдкред рдареВрд▓реЛ рдорд╛рддреНрд░рд╛рдорд╛ рдбрд╛рдЯрд╛ рдкреНрд░рд╢реЛрдзрди рдЧрд░реНрдиреЗ рдкреНрд░рдгрд╛рд▓реАред рдмрд┐рдЧ рдбрд╛рдЯрд╛ рдИрдиреНрдЬрд┐рдирд┐рдпрд░рд┐рдЩреН рдХреЛ рдкрд░рд┐рдЪрдп
рдирд┐рд╖реНрдХрд░реНрд╖рдорд╛
рддрдкрд╛рдИрдВрд▓реЗ рд╕рд┐рдХреЗрдХрд╛ рд╕рдмреИ рдХреБрд░рд╛ рдХрд╛рдордорд╛ рд▓рд╛рдЧреВ рдЧрд░реНрди рд╕рдХрд┐рдБрджреИрдиред рддреНрдпрд╕рдХрд╛рд░рдг, рддрдкрд╛рдИрд▓рд╛рдИ рд╕реНрдирд╛рддрдХ рдкрд░рд┐рдпреЛрдЬрдирд╛ рдЪрд╛рд╣рд┐рдиреНрдЫ рдЬрд╕рдорд╛ рддрдкрд╛рдИрд▓реЗ рдирдпрд╛рдБ рдЬреНрдЮрд╛рди рд▓рд╛рдЧреВ рдЧрд░реНрдиреЗ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрдиреБрд╣реБрдиреЗрдЫред
рдпреЛрдЬрдирд╛рдорд╛ тАЛтАЛрдбреЗрдЯрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рд░ рдореЗрд╕рд┐рди рд▓рд░реНрдирд┐рдЩрд╕рдБрдЧ рд╕рдореНрдмрдиреНрдзрд┐рдд рдХреБрдиреИ рд╡рд┐рд╖рдпрд╣рд░реВ рдЫреИрдирдиреНред рдпреЛ рдбреЗрдЯрд╛ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рдкреЗрд╢рд╛ рдорд╛ рдЕрдзрд┐рдХ рд▓рд╛рдЧреВ рд╣реБрдиреНрдЫред AWS рдХреНрд▓рд╛рдЙрдбрд╣рд░реВ, Azure рд╕рдБрдЧ рд╕рдореНрдмрдиреНрдзрд┐рдд рдХреБрдиреИ рд╡рд┐рд╖рдпрд╣рд░реВ рдкрдирд┐ рдЫреИрдирдиреНред рдпреА рд╡рд┐рд╖рдпрд╡рд╕реНрддреБрд╣рд░реВ рдкреНрд▓реЗрдЯрдлрд░реНрдордХреЛ рдЫрдиреМрдЯрдорд╛ рдЕрддреНрдпрдзрд┐рдХ рдирд┐рд░реНрднрд░ рдЫрдиреНред
рд╕рдореБрджрд╛рдпрдХрд╛ рд▓рд╛рдЧрд┐ рдкреНрд░рд╢реНрдирд╣рд░реВ:
рдореЗрд░реЛ рд╕реНрддрд░реАрдХрд░рдг рдпреЛрдЬрдирд╛ рдХрддреНрддрд┐рдХреЛ рдкрд░реНрдпрд╛рдкреНрдд рдЫ? рдХреЗ рдердкреНрдиреЗ рд╡рд╛ рд╣рдЯрд╛рдЙрдиреЗ?
рддрдкрд╛рдИрдВ рдереАрд╕рд┐рд╕рдХреЛ рд░реВрдкрдорд╛ рдХреБрди рдкрд░рд┐рдпреЛрдЬрдирд╛ рд╕рд┐рдлрд╛рд░рд┐рд╕ рдЧрд░реНрдиреБрд╣реБрдиреНрдЫ?
рд╕реНрд░реЛрдд: www.habr.com