рдкреЗрд╢рд╛ рдбрд╛рдЯрд╛ рдЗрдиреНрдЬрд┐рдирд┐рдпрд░ рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрдирдХреЛ рд▓рд╛рдЧрд┐ рд╕реНрддрд░ рдпреЛрдЬрдирд╛

рд╡рд┐рдЧрдд рдЖрда рд╡рд░реНрд╖рджреЗрдЦрд┐ рдо рдкрд░рд┐рдпреЛрдЬрдирд╛ рдкреНрд░рдмрдиреНрдзрдХрдХреЛ рд░реВрдкрдорд╛ рдХрд╛рдо рдЧрд░рд┐рд░рд╣реЗрдХреЛ рдЫреБ (рдо рдХрд╛рдордорд╛ рдХреЛрдб рд▓реЗрдЦреНрджрд┐рди), рдЬрд╕рд▓реЗ рд╕реНрд╡рд╛рднрд╛рд╡рд┐рдХ рд░реВрдкрдорд╛ рдореЗрд░реЛ рдкреНрд░рд╛рд╡рд┐рдзрд┐рдХ рдмреНрдпрд╛рдХрдЗрдиреНрдбрд▓рд╛рдИ рдирдХрд╛рд░рд╛рддреНрдордХ рд░реВрдкрдорд╛ рдЕрд╕рд░ рдЧрд░реНрдЫред рдореИрд▓реЗ рдореЗрд░реЛ рдкреНрд░рд╛рд╡рд┐рдзрд┐рдХ рдЧреНрдпрд╛рдк рдмрдиреНрдж рдЧрд░реНрдиреЗ рд░ рдбрд╛рдЯрд╛ рдЗрдиреНрдЬрд┐рдирд┐рдпрд░рдХреЛ рдкреЗрд╢рд╛ рд▓рд┐рдиреЗ рдирд┐рд░реНрдгрдп рдЧрд░реЗрдВред рдбрд╛рдЯрд╛ рдЗрдиреНрдЬрд┐рдирд┐рдпрд░рдХреЛ рдореБрдЦреНрдп рд╕реАрдк рднрдиреЗрдХреЛ рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ рдбрд┐рдЬрд╛рдЗрди, рдирд┐рд░реНрдорд╛рдг рд░ рдорд░реНрдордд рдЧрд░реНрдиреЗ рдХреНрд╖рдорддрд╛ рд╣реЛред

рдореИрд▓реЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдпреЛрдЬрдирд╛ рдмрдирд╛рдПрдХреЛ рдЫреБ, рдорд▓рд╛рдИ рд▓рд╛рдЧреНрдЫ рдХрд┐ рдпреЛ рдореЗрд░реЛ рд▓рд╛рдЧрд┐ рдорд╛рддреНрд░ рд╣реЛрдЗрди рдЙрдкрдпреЛрдЧреА рд╣реБрдиреЗрдЫред рдпреЛрдЬрдирд╛ рд╕реНрд╡-рдЕрдзреНрдпрдпрди рдкрд╛рдареНрдпрдХреНрд░рдорд╣рд░реВрдорд╛ рдХреЗрдиреНрджреНрд░рд┐рдд рдЫред рд░реБрд╕реА рднрд╛рд╖рд╛рдорд╛ рдирд┐:рд╢реБрд▓реНрдХ рдкрд╛рдареНрдпрдХреНрд░рдорд╣рд░реВрд▓рд╛рдИ рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рджрд┐рдЗрдиреНрдЫред

рдЦрдгреНрдбрд╣рд░реВ:

  • рдПрд▓реНрдЧреЛрд░рд┐рджрдо рд░ рдбрд╛рдЯрд╛ рд╕рдВрд░рдЪрдирд╛ред рдХреБрдЮреНрдЬреА рдЦрдгреНрдбред рдпреЛ рд╕рд┐рдХреНрдиреБрд╣реЛрд╕реН рд░ рдЕрд░реВ рд╕рдмреИ рдХрд╛рдо рдкрдирд┐ рд╣реБрдиреЗрдЫред рдХреЛрдбрдорд╛ рдЖрдлреНрдиреЛ рд╣рд╛рдд рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрди рд░ рдЖрдзрд╛рд░рднреВрдд рд╕рдВрд░рдЪрдирд╛ рд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдорд╣рд░реВ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рдЫред
  • рдбрд╛рдЯрд╛рдмреЗрд╕ рд░ рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ, рд╡реНрдпрд╛рдкрд╛рд░ рдЦреБрдлрд┐рдпрд╛ред рд╣рд╛рдореА рдПрд▓реНрдЧреЛрд░рд┐рджрдордмрд╛рдЯ рдбрд╛рдЯрд╛ рднрдгреНрдбрд╛рд░рдг рд░ рдкреНрд░рд╢реЛрдзрдирдорд╛ рдЬрд╛рдБрджреИрдЫреМрдВред
  • Hadoop рд░ рдмрд┐рдЧ рдбрд╛рдЯрд╛ред рдЬрдм рдбрд╛рдЯрд╛рдмреЗрд╕ рд╣рд╛рд░реНрдб рдбреНрд░рд╛рдЗрднрдорд╛ рд╕рдорд╛рд╡реЗрд╢ рдЧрд░рд┐рдПрдХреЛ рдЫреИрди, рд╡рд╛ рдЬрдм рдбрд╛рдЯрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫ, рддрд░ рдПрдХреНрд╕реЗрд▓рд▓реЗ рддрд┐рдиреАрд╣рд░реВрд▓рд╛рдИ рд▓реЛрдб рдЧрд░реНрди рд╕рдХреНрджреИрди, рдареВрд▓реЛ рдбрд╛рдЯрд╛ рд╕реБрд░реБ рд╣реБрдиреНрдЫред рдореЗрд░реЛ рд╡рд┐рдЪрд╛рд░рдорд╛, рдЕрдШрд┐рд▓реНрд▓рд╛ рджреБрдИрд╡рдЯрд╛ рдЧрд╣рд┐рд░реЛ рдЕрдзреНрдпрдпрди рдЧрд░реЗрдкрдЫрд┐ рдорд╛рддреНрд░ рдпреЛ рдЦрдгреНрдбрдорд╛ рдЕрдЧрд╛рдбрд┐ рдмрдвреНрди рдЖрд╡рд╢реНрдпрдХ рдЫред

рдПрд▓реНрдЧреЛрд░рд┐рджрдо рд░ рдбрд╛рдЯрд╛ рд╕рдВрд░рдЪрдирд╛

рдореЗрд░реЛ рдпреЛрдЬрдирд╛рдорд╛, рдореИрд▓реЗ рдкрд╛рдЗрдерди рд╕рд┐рдХреНрдиреЗ, рдЧрдгрд┐рдд рд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдорд╛рдЗрдЬреЗрд╕рдирдХреЛ рдЖрдзрд╛рд░рднреВрдд рдХреБрд░рд╛рд╣рд░реВ рджреЛрд╣реЛрд░реНрдпрд╛рдЙрдиреЗ рд╕рдорд╛рд╡реЗрд╢ рдЧрд░реЗрдВред

рдбрд╛рдЯрд╛рдмреЗрд╕ рд░ рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ, рд╡реНрдпрд╛рдкрд╛рд░ рдЦреБрдлрд┐рдпрд╛

рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ, ETL, OLAP рдХреНрдпреВрдмрд╣рд░реВ рдирд┐рд░реНрдорд╛рдгрд╕рдБрдЧ рд╕рдореНрдмрдиреНрдзрд┐рдд рд╡рд┐рд╖рдпрд╣рд░реВ рдЙрдкрдХрд░рдгрд╣рд░реВрдорд╛ рдЕрддреНрдпрдзрд┐рдХ рдирд┐рд░реНрднрд░ рдЫрдиреН, рддреНрдпрд╕реИрд▓реЗ рдо рдпрд╕ рдХрд╛рдЧрдЬрд╛рддрдорд╛ рдкрд╛рдареНрдпрдХреНрд░рдорд╣рд░реВрдХреЛ рд▓рд┐рдЩреНрдХрд╣рд░реВ рджрд┐рдБрджрд┐рдиред рдПрдХ рд╡рд┐рд╢реЗрд╖ рдХрдореНрдкрдиреА рдорд╛ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдкрд░рд┐рдпреЛрдЬрдирд╛ рдорд╛ рдХрд╛рдо рдЧрд░реНрджрд╛ рдпрд╕реНрддреЛ рдкреНрд░рдгрд╛рд▓реА рдЕрдзреНрдпрдпрди рдЧрд░реНрди рд╕рд▓реНрд▓рд╛рд╣ рджрд┐рдЗрдиреНрдЫред ETL рд╕рдВрдЧ рдкрд░рд┐рдЪрд┐рдд рдХреЛ рд▓рд╛рдЧреА, рддрдкрд╛рдЗрдБ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫ рдкрд╛рддреНрд░реЛ рд╡рд╛ рд╣рд╛рд╡рд╛ рдкреНрд░рд╡рд╛рд╣.

рдореЗрд░реЛ рд╡рд┐рдЪрд╛рд░рдорд╛, рдЖрдзреБрдирд┐рдХ рдбрд╛рдЯрд╛ рднрд▓реНрдЯ рдбрд┐рдЬрд╛рдЗрди рдкрджреНрдзрддрд┐ рдЕрдзреНрдпрдпрди рдЧрд░реНрдиреБ рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рдЫ рд▓рд┐рдЩреНрдХ 1, рд▓рд┐рдЩреНрдХ 2ред рд░ рдпреЛ рд╕рд┐рдХреНрдиреЗ рд╕рдмреИрднрдиреНрджрд╛ рд░рд╛рдореНрд░реЛ рддрд░рд┐рдХрд╛ рдпрд╕рд▓рд╛рдИ рд▓рд┐рдиреБ рд░ рдпрд╕рд▓рд╛рдИ рд╕рд░рд▓ рдЙрджрд╛рд╣рд░рдгрдХреЛ рд╕рд╛рде рд▓рд╛рдЧреВ рдЧрд░реНрдиреБ рд╣реЛред GitHub рдорд╛ рдзреЗрд░реИ рдбрд╛рдЯрд╛ рднрд▓реНрдЯ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдЙрджрд╛рд╣рд░рдгрд╣рд░реВ рдЫрдиреН рд▓рд┐рдЩреНрдХред рдЖрдзреБрдирд┐рдХ рдбрд╛рдЯрд╛ рд╡реЗрдпрд░рд╣рд╛рдЙрд╕ рдмреБрдХ: рд╣реНрдпрд╛рдиреНрд╕ рд╣рд▓реНрдЯрдЧреНрд░реЗрди рджреНрд╡рд╛рд░рд╛ рдбрд╛рдЯрд╛ рднрд▓реНрдЯрдХреЛ рд╕рд╛рде рдПрдЬрд╛рдЗрд▓ рдбрд╛рдЯрд╛ рд╡реЗрдпрд░рд╣рд╛рдЙрд╕рдХреЛ рдореЛрдбреЗрд▓рд┐рдВрдЧред

рдЕрдиреНрдд рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд╣рд░реВрдХрд╛ рд▓рд╛рдЧрд┐ рд╡реНрдпрд╛рдкрд╛рд░ рдЦреБрдлрд┐рдпрд╛ рдЙрдкрдХрд░рдгрд╣рд░реВрд╕рдБрдЧ рдкрд░рд┐рдЪрд┐рдд рд╣реБрди, рддрдкрд╛рдИрдВрд▓реЗ рд░рд┐рдкреЛрд░реНрдЯрд╣рд░реВ, рдбреНрдпрд╛рд╕рдмреЛрд░реНрдбрд╣рд░реВ, рдорд┐рдиреА рдбрд╛рдЯрд╛ рдЧреЛрджрд╛рдорд╣рд░реВ Power BI рдбреЗрд╕реНрдХрдЯрдкрдХреЛ рдирд┐:рд╢реБрд▓реНрдХ рдбрд┐рдЬрд╛рдЗрдирд░ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫред рд╢реИрдХреНрд╖рд┐рдХ рд╕рд╛рдордЧреНрд░реА: рд▓рд┐рдЩреНрдХ 1, рд▓рд┐рдЩреНрдХ 2.

Hadoop рд░ рдмрд┐рдЧ рдбрд╛рдЯрд╛

рдирд┐рд╖реНрдХрд░реНрд╖рдорд╛

рддрдкрд╛рдИрдВрд▓реЗ рд╕рд┐рдХреЗрдХрд╛ рд╕рдмреИ рдХреБрд░рд╛ рдХрд╛рдордорд╛ рд▓рд╛рдЧреВ рдЧрд░реНрди рд╕рдХрд┐рдБрджреИрдиред рддреНрдпрд╕рдХрд╛рд░рдг, рддрдкрд╛рдИрд▓рд╛рдИ рд╕реНрдирд╛рддрдХ рдкрд░рд┐рдпреЛрдЬрдирд╛ рдЪрд╛рд╣рд┐рдиреНрдЫ рдЬрд╕рдорд╛ рддрдкрд╛рдИрд▓реЗ рдирдпрд╛рдБ рдЬреНрдЮрд╛рди рд▓рд╛рдЧреВ рдЧрд░реНрдиреЗ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрдиреБрд╣реБрдиреЗрдЫред

рдпреЛрдЬрдирд╛рдорд╛ тАЛтАЛрдбреЗрдЯрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рд░ рдореЗрд╕рд┐рди рд▓рд░реНрдирд┐рдЩрд╕рдБрдЧ рд╕рдореНрдмрдиреНрдзрд┐рдд рдХреБрдиреИ рд╡рд┐рд╖рдпрд╣рд░реВ рдЫреИрдирдиреНред рдпреЛ рдбреЗрдЯрд╛ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рдкреЗрд╢рд╛ рдорд╛ рдЕрдзрд┐рдХ рд▓рд╛рдЧреВ рд╣реБрдиреНрдЫред AWS рдХреНрд▓рд╛рдЙрдбрд╣рд░реВ, Azure рд╕рдБрдЧ рд╕рдореНрдмрдиреНрдзрд┐рдд рдХреБрдиреИ рд╡рд┐рд╖рдпрд╣рд░реВ рдкрдирд┐ рдЫреИрдирдиреНред рдпреА рд╡рд┐рд╖рдпрд╡рд╕реНрддреБрд╣рд░реВ рдкреНрд▓реЗрдЯрдлрд░реНрдордХреЛ рдЫрдиреМрдЯрдорд╛ рдЕрддреНрдпрдзрд┐рдХ рдирд┐рд░реНрднрд░ рдЫрдиреНред

рд╕рдореБрджрд╛рдпрдХрд╛ рд▓рд╛рдЧрд┐ рдкреНрд░рд╢реНрдирд╣рд░реВ:
рдореЗрд░реЛ рд╕реНрддрд░реАрдХрд░рдг рдпреЛрдЬрдирд╛ рдХрддреНрддрд┐рдХреЛ рдкрд░реНрдпрд╛рдкреНрдд рдЫ? рдХреЗ рдердкреНрдиреЗ рд╡рд╛ рд╣рдЯрд╛рдЙрдиреЗ?
рддрдкрд╛рдИрдВ рдереАрд╕рд┐рд╕рдХреЛ рд░реВрдкрдорд╛ рдХреБрди рдкрд░рд┐рдпреЛрдЬрдирд╛ рд╕рд┐рдлрд╛рд░рд┐рд╕ рдЧрд░реНрдиреБрд╣реБрдиреНрдЫ?

рд╕реНрд░реЛрдд: www.habr.com

рдПрдХ рдЯрд┐рдкреНрдкрдгреА рдердкреНрди