GlusterFS рдХреЛ рд▓рд╛рдЧрд┐ рд▓рд┐рдирдХреНрд╕ рдХрд░реНрдиреЗрд▓ рд╕реЗрдЯрдЕрдк рдЧрд░реНрджреИ

рд▓реЗрдЦрдХреЛ рдЕрдиреБрд╡рд╛рдж рдкрд╛рдареНрдпрдХреНрд░рдордХреЛ рд╕реБрд░реБрд╡рд╛рддрдХреЛ рдкреВрд░реНрд╡рд╕рдиреНрдзреНрдпрд╛рдорд╛ рддрдпрд╛рд░ рдЧрд░рд┐рдПрдХреЛ рдерд┐рдпреЛ "рдкреНрд░рд╢рд╛рд╕рдХ рд▓рд┐рдирдХреНрд╕ред рд╡реНрдпрд╛рд╡рд╕рд╛рдпрд┐рдХ".

GlusterFS рдХреЛ рд▓рд╛рдЧрд┐ рд▓рд┐рдирдХреНрд╕ рдХрд░реНрдиреЗрд▓ рд╕реЗрдЯрдЕрдк рдЧрд░реНрджреИ

рд╕рдордп рд╕рдордпрдорд╛, рдпрд╣рд╛рдБ рд░ рддреНрдпрд╣рд╛рдБ рдХрд░реНрдиреЗрд▓ рдЕрдиреБрдХреВрд▓рди рд╕рдореНрдмрдиреНрдзрдорд╛ Gluster рд╕рд┐рдлрд╛рд░рд┐рд╕рд╣рд░реВ рд░ рдпреЛ рдЖрд╡рд╢реНрдпрдХ рдЫ рдХрд┐ рдЫреИрди рднрдиреНрдиреЗ рдмрд╛рд░реЗ рдкреНрд░рд╢реНрдирд╣рд░реВ рдЙрдареНрдЫрдиреНред

рдпреЛ рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╡рд┐рд░рд▓реИ рдЙрддреНрдкрдиреНрди рд╣реБрдиреНрдЫред рдХреЛрд░рд▓реЗ рдзреЗрд░реИрдЬрд╕реЛ рдХрд╛рд░реНрдпрднрд╛рд░ рдЕрдиреНрддрд░реНрдЧрдд рдзреЗрд░реИ рд░рд╛рдореНрд░реЛ рдкреНрд░рджрд░реНрд╢рди рдЧрд░реНрджрдЫред рдпрджреНрдпрдкрд┐ рддреНрдпрд╣рд╛рдБ рдПрдХ рдирдХрд╛рд░рд╛рддреНрдордХ рдкрдХреНрд╖ рдЫред рдРрддрд┐рд╣рд╛рд╕рд┐рдХ рд░реВрдкрдорд╛, рд▓рд┐рдирдХреНрд╕ рдХрд░реНрдиреЗрд▓рд▓реЗ рд╕рдЬрд┐рд▓реИрд╕рдБрдЧ рдзреЗрд░реИ рдореЗрдореЛрд░реА рдЦрдкрдд рдЧрд░реНрджрдЫ рдпрджрд┐ рдЕрд╡рд╕рд░ рджрд┐рдЗрдпреЛ, рдкреНрд░рджрд░реНрд╢рди рд╕реБрдзрд╛рд░ рдЧрд░реНрдиреЗ рдкреНрд░рд╛рдердорд┐рдХ рдорд╛рдзреНрдпрдордХреЛ рд░реВрдкрдорд╛ рдХреНрдпрд╛рд╕рд┐рдВрдЧ рд╕рд╣рд┐рддред

рдзреЗрд░реИ рдЬрд╕реЛ рдЕрд╡рд╕реНрдерд╛рдорд╛ рдпрд╕рд▓реЗ рд░рд╛рдореНрд░реЛ рдХрд╛рдо рдЧрд░реНрджрдЫ, рддрд░ рднрд╛рд░реА рднрд╛рд░ рдЕрдиреНрддрд░реНрдЧрдд рдпрд╕рд▓реЗ рд╕рдорд╕реНрдпрд╛ рдирд┐рдореНрддреНрдпрд╛рдЙрди рд╕рдХреНрдЫред

рд╣рд╛рдореАрд╕рдБрдЧ рдзреЗрд░реИ рдореЗрдореЛрд░реА рдЦрдкрдд рдЧрд░реНрдиреЗ рдкреНрд░рдгрд╛рд▓реАрд╣рд░реВрд╕рдБрдЧ рдХрд╛рдо рдЧрд░реНрдиреЗ рд╡реНрдпрд╛рдкрдХ рдЕрдиреБрднрд╡ рдЫ, рдЬрд╕реНрддреИ CAD, EDA рд░ рдпрд╕реНрддреИ, рдЬрд╕рд▓реЗ рдЙрдЪреНрдЪ рднрд╛рд░рдорд╛ рдврд┐рд▓реЛ рд╣реБрди рдерд╛рд▓реНрдпреЛред рд░ рдХрд╣рд┐рд▓реЗрдХрд╛рд╣реАрдБ рд╣рд╛рдореАрд▓реЗ Gluster рдорд╛ рд╕рдорд╕реНрдпрд╛рд╣рд░реВрдХреЛ рд╕рд╛рдордирд╛ рдЧрд░реНрдпреМрдВред рдкреНрд░рдпреЛрдЧ рдЧрд░рд┐рдПрдХреЛ рдореЗрдореЛрд░реА рд░ рдбрд┐рд╕реНрдХ рдкреНрд░рддрд┐рдХреНрд╖рд╛ рд╕рдордпрд▓рд╛рдИ рдПрдХ рджрд┐рди рднрдиреНрджрд╛ рдмрдвреА рдзреНрдпрд╛рдирдкреВрд░реНрд╡рдХ рдЕрдиреБрдЧрдорди рдЧрд░реЗрдкрдЫрд┐, рд╣рд╛рдореАрд▓реЗ рдбрд┐рд╕реНрдХ рдУрднрд░рд▓реЛрдб, рд╡рд┐рд╢рд╛рд▓ рдЖрдпреЛрд╡реЗрдЯ, рдХрд░реНрдиреЗрд▓ рддреНрд░реБрдЯрд┐рд╣рд░реВ (рдХрд░реНрдиреЗрд▓ рдУрдкреНрд╕), рдлреНрд░рд┐рдЬрд╣рд░реВ, рдЖрджрд┐ рдкрд╛рдпреМрдВред

рдпреЛ рд▓реЗрдЦ рд╡рд┐рднрд┐рдиреНрди рдкрд░рд┐рд╕реНрдерд┐рддрд┐рд╣рд░реВрдорд╛ рдкреНрд░рджрд░реНрд╢рди рдЧрд░рд┐рдПрдХрд╛ рдзреЗрд░реИ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░ рдЯреНрдпреБрдирд┐рдЩ рдкреНрд░рдпреЛрдЧрд╣рд░реВрдХреЛ рдкрд░рд┐рдгрд╛рдо рд╣реЛред рдпреА рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░рд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдзрдиреНрдпрд╡рд╛рдж, рд╕рд╛рдорд╛рдиреНрдп рд░реВрдкрдорд╛ рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛рд╢реАрд▓рддрд╛ рдорд╛рддреНрд░ рд╕реБрдзрд╛рд░рд┐рдПрдХреЛ рдЫреИрди, рддрд░ рдХреНрд▓рд╕реНрдЯрд░рдХреЛ рд╕рдЮреНрдЪрд╛рд▓рди рдкрдирд┐ рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рд░реВрдкрдорд╛ рд╕реНрдерд┐рд░ рднрдПрдХреЛ рдерд┐рдпреЛред

рдЬрдм рдпреЛ рдореЗрдореЛрд░реА рдХрдиреНрдлрд┐рдЧрд░ рдЧрд░реНрдиреЗ рдХреБрд░рд╛ рдЖрдЙрдБрдЫ, рд╣реЗрд░реНрдирдХреЛ рд▓рд╛рдЧрд┐ рдкрд╣рд┐рд▓реЛ рд╕реНрдерд╛рди рднрд░реНрдЪреБрдЕрд▓ рдореЗрдореЛрд░реА рд╕рдмрд╕рд┐рд╕реНрдЯрдо (VM) рд╣реЛ, рдЬрд╕рдорд╛ рдзреЗрд░реИ рд╕рдВрдЦреНрдпрд╛рдорд╛ рд╡рд┐рдХрд▓реНрдкрд╣рд░реВ рдЫрдиреН рдЬрд╕рд▓реЗ рддрдкрд╛рдИрдВрд▓рд╛рдИ рднреНрд░рдорд┐рдд рдЧрд░реНрди рд╕рдХреНрдЫред

vm.swappiness

рдкрд░рд┐рдорд┐рддрд┐ vm.swappiness RAM рдХреЛ рддреБрд▓рдирд╛рдорд╛ рдХрд░реНрдиреЗрд▓рд▓реЗ рд╕реНрд╡реИрдк рдХрддрд┐ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдЫ рднрдиреЗрд░ рдирд┐рд░реНрдзрд╛рд░рдг рдЧрд░реНрдЫред рдпрд╕рд▓рд╛рдИ рд╕реНрд░реЛрдд рдХреЛрдбрдорд╛ "рдореНрдпрд╛рдк рдЧрд░рд┐рдПрдХреЛ рдореЗрдореЛрд░реА рдЪреЛрд░реНрдиреЗ рдкреНрд░рд╡реГрддреНрддрд┐" рднрдиреЗрд░ рдкрдирд┐ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдЧрд░рд┐рдПрдХреЛ рдЫред рдЙрдЪреНрдЪ рд╕реНрд╡реИрдкрд┐рдиреЗрд╕ рдорд╛рдирдХреЛ рдЕрд░реНрде рд╣реЛ рдХрд┐ рдХрд░реНрдиреЗрд▓ рдореНрдпрд╛рдк рдЧрд░рд┐рдПрдХрд╛ рдкреГрд╖реНрдард╣рд░реВ рд╕реНрд╡реИрдк рдЧрд░реНрди рдмрдвреА рдкреНрд░рд╡рдг рд╣реБрдиреЗрдЫред рдХрдо рд╕реНрд╡реИрдкрд┐рдиреЗрд╕ рдорд╛рдирдХреЛ рдЕрд░реНрде рдЙрд▓реНрдЯреЛ рд╣реБрдиреНрдЫ: рдХрд░реНрдиреЗрд▓рд▓реЗ рдХрдо рдореЗрдореЛрд░реАрдмрд╛рдЯ рдкреГрд╖реНрдард╣рд░реВ рд╕реНрд╡реИрдк рдЧрд░реНрдиреЗрдЫред рдЕрд░реНрдХреЛ рд╢рдмреНрджрдорд╛, рдЙрдЪреНрдЪ рдореВрд▓реНрдп vm.swappiness, рдЕрдзрд┐рдХ рдкреНрд░рдгрд╛рд▓реАрд▓реЗ рд╕реНрд╡реИрдк рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреЗрдЫред

рдЕрджрд▓рд╛рдмрджрд▓реАрдХреЛ рд╡реНрдпрд╛рдкрдХ рдкреНрд░рдпреЛрдЧ рдЕрд╡рд╛рдВрдЫрдиреАрдп рдЫ, рдХрд┐рдирдХрд┐ рдбреЗрдЯрд╛рдХреЛ рд╡рд┐рд╢рд╛рд▓ рдмреНрд▓рдХрд╣рд░реВ RAM рдорд╛ рд▓реЛрдб рд░ рдЕрдирд▓реЛрдб рд╣реБрдиреНрдЫрдиреНред рдзреЗрд░реИ рдорд╛рдирд┐рд╕рд╣рд░реВ рддрд░реНрдХ рдЧрд░реНрдЫрдиреН рдХрд┐ swapiness рдореВрд▓реНрдп рдЙрдЪреНрдЪ рд╣реБрдиреБрдкрд░реНрдЫ, рддрд░ рдореЗрд░реЛ рдЕрдиреБрднрд╡рдорд╛, рдпрд╕рд▓рд╛рдИ "0" рдорд╛ рд╕реЗрдЯ рдЧрд░реНрджрд╛ рд░рд╛рдореНрд░реЛ рдкреНрд░рджрд░реНрд╢рдирдорд╛ рдкрд░рд┐рдгрд╛рдорд╣рд░реВ рдЫрдиреНред

рддрдкрд╛рдИрдВ рдпрд╣рд╛рдБ рдердк рдкрдвреНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫ - lwn.net/Articles/100978

рддрд░ рдлреЗрд░рд┐, рдпреА рд╕реЗрдЯрд┐рдЩрд╣рд░реВ рд╕рд╛рд╡рдзрд╛рдиреАрдкреВрд░реНрд╡рдХ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреБрдкрд░реНрдЫ рд░ рдХреЗрд╡рд▓ рд╡рд┐рд╢рд┐рд╖реНрдЯ рдЕрдиреБрдкреНрд░рдпреЛрдЧ рдкрд░реАрдХреНрд╖рдг рдкрдЫрд┐ред рдЕрддреНрдпрдзрд┐рдХ рд▓реЛрдб рдЧрд░рд┐рдПрдХрд╛ рд╕реНрдЯреНрд░рд┐рдорд┐рдЩ рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐, рдпреЛ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░ "реж" рдорд╛ рд╕реЗрдЯ рдЧрд░рд┐рдиреБрдкрд░реНрдЫред "0" рдорд╛ рдкрд░рд┐рд╡рд░реНрддрди рдЧрд░реНрджрд╛, рдкреНрд░рдгрд╛рд▓реА рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ рд╕реБрдзрд╛рд░ рд╣реБрдиреНрдЫред

vm.vfs_cache_pressure

рдпреЛ рд╕реЗрдЯрд┐рдЩрд▓реЗ рдбрд╛рдЗрд░реЗрдХреНрдЯрд░реА рд╡рд╕реНрддреБрд╣рд░реВ рд░ рдЗрдиреЛрдбрд╣рд░реВ (рдбреЗрдиреНрдЯреНрд░реА рд░ рдЖрдЗрдиреЛрдб) рдХреНрдпрд╛рд╕рд┐рдЩрдХрд╛ рд▓рд╛рдЧрд┐ рдХрд░реНрдиреЗрд▓рд▓реЗ рдЦрдкрдд рдЧрд░реЗрдХреЛ рдореЗрдореЛрд░реАрд▓рд╛рдИ рдирд┐рдпрдиреНрддреНрд░рдг рдЧрд░реНрдЫред

100 рдХреЛ рдкреВрд░реНрд╡рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдорд╛рдирдХреЛ рд╕рд╛рде, рдХрд░реНрдиреЗрд▓рд▓реЗ рдбреЗрдиреНрдЯреНрд░реА рд░ рдЗрдиреЛрдб рдХреНрдпрд╛рд╕рд╣рд░реВрд▓рд╛рдИ рдкреГрд╖реНрдардХреНрдпрд╛рд╕ рд░ рд╕реНрд╡реИрдкрдХреНрдпрд╛рд╕рдорд╛ рдЙрдЪрд┐рдд рддрд░рд┐рдХрд╛рд▓реЗ рдореБрдХреНрдд рдЧрд░реНрдиреЗ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрдиреЗрдЫред рдШрдЯреНрджреЛ vfs_cache_pressure рд▓реЗ рдХрд░реНрдиреЗрд▓рд▓рд╛рдИ рдбреЗрдиреНрдЯреНрд░реА рд░ рдЗрдиреЛрдб рдХреНрдпрд╛рд╕рд╣рд░реВ рдЬреЛрдЧрд╛рдЙрдБрдЫред рдЬрдм рдорд╛рди "0" рд╣реБрдиреНрдЫ, рдХрд░реНрдиреЗрд▓рд▓реЗ рдореЗрдореЛрд░реА рджрдмрд╛рдмрдХреЛ рдХрд╛рд░рдгрд▓реЗ рдбреЗрдиреНрдЯреНрд░реА рд░ рдЗрдиреЛрдб рдХреНрдпрд╛рд╕рд▓рд╛рдИ рдХрд╣рд┐рд▓реНрдпреИ рдлреНрд▓рд╢ рдЧрд░реНрджреИрди, рд░ рдпрд╕рд▓реЗ рд╕рдЬрд┐рд▓реИрд╕рдБрдЧ рдореЗрдореЛрд░реА рдмрд╛рд╣рд┐рд░ рддреНрд░реБрдЯрд┐ рдирд┐рдореНрддреНрдпрд╛рдЙрди рд╕рдХреНрдЫред vfs_cache_pressure 100 рдорд╛рдерд┐ рдмрдврд╛рдЙрдБрджрд╛ рдХрд░реНрдиреЗрд▓рд▓реЗ рдбреЗрдиреНрдЯреНрд░реА рд░ рдЗрдиреЛрдб рдкреЗрдЬрдЖрдЙрдЯрд╣рд░реВрд▓рд╛рдИ рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рджрд┐рдиреНрдЫред

GlusterFS рдкреНрд░рдпреЛрдЧ рдЧрд░реНрджрд╛, рдзреЗрд░реИ рдорд╛рддреНрд░рд╛рдорд╛ рдбрд╛рдЯрд╛ рд░ рдзреЗрд░реИ рд╕рд╛рдирд╛ рдлрд╛рдЗрд▓рд╣рд░реВ рднрдПрдХрд╛ рдзреЗрд░реИ рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд╣рд░реВрд▓реЗ рд╕рдЬрд┐рд▓реИрд╕рдБрдЧ рд╕рд░реНрднрд░рдорд╛ рдЗрдиреЛрдб/рдбреЗрдиреНрдЯреНрд░реА рдХреНрдпрд╛рд╕рд┐рдЩрдХреЛ рдХрд╛рд░рдгрд▓реЗ рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рдорд╛рддреНрд░рд╛рдорд╛ RAM рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рд╕рдХреНрдЫрдиреН, рдЬрд╕рд▓реЗ рдЧрд░реНрджрд╛ рдХрд░реНрдиреЗрд▓рд▓реЗ рдкреНрд░рдгрд╛рд▓реАрдорд╛ рдбрд╛рдЯрд╛ рд╕рдВрд░рдЪрдирд╛рд╣рд░реВ рд╣реНрдпрд╛рдиреНрдбрд▓ рдЧрд░реНрдиреБрдкрд░реНрдиреЗ рд╣реБрдирд╛рд▓реЗ рдЦрд░рд╛рдм рдкреНрд░рджрд░реНрд╢рди рд╣реБрди рд╕рдХреНрдЫред 40 GB рдореЗрдореЛрд░реА рд╕рдВрдЧред рдпреЛ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░рд▓рд╛рдИ резрежреж рднрдиреНрджрд╛ рдмрдвреАрдорд╛ рд╕реЗрдЯ рдЧрд░реНрдирд╛рд▓реЗ рдзреЗрд░реИ рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд╣рд░реВрд▓рд╛рдИ рд░рд╛рдореНрд░реЛ рдХреНрдпрд╛рд╕рд┐рдЩ рд░ рд╕реБрдзрд╛рд░рд┐рдПрдХреЛ рдХрд░реНрдиреЗрд▓ рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрди рдорджреНрджрдд рдЧрд░реЗрдХреЛ рдЫред

vm.dirty_background_ratio рд░ vm.dirty_ratio

рдкрд╣рд┐рд▓реЛ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░ (vm.dirty_background_ratio) рдлреЛрд╣реЛрд░ рдкреГрд╖реНрдард╣рд░реВ рднрдПрдХреЛ рдореЗрдореЛрд░реАрдХреЛ рдкреНрд░рддрд┐рд╢рдд рдирд┐рд░реНрдзрд╛рд░рдг рдЧрд░реНрджрдЫ, рдЬрд╣рд╛рдБ рдкреБрдЧреЗрдкрдЫрд┐ рдбрд┐рд╕реНрдХрдорд╛ рдлреЛрд╣реЛрд░ рдкреГрд╖реНрдард╣рд░реВрдХреЛ рдкреГрд╖реНрдарднреВрдорд┐ рдлреНрд▓рд╕рд┐рдЩ рд╕реБрд░реБ рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫред рдпреЛ рдкреНрд░рддрд┐рд╢рдд рдирдкреБрдЧреЗрд╕рдореНрдо, рдкреГрд╖реНрдард╣рд░реВ рдбрд┐рд╕реНрдХрдорд╛ рдлреНрд▓рд╕ рд╣реБрдБрджреИрдирдиреНред рд░ рдЬрдм рд░рд┐рд╕реЗрдЯ рд╕реБрд░реБ рд╣реБрдиреНрдЫ, рдпреЛ рдЪрд▓рд┐рд░рд╣реЗрдХреЛ рдкреНрд░рдХреНрд░рд┐рдпрд╛рд╣рд░реВрдорд╛ рдЕрд╡рд░реЛрдз рдирдЧрд░реА рдкреГрд╖реНрдарднреВрдорд┐рдорд╛ рдЪрд▓реНрдЫред

рджреЛрд╕реНрд░реЛ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░ (vm.dirty_ratio) рдЬрдмрд░рдЬрд╕реНрддреА рдлреНрд▓реНрдпрд╛рд╕ рд╕реБрд░реБ рд╣реБрдиреБ рдЕрдШрд┐ рдлреЛрд╣реЛрд░ рдкреГрд╖реНрдард╣рд░реВ рджреНрд╡рд╛рд░рд╛ рдХрдмреНрдЬрд╛ рдЧрд░реНрди рд╕рдХрд┐рдиреЗ рдореЗрдореЛрд░реАрдХреЛ рдкреНрд░рддрд┐рд╢рдд рдирд┐рд░реНрдзрд╛рд░рдг рдЧрд░реНрджрдЫред рдПрдХ рдкрдЯрдХ рдпреЛ рдереНрд░реЗрд╕рд╣реЛрд▓реНрдб рдкреБрдЧреЗрдкрдЫрд┐, рд╕рдмреИ рдкреНрд░рдХреНрд░рд┐рдпрд╛рд╣рд░реВ рд╕рд┐рдВрдХреНрд░реЛрдирд╕ (рдмреНрд▓рдХ рдЧрд░рд┐рдПрдХрд╛) рд╣реБрдиреНрдЫрдиреН рд░ рдЙрдиреАрд╣рд░реВрд▓реЗ рдЕрдиреБрд░реЛрдз рдЧрд░реЗрдХреЛ I/O рдЕрдкрд░реЗрд╢рди рд╡рд╛рд╕реНрддрд╡рдорд╛ рдкреВрд░рд╛ рдирднрдПрд╕рдореНрдо рд░ рдбрд╛рдЯрд╛ рдбрд┐рд╕реНрдХрдорд╛ рдирднрдПрд╕рдореНрдо рдЪрд▓рд╛рдЙрди рдЬрд╛рд░реА рд░рд╛рдЦреНрди рдЕрдиреБрдорддрд┐ рджрд┐рдЗрдБрджреИрдиред рдЙрдЪреНрдЪ I/O рд▓реЛрдбрдХреЛ рд╕рд╛рде, рдпрд╕рд▓реЗ рд╕рдорд╕реНрдпрд╛ рдирд┐рдореНрддреНрдпрд╛рдЙрдБрдЫ рдХрд┐рдирднрдиреЗ рддреНрдпрд╣рд╛рдБ рдХреБрдиреИ рдбрд╛рдЯрд╛ рдХреНрдпрд╛рд╕рд┐рдЩ рдЫреИрди рд░ I/O рдЧрд░реНрдиреЗ рд╕рдмреИ рдкреНрд░рдХреНрд░рд┐рдпрд╛рд╣рд░реВ I/O рдХреЛ рдкреНрд░рддреАрдХреНрд╖рд╛рдорд╛ рд░реЛрдХрд┐рдПрдХрд╛ рдЫрдиреНред рдпрд╕рд▓реЗ рдареВрд▓реЛ рд╕рдВрдЦреНрдпрд╛рдорд╛ рд╣рдЩ рдкреНрд░рдХреНрд░рд┐рдпрд╛рд╣рд░реВ, рдЙрдЪреНрдЪ рднрд╛рд░, рдкреНрд░рдгрд╛рд▓реА рдЕрд╕реНрдерд┐рд░рддрд╛ рд░ рдЦрд░рд╛рдм рдкреНрд░рджрд░реНрд╢рдирдХреЛ рдкрд░рд┐рдгрд╛рдо рджрд┐рдиреНрдЫред

рдпреА рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░рд╣рд░реВрдХреЛ рдорд╛рдирд╣рд░реВ рдШрдЯрд╛рдЙрдБрджрд╛ рдбрд╛рдЯрд╛рд▓рд╛рдИ рдзреЗрд░реИ рдкрдЯрдХ рдбрд┐рд╕реНрдХрдорд╛ рдлреНрд▓рд╕ рдЧрд░рд┐рдиреНрдЫ рд░ RAM рдорд╛ рднрдгреНрдбрд╛рд░рдг рд╣реБрдБрджреИрдиред рдпрд╕рд▓реЗ рдореЗрдореЛрд░реА-рд╣реЗрд╡реА рдкреНрд░рдгрд╛рд▓реАрд╣рд░реВрд▓рд╛рдИ рдорджреНрджрдд рдЧрд░реНрди рд╕рдХреНрдЫ рдЬрд╣рд╛рдБ рдбрд┐рд╕реНрдХрдорд╛ 45-90GB рдкреГрд╖реНрда рдХреНрдпрд╛рд╕рд╣рд░реВ рдлреНрд▓рд╢ рдЧрд░реНрди рд╕рд╛рдорд╛рдиреНрдп рдЫ, рдкрд░рд┐рдгрд╛рдорд╕реНрд╡рд░реВрдк рдлреНрд░рдиреНрдЯ-рдПрдиреНрдб рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдареВрд▓реЛ рд╡рд┐рд▓рдореНрдмрддрд╛, рд╕рдордЧреНрд░ рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛рд╢реАрд▓рддрд╛ рд░ рдЕрдиреНрддрд░рдХреНрд░рд┐рдпрд╛рддреНрдордХрддрд╛ рдШрдЯрд╛рдЙрдБрдЫред

"1" > /proc/sys/vm/pagecache

рдкреГрд╖реНрда рдХреНрдпрд╛рд╕ рдПрдХ рдХреНрдпрд╛рд╕ рд╣реЛ рдЬрд╕рд▓реЗ рдлрд╛рдЗрд▓рд╣рд░реВ рд░ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдпреЛрдЧреНрдп рдХрд╛рд░реНрдпрдХреНрд░рдорд╣рд░реВрдмрд╛рдЯ рдбрд╛рдЯрд╛ рднрдгреНрдбрд╛рд░рдг рдЧрд░реНрджрдЫ, рддреНрдпреЛ рд╣реЛ, рдпреА рдлрд╛рдЗрд▓рд╣рд░реВ рд╡рд╛ рдмреНрд▓рдХ рдЙрдкрдХрд░рдгрд╣рд░реВрдХреЛ рд╡рд╛рд╕реНрддрд╡рд┐рдХ рд╕рд╛рдордЧреНрд░реА рднрдПрдХрд╛ рдкреГрд╖реНрдард╣рд░реВ рд╣реБрдиреНред рдпреЛ рдХреНрдпрд╛рд╕ рдбрд┐рд╕реНрдХ рдкрдвреНрдиреЗ рд╕рдВрдЦреНрдпрд╛ рдХрдо рдЧрд░реНрди рдкреНрд░рдпреЛрдЧ рдЧрд░рд┐рдиреНрдЫред "1" рдХреЛ рдорд╛рди рднрдиреЗрдХреЛ рдХреНрдпрд╛рд╕рд▓реЗ RAM рдХреЛ 1% рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдЫ рд░ рддреНрдпрд╣рд╛рдБ RAM рдмрд╛рдЯ рднрдиреНрджрд╛ рдбрд┐рд╕реНрдХрдмрд╛рдЯ рдзреЗрд░реИ рдкрдвреНрдиреЗ рд╣реБрдиреЗрдЫред рдпреЛ рд╕реЗрдЯрд┐рдЩ рдкрд░рд┐рд╡рд░реНрддрди рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫреИрди, рддрд░ рдпрджрд┐ рддрдкрд╛рдЗрдБ рдкреГрд╖реНрда рдХреНрдпрд╛рд╕ рдирд┐рдпрдиреНрддреНрд░рдгрдХреЛ рдмрд╛рд░реЗрдорд╛ рдкрд╛рдЧрд▓ рд╣реБрдиреБрд╣реБрдиреНрдЫ рднрдиреЗ, рддрдкрд╛рдЗрдБ рдпрд╕рд▓рд╛рдИ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫред

"рдбреЗрдбрд▓рд╛рдЗрди" > /sys/block/sdc/queue/scheduler

I/O рдЕрдиреБрд╕реВрдЪрдХ рд▓рд┐рдирдХреНрд╕ рдХрд░реНрдиреЗрд▓рдХреЛ рдПрдХ рднрд╛рдЧ рд╣реЛ рдЬрд╕рд▓реЗ рдкрдвреНрди рд░ рд▓реЗрдЦреНрдиреЗ рд▓рд╛рдЗрдирд╣рд░реВ рд╣реНрдпрд╛рдиреНрдбрд▓ рдЧрд░реНрджрдЫред рд╕рд┐рджреНрдзрд╛рдиреНрддрдорд╛, рд╕реНрдорд╛рд░реНрдЯ RAID рдирд┐рдпрдиреНрддреНрд░рдХрдХреЛ рд▓рд╛рдЧрд┐ "noop" рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреБ рд░рд╛рдореНрд░реЛ рд╣реБрдиреНрдЫ, рдХрд┐рдирднрдиреЗ рд▓рд┐рдирдХреНрд╕рд▓рд╛рдИ рдбрд┐рд╕реНрдХрдХреЛ рднреМрддрд┐рдХ рдЬреНрдпрд╛рдорд┐рддрд┐рдХреЛ рдмрд╛рд░реЗрдорд╛ рдХреЗрд╣реА рдерд╛рд╣рд╛ рдЫреИрди, рддреНрдпрд╕реИрд▓реЗ рдбрд┐рд╕реНрдХ рдЬреНрдпрд╛рдорд┐рддрд┐ рд░рд╛рдореНрд░рд░реА рдЬрд╛рдиреНрдиреЗ рдирд┐рдпрдиреНрддреНрд░рдХрд▓рд╛рдИ рдЕрдиреБрд░реЛрдзрд▓рд╛рдИ рдкреНрд░рд╢реЛрдзрди рдЧрд░реНрди рджрд┐рдиреБ рдЕрдЭ рдкреНрд░рднрд╛рд╡рдХрд╛рд░реА рд╣реБрдиреНрдЫред рд╕рдХреЗрд╕рдореНрдо рдЪрд╛рдБрдбреЛред рддрд░ рдпрд╕реНрддреЛ рджреЗрдЦрд┐рдиреНрдЫ рдХрд┐ "рдбреЗрдбрд▓рд╛рдЗрди" рд▓реЗ рдкреНрд░рджрд░реНрд╢рди рд╕реБрдзрд╛рд░ рдЧрд░реНрджрдЫред рдЕрдиреБрд╕реВрдЪрдХрд╣рд░реВрдХреЛ рдмрд╛рд░реЗрдорд╛ рдердк рдЬрд╛рдирдХрд╛рд░реА рд▓рд┐рдирдХреНрд╕ рдХрд░реНрдиреЗрд▓ рд╕реНрд░реЛрдд рдХреЛрдбрдХреЛ рд▓рд╛рдЧрд┐ рдХрд╛рдЧрдЬрд╛рддрдорд╛ рдлреЗрд▓рд╛ рдкрд╛рд░реНрди рд╕рдХрд┐рдиреНрдЫ: linux/Documentation/block/*osched.txtред рд░ рдореИрд▓реЗ рдорд┐рд╢реНрд░рд┐рдд рдЕрдкрд░реЗрд╕рдирд╣рд░реВ (рдзреЗрд░реИ рд▓реЗрдЦрд╣рд░реВ) рдХреЛ рд╕рдордпрдорд╛ рдкрдвреНрдиреЗ рдереНрд░реБрдкреБрдЯрдорд╛ рд╡реГрджреНрдзрд┐ рджреЗрдЦреЗрдХреЛ рдЫреБред

"256" > /sys/block/sdc/queue/nr_requests

рдЕрдиреБрд╕реВрдЪрдХрдорд╛ рдкрдард╛рдЙрдиреБ рдЕрдШрд┐ рдмрдлрд░рдорд╛ I/O рдЕрдиреБрд░реЛрдзрд╣рд░реВрдХреЛ рд╕рдВрдЦреНрдпрд╛ред рдХреЗрд╣реА рдирд┐рдпрдиреНрддреНрд░рдХрд╣рд░реВрдХреЛ рдЖрдиреНрддрд░рд┐рдХ рд▓рд╛рдо рдЖрдХрд╛рд░ (queue_depth) I/O рдЕрдиреБрд╕реВрдЪрдХрдХреЛ nr_requests рднрдиреНрджрд╛ рдареВрд▓реЛ рд╣реБрдиреНрдЫ, рддреНрдпрд╕реИрд▓реЗ I/O рдЕрдиреБрд╕реВрдЪрдХрд╕рдБрдЧ рдЕрдиреБрд░реЛрдзрд╣рд░реВрд▓рд╛рдИ рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рджрд┐рдиреЗ рд░ рдорд░реНрдЬ рдЧрд░реНрдиреЗ рд╕рдореНрднрд╛рд╡рдирд╛ рдХрдо рд╣реБрдиреНрдЫред рд╕рдордп рд╕реАрдорд╛ рд░ CFQ рдЕрдиреБрд╕реВрдЪрдХрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐, рдпреЛ рд░рд╛рдореНрд░реЛ рд╣реБрдиреНрдЫ рдЬрдм nr_requests рдирд┐рдпрдиреНрддреНрд░рдХрдХреЛ рдЖрдиреНрддрд░рд┐рдХ рд▓рд╛рдо рднрдиреНрджрд╛ реи рдЧреБрдгрд╛ рдареВрд▓реЛ рд╣реБрдиреНрдЫред рдкреНрд░рд╢реНрдирд╣рд░реВ рдорд░реНрдЬ рд░ рдкреБрди: рдХреНрд░рдордмрджреНрдз рдЧрд░реНрдирд╛рд▓реЗ рдЕрдиреБрд╕реВрдЪрдХрд▓рд╛рдИ рднрд╛рд░реА рднрд╛рд░ рдЕрдиреНрддрд░реНрдЧрдд рдердк рдЙрддреНрддрд░рджрд╛рдпреА рд╣реБрди рдорджреНрджрдд рдЧрд░реНрджрдЫред

echo "16" > /proc/sys/vm/page-cluster

рдкреГрд╖реНрда-рдХреНрд▓рд╕реНрдЯрд░ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░рд▓реЗ рдПрдХ рдкрдЯрдХрдорд╛ рд╕реНрд╡реИрдкрдорд╛ рд▓реЗрдЦрд┐рдПрдХрд╛ рдкреГрд╖реНрдард╣рд░реВрдХреЛ рд╕рдВрдЦреНрдпрд╛ рдирд┐рдпрдиреНрддреНрд░рдг рдЧрд░реНрджрдЫред рдорд╛рдерд┐рдХреЛ рдЙрджрд╛рд╣рд░рдгрдорд╛, ремрек KB рдХреЛ RAID рд╕реНрдЯреНрд░рд┐рдк рд╕рд╛рдЗрдЬрд╕рдБрдЧ рдореЗрд▓ рдЦрд╛рдиреЗ рдорд╛рди "16" рдорд╛ рд╕реЗрдЯ рдЧрд░рд┐рдПрдХреЛ рдЫред swappiness = 64 рд╣реБрдБрджрд╛ рдпрд╕рд▓реЗ рдХреБрдиреИ рдЕрд░реНрде рд░рд╛рдЦреНрджреИрди, рддрд░ рдпрджрд┐ рддрдкрд╛рдИрдВрд▓реЗ 0 рд╡рд╛ 10 рдорд╛ swappiness рд╕реЗрдЯ рдЧрд░реНрдиреБрднрдпреЛ рднрдиреЗ, RAID рд╕реНрдЯреНрд░рд┐рдк рд╕рд╛рдЗрдЬ 20 KB рд╣реБрдБрджрд╛ рдпреЛ рдорд╛рди рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдирд╛рд▓реЗ рддрдкрд╛рдИрдВрд▓рд╛рдИ рдорджреНрджрдд рдЧрд░реНрдиреЗрдЫред

blockdev --setra 4096 /dev/<devname> (-sdb, hdc рд╡рд╛ dev_mapper)

рдзреЗрд░реИ RAID рдирд┐рдпрдиреНрддреНрд░рдХрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдкреВрд░реНрд╡рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдмреНрд▓рдХ рдпрдиреНрддреНрд░ рд╕реЗрдЯрд┐рдЩрд╣рд░реВ рдЕрдХреНрд╕рд░ рднрдпрд╛рдирдХ рдХрд╛рд░реНрдпрд╕рдореНрдкрд╛рджрдирдорд╛ рдкрд░рд┐рдгрд╛рдо рджрд┐рдиреНрдЫред рдорд╛рдерд┐рдХреЛ рд╡рд┐рдХрд▓реНрдк рдердкреНрджрд╛ 4096*512 рдмрд╛рдЗрдЯ рд╕реЗрдХреНрдЯрд░рд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдкрдвреНрди рдЕрдЧрд╛рдбрд┐ рдХрдиреНрдлрд┐рдЧрд░ рдЧрд░реНрджрдЫред рдХрдореНрддрд┐рдорд╛ рд╕реНрдЯреНрд░рд┐рдорд┐рдЩ рдЕрдкрд░реЗрд╕рдирд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐, рдХрд░реНрдиреЗрд▓рд▓реЗ I/O рддрдпрд╛рд░ рдЧрд░реНрди рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреЗ рдЕрд╡рдзрд┐рдорд╛ рд░рд┐рдб-рдЕрд╣реЗрдб рдорд╛рд░реНрдлрдд рдЕрди-рдЪрд┐рдк рдбрд┐рд╕реНрдХ рдХреНрдпрд╛рд╕ рднрд░реЗрд░ рдЧрддрд┐ рдмрдврд╛рдЗрдиреНрдЫред рдХреНрдпрд╛рд╕рд▓реЗ рдбреЗрдЯрд╛ рд░рд╛рдЦреНрди рд╕рдХреНрдЫ рдЬреБрди рдЕрд░реНрдХреЛ рдкрдврд╛рдЗрдХреЛ рдмреЗрд▓рд╛ рдЕрдиреБрд░реЛрдз рдЧрд░рд┐рдиреЗрдЫред рдзреЗрд░реИ рдкрдвреНрдиреЗ-рдЕрдЧрд╛рдбрд┐рд▓реЗ рдареВрд▓рд╛ рдлрд╛рдЗрд▓рд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдЕрдирд┐рдпрдорд┐рдд I/O рдорд╛рд░реНрди рд╕рдХреНрдЫ рдпрджрд┐ рдпрд╕рд▓реЗ рд╕рдореНрднрд╛рд╡рд┐рдд рд░реВрдкрдорд╛ рдЙрдкрдпреЛрдЧреА рдбрд┐рд╕реНрдХ рд╕рдордп рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдЫ рд╡рд╛ рдХреНрдпрд╛рд╕ рдмрд╛рд╣рд┐рд░ рдбрд╛рдЯрд╛ рд▓реЛрдб рдЧрд░реНрджрдЫред

рддрд▓ рдлрд╛рдЗрд▓ рдкреНрд░рдгрд╛рд▓реА рд╕реНрддрд░рдорд╛ рдХреЗрд╣реА рдердк рд╕рд┐рдлрд╛рд░рд┐рд╕рд╣рд░реВ рдЫрдиреНред рддрд░ рдЙрдиреАрд╣рд░реБрдХреЛ рдЕрд╣рд┐рд▓реЗрд╕рдореНрдо рдкрд░реАрдХреНрд╖рдг рднрдПрдХреЛ рдЫреИрди ред рдирд┐рд╢реНрдЪрд┐рдд рдЧрд░реНрдиреБрд╣реЛрд╕реН рдХрд┐ рддрдкрд╛рдИрдХреЛ рдлрд╛рдЗрд▓ рдкреНрд░рдгрд╛рд▓реАрд▓реЗ рд╕реНрдЯреНрд░рд╛рдЗрдк рд╕рд╛рдЗрдЬ рд░ рдПрд░реЗрдорд╛ рдбрд┐рд╕реНрдХрд╣рд░реВрдХреЛ рд╕рдВрдЦреНрдпрд╛ рдерд╛рд╣рд╛ рдЫред рдЙрджрд╛рд╣рд░рдг рдХреЛ рд▓рд╛рдЧреА, рдпреЛ рдЫ рдбрд┐рд╕реНрдХ рдХреЛ 5K рдХреЛ рд╕реНрдЯреНрд░рд╛рдЗрдк рд╕рд╛рдЗрдЬ рд╕рдВрдЧ raid64 рдПрд░реЗ рд╣реЛ (рд╡рд╛рд╕реНрддрд╡рдорд╛ рдкрд╛рдБрдЪ, рдХрд┐рдирднрдиреЗ рдПрдХ рдбрд┐рд╕реНрдХ рд╕рдорд╛рдирддрд╛ рдХреЛ рд▓рд╛рдЧреА рдкреНрд░рдпреЛрдЧ рдЧрд░рд┐рдиреНрдЫ)ред рдпреА рд╕рд┐рдлрд╛рд░рд┐рд╕рд╣рд░реВ рд╕реИрджреНрдзрд╛рдиреНрддрд┐рдХ рдорд╛рдиреНрдпрддрд╛рд╣рд░реВрдорд╛ рдЖрдзрд╛рд░рд┐рдд рдЫрдиреН рд░ RAID рд╡рд┐рд╢реЗрд╖рдЬреНрдЮрд╣рд░реВрджреНрд╡рд╛рд░рд╛ рд╡рд┐рднрд┐рдиреНрди рдмреНрд▓рдЧрд╣рд░реВ/рд▓реЗрдЦрд╣рд░реВрдмрд╛рдЯ рд╕рдЩреНрдХрд▓рди рдЧрд░рд┐рдПрдХрд╛ рдЫрдиреНред

-> ext4 fs, 5 disks, 64K stripe, units in 4K blocks
mkfs -text4 -E stride=$((64/4))
-> xfs, 5 disks, 64K stripe, units in 512-byte sectors
mkfs -txfs -d sunit=$((64*2)) -d swidth=$((5*64*2))

рдареВрд▓рд╛ рдлрд╛рдЗрд▓рд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐, рддрдкрд╛рдИрдВрд▓реЗ рдорд╛рдерд┐рдХреЛ рдкрдЯреНрдЯреА рдЖрдХрд╛рд░рд╣рд░реВ рдмрдврд╛рдЙрдиреЗ рд╡рд┐рдЪрд╛рд░ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫред

ATTENTION! рдорд╛рдерд┐ рд╡рд░реНрдгрди рдЧрд░рд┐рдПрдХреЛ рд╕рдмреИ рдХреЗрд╣рд┐ рдкреНрд░рдХрд╛рд░рдХрд╛ рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдЕрддреНрдпрдиреНрдд рд╡реНрдпрдХреНрддрд┐рдкрд░рдХ рдЫред рдпрд╕ рд▓реЗрдЦрд▓реЗ рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рджреНрд╡рд╛рд░рд╛ рд╕рдореНрдмрдиреНрдзрд┐рдд рдЕрдиреБрдкреНрд░рдпреЛрдЧрд╣рд░реВрдХреЛ рдкрд░реАрдХреНрд╖рдг рдирдЧрд░реА рдХреБрдиреИ рдкрдирд┐ рд╕реБрдзрд╛рд░рдХреЛ рдЧреНрдпрд╛рд░реЗрдиреНрдЯреА рдЧрд░реНрджреИрдиред рдпреЛ рдорд╛рддреНрд░ рдкреНрд░рдпреЛрдЧ рдЧрд░рд┐рдиреБ рдкрд░реНрдЫ рдпрджрд┐ рддреНрдпрд╣рд╛рдБ рд╕рдордЧреНрд░ рдкреНрд░рдгрд╛рд▓реА рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛рд╢реАрд▓рддрд╛ рд╕реБрдзрд╛рд░ рдЧрд░реНрди рдЖрд╡рд╢реНрдпрдХ рдЫ рд╡рд╛ рдпрджрд┐ рдпрд╕рд▓реЗ рд╡рд░реНрддрдорд╛рди рд╕рдорд╕реНрдпрд╛рд╣рд░реВ рд╕рдорд╛рдзрд╛рди рдЧрд░реНрджрдЫред

рдердк рд╕рд╛рдордЧреНрд░реАрд╣рд░реВ:

GlusterFS рдХреЛ рд▓рд╛рдЧрд┐ рд▓рд┐рдирдХреНрд╕ рдХрд░реНрдиреЗрд▓ рд╕реЗрдЯрдЕрдк рдЧрд░реНрджреИ

рдердк рдкрдвреНрдиреБрд╣реЛрд╕реН

рд╕реНрд░реЛрдд: www.habr.com

рдПрдХ рдЯрд┐рдкреНрдкрдгреА рдердкреНрди