рдЧреБрдЧрд▓рдХреЛ рдирдпрд╛рдБ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рд▓реЛрдХрдкреНрд░рд┐рдп рдПрдирд╛рд▓рдЧрд╣рд░реВ рднрдиреНрджрд╛ рдзреЗрд░реИ рд╕рдЯреАрдХ рд░ рдЫрд┐рдЯреЛ рдЫ

рдорд╛рдирд╡ рднрд┐рдЬреБрдЕрд▓ рдХреЛрд░реНрдЯреЗрдХреНрд╕рдорд╛ рдЬреИрд╡рд┐рдХ рдкреНрд░рдХреНрд░рд┐рдпрд╛рд╣рд░реВрдмрд╛рдЯ рдкреНрд░реЗрд░рд┐рдд рдХрдиреНрднреЛрд▓реБрд╕рдирд▓ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХрд╣рд░реВ (CNNs), рд╡рд╕реНрддреБ рд░ рдЕрдиреБрд╣рд╛рд░ рдкрд╣рд┐рдЪрд╛рди рдЬрд╕реНрддрд╛ рдХрд╛рд░реНрдпрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рд░рд╛рдореНрд░реЛрд╕рдБрдЧ рдЙрдкрдпреБрдХреНрдд рдЫрдиреН, рддрд░ рддрд┐рдиреАрд╣рд░реВрдХреЛ рд╢реБрджреНрдзрддрд╛ рд╕реБрдзрд╛рд░ рдЧрд░реНрди рдХрдард┐рди рд░ рдлрд╛рдЗрди-рдЯреНрдпреВрдирд┐рдЩ рдЖрд╡рд╢реНрдпрдХ рдЫред рддреНрдпрд╕рдХрд╛рд░рдг рдЧреБрдЧрд▓ рдПрдЖрдИ рд░рд┐рд╕рд░реНрдЪрдХрд╛ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХрд╣рд░реВрд▓реЗ рдирдпрд╛рдБ рдореЛрдбреЗрд▓рд╣рд░реВ рдЦреЛрдЬрд┐рд░рд╣реЗрдХрд╛ рдЫрдиреН рдЬрд╕рд▓реЗ рд╕реАрдПрдирдПрдирд╣рд░реВрд▓рд╛рдИ "рдЕрдзрд┐рдХ рд╕рдВрд░рдЪрд┐рдд" рддрд░рд┐рдХрд╛рдорд╛ рдорд╛рдкрди рдЧрд░реНрджрдЫред рдЙрдиреАрд╣рд░реБрд▓реЗ рдЖрдлреНрдиреЛ рдХрд╛рдордХреЛ рдирддрд┐рдЬрд╛ реирежренреи рдорд╛ рдкреНрд░рдХрд╛рд╢рд┐рдд рдЧрд░реЗрдХрд╛ рдерд┐рдП рд▓реЗрдЦ "EfficientNet: Convolutional Neural Networks рдХреЛ рд▓рд╛рдЧреА рдореЛрдбреЗрд▓ рд╕реНрдХреЗрд▓рд┐рдЩреНрдЧ рдкреБрдирд░реНрд╡рд┐рдЪрд╛рд░," рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рдкреЛрд░реНрдЯрд▓ Arxiv.org рдорд╛ рдкреЛрд╕реНрдЯ рдЧрд░рд┐рдПрдХреЛ рдЫ, рд╕рд╛рдереИ рдорд╛ рдкреНрд░рдХрд╛рд╢рдирд╣рд░реВ рддрдкрд╛рдИрдХреЛ рдмреНрд▓рдЧрдорд╛ред рд╕рд╣-рд▓реЗрдЦрдХрд╣рд░реВрд▓реЗ рджрд╛рдмреА рдЧрд░реНрдЫрдиреН рдХрд┐ рдХреГрддреНрд░рд┐рдо рдмреБрджреНрдзрд┐рдорддреНрддрд╛ рдкреНрд░рдгрд╛рд▓реАрд╣рд░реВрдХреЛ рдкрд░рд┐рд╡рд╛рд░, EfficientNets рднрдирд┐рдиреНрдЫ, рдорд╛рдирдХ CNNs рдХреЛ рд╢реБрджреНрдзрддрд╛ рднрдиреНрджрд╛ рдмрдвреА рдЫ рд░ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХрдХреЛ рджрдХреНрд╖рддрд╛ резреж рдЧреБрдгрд╛ рд╕рдореНрдо рдмрдврд╛рдЙрдБрдЫред

рдЧреБрдЧрд▓рдХреЛ рдирдпрд╛рдБ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рд▓реЛрдХрдкреНрд░рд┐рдп рдПрдирд╛рд▓рдЧрд╣рд░реВ рднрдиреНрджрд╛ рдзреЗрд░реИ рд╕рдЯреАрдХ рд░ рдЫрд┐рдЯреЛ рдЫ

"рд╕реНрдХреЗрд▓рд┐рдВрдЧ рдореЛрдбреЗрд▓рд╣рд░реВрдХреЛ рд╕рд╛рдорд╛рдиреНрдп рдЕрднреНрдпрд╛рд╕ рднрдиреЗрдХреЛ рдордирдорд╛рдиреА рд░реВрдкрдорд╛ CNN рдХреЛ рдЧрд╣рд┐рд░рд╛рдИ рд╡рд╛ рдЪреМрдбрд╛рдЗ рдмрдврд╛рдЙрдиреБ рд╣реЛ, рд░ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд░ рдореВрд▓реНрдпрд╛рдЩреНрдХрдирдХрд╛ рд▓рд╛рдЧрд┐ рдЗрдирдкреБрдЯ рдЫрд╡рд┐рдХреЛ рдЙрдЪреНрдЪ рд░рд┐рдЬреЛрд▓реНрдпреБрд╕рди рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреБ рд╣реЛ," рд╕реНрдЯрд╛рдл рд╕рдлреНрдЯрд╡реЗрдпрд░ рдЗрдиреНрдЬрд┐рдирд┐рдпрд░ Mingxing Tan рд░ Google AI рдкреНрд░рдореБрдЦ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ Quoc V.Le рд▓реЗрдЦреНрдиреБрд╣реЛрд╕реНред "рдЪреМрдбрд╛рдЗ, рдЧрд╣рд┐рд░рд╛рдИ, рд░ рдЗрдирдкреБрдЯ рд░рд┐рдЬреЛрд▓реНрдпреБрд╕рди рдЬрд╕реНрддрд╛ рдиреЗрдЯрд╡рд░реНрдХ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░рд╣рд░реВ рдордирдорд╛рдиреЗ рд░реВрдкрдорд╛ рдорд╛рдкрди рдЧрд░реНрдиреЗ рдкрд░рдореНрдкрд░рд╛рдЧрдд рджреГрд╖реНрдЯрд┐рдХреЛрдгрд╣рд░реВрдХреЛ рд╡рд┐рдкрд░реАрдд, рд╣рд╛рдореНрд░реЛ рд╡рд┐рдзрд┐рд▓реЗ рд╕реНрдХреЗрд▓рд┐рдВрдЧ рдХрд╛рд░рдХрд╣рд░реВрдХреЛ рдирд┐рд╢реНрдЪрд┐рдд рд╕реЗрдЯрдХреЛ рд╕рд╛рде рдкреНрд░рддреНрдпреЗрдХ рдЖрдпрд╛рдорд▓рд╛рдИ рд╕рдорд╛рди рд░реВрдкрдорд╛ рдорд╛рдкрди рдЧрд░реНрджрдЫред"

рдХрд╛рд░реНрдпрд╕рдореНрдкрд╛рджрдирдорд╛ рдердк рд╕реБрдзрд╛рд░ рдЧрд░реНрди, рд╢реЛрдзрдХрд░реНрддрд╛рд╣рд░реВрд▓реЗ рдирдпрд╛рдБ рдмреНрдпрд╛рдХрдмреЛрди рдиреЗрдЯрд╡рд░реНрдХ, рдореЛрдмрд╛рдЗрд▓ рдЗрдиреНрднрд░реНрдЯреЗрдб рдмрд╛рдЯрд▓рдиреЗрдХ рдХрдиреНрднреЛрд▓реБрд╕рди (MBConv) рдХреЛ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреЗ рд╡рдХрд╛рд▓рдд рдЧрд░реНрдЫрдиреН, рдЬрд╕рд▓реЗ рдореЛрдбреЗрд▓рд╣рд░реВрдХреЛ EfficientNets рдкрд░рд┐рд╡рд╛рд░рдХреЛ рд▓рд╛рдЧрд┐ рдЖрдзрд╛рд░рдХреЛ рд░реВрдкрдорд╛ рдХрд╛рд░реНрдп рдЧрд░реНрджрдЫред

рдкрд░реАрдХреНрд╖рдгрд╣рд░реВрдорд╛, EfficientNets рд▓реЗ рдкрд░рд┐рдорд╛рдгрдХреЛ рдЕрд░реНрдбрд░рджреНрд╡рд╛рд░рд╛ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░ рд╕рд╛рдЗрдЬ рд░ рдХрдореНрдкреНрдпреБрдЯреЗрд╢рдирд▓ рд╕реНрд░реЛрдд рдЖрд╡рд╢реНрдпрдХрддрд╛рд╣рд░реВ рдШрдЯрд╛рдЙрдБрджреИ рдЕрд╡рд╕реНрдерд┐рдд CNN рд╣рд░реВ рднрдиреНрджрд╛ рдЙрдЪреНрдЪ рд╢реБрджреНрдзрддрд╛ рд░ рд░рд╛рдореНрд░реЛ рджрдХреНрд╖рддрд╛ рджреБрд╡реИ рдкреНрд░рджрд░реНрд╢рди рдЧрд░реЗрдХреЛ рдЫред рдореЛрдбрд▓рд╣рд░реВ рдордзреНрдпреЗ рдПрдЙрдЯрд╛, EfficientNet-B7 рд▓реЗ рдкреНрд░рд╕рд┐рджреНрдз CNN Gpipe рднрдиреНрджрд╛ рео.рек рдЧреБрдгрд╛ рд╕рд╛рдиреЛ рд╕рд╛рдЗрдЬ рд░ рем.рез рдЧреБрдгрд╛ рд░рд╛рдореНрд░реЛ рдХрд╛рд░реНрдпрд╕рдореНрдкрд╛рджрди рджреЗрдЦрд╛рдПрдХреЛ рдЫ, рд░ рдкрд░реАрдХреНрд╖рдгрдорд╛ реорек.рек% рд░ репрен.рез% рд╢реБрджреНрдзрддрд╛ (рд╢реАрд░реНрд╖-рез рд░ рд╢реАрд░реНрд╖-резред рел рдкрд░рд┐рдгрд╛рдо) рдкрдирд┐ рд╣рд╛рд╕рд┐рд▓ рдЧрд░реЗрдХреЛ рдЫред ImageNet рд╕реЗрдЯред рд▓реЛрдХрдкреНрд░рд┐рдп CNN ResNet-8,4 рдХреЛ рддреБрд▓рдирд╛рдорд╛, рдЕрд░реНрдХреЛ EfficientNet рдореЛрдбреЗрд▓, EfficientNet-B6,1, рд╕рдорд╛рди рд╕реНрд░реЛрддрд╣рд░реВ рдкреНрд░рдпреЛрдЧ рдЧрд░реЗрд░, ResNet-84,4 рдХреЛ рд▓рд╛рдЧрд┐ 97,1% рд╡рд┐рд░реБрджреНрдз 1% рдХреЛ рд╢реБрджреНрдзрддрд╛ рд╣рд╛рд╕рд┐рд▓ рдЧрд░реНтАНрдпреЛред

EfficientNets рдореЛрдбреЗрд▓рд╣рд░реВрд▓реЗ CIFAR-100 рдбреЗрдЯрд╛рд╕реЗрдЯ (91,7% рд╢реБрджреНрдзрддрд╛) рд░ рд╕рд╣рд┐рдд рдЖрда рдордзреНрдпреЗ рдкрд╛рдБрдЪ рдмреЗрдиреНрдЪрдорд╛рд░реНрдХрд╣рд░реВрдорд╛ рдЙрдЪреНрдЪ рд╕рдЯреАрдХрддрд╛ рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрджреИ, рдЕрдиреНрдп рдбреЗрдЯрд╛рд╕реЗрдЯрд╣рд░реВрдорд╛ рд░рд╛рдореНрд░реЛ рдкреНрд░рджрд░реНрд╢рди рдЧрд░реЗред рдлреВрд▓ (98,8%)ред

рдЧреБрдЧрд▓рдХреЛ рдирдпрд╛рдБ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рд▓реЛрдХрдкреНрд░рд┐рдп рдПрдирд╛рд▓рдЧрд╣рд░реВ рднрдиреНрджрд╛ рдзреЗрд░реИ рд╕рдЯреАрдХ рд░ рдЫрд┐рдЯреЛ рдЫ

"рдиреНрдпреВрд░рд▓ рдореЛрдбреЗрд▓рд╣рд░реВрдХреЛ рджрдХреНрд╖рддрд╛рдорд╛ рдорд╣рддреНрддреНрд╡рдкреВрд░реНрдг рд╕реБрдзрд╛рд░рд╣рд░реВ рдкреНрд░рджрд╛рди рдЧрд░реЗрд░, рд╣рд╛рдореА рдЖрд╢рд╛ рдЧрд░реНрдЫреМрдВ рдХрд┐ EfficientNets рд╕рдБрдЧ рднрд╡рд┐рд╖реНрдпрдХреЛ рдХрдореНрдкреНрдпреБрдЯрд░ рджреГрд╖реНрдЯрд┐ рдХрд╛рд░реНрдпрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдирдпрд╛рдБ рд░реВрдкрд░реЗрдЦрд╛рдХреЛ рд░реВрдкрдорд╛ рд╕реЗрд╡рд╛ рдЧрд░реНрдиреЗ рдХреНрд╖рдорддрд╛ рдЫ," рдЯреНрдпрд╛рди рд░ рд▓реА рд▓реЗрдЦреНрдЫрдиреНред

рдЧреБрдЧрд▓рдХреЛ рдХреНрд▓рд╛рдЙрдб рдЯреЗрдиреНрд╕рд░ рдкреНрд░реЛрд╕реЗрд╕рд┐рдЩ рдЗрдХрд╛рдЗрд╣рд░реВ (TPUs) рдХреЛ рд▓рд╛рдЧрд┐ рд╕реНрд░реЛрдд рдХреЛрдб рд░ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╕реНрдХреНрд░рд┐рдкреНрдЯрд╣рд░реВ рдирд┐рдГрд╢реБрд▓реНрдХ рд░реВрдкрдорд╛ рдЙрдкрд▓рдмреНрдз рдЫрдиреН Github.



рд╕реНрд░реЛрдд: 3dnews.ru

рдПрдХ рдЯрд┐рдкреНрдкрдгреА рдердкреНрди