វេទមន្តនៃការរៀនក្រុម

ហេហេ! យើងសូមអញ្ជើញវិស្វករទិន្នន័យ និងអ្នកជំនាញការរៀនម៉ាស៊ីនទៅមេរៀនសាកល្បងដោយឥតគិតថ្លៃ "លទ្ធផលនៃគំរូ ML ចូលទៅក្នុងបរិយាកាសឧស្សាហកម្មដោយប្រើឧទាហរណ៍នៃការណែនាំតាមអ៊ីនធឺណិត". យើងក៏បានបោះពុម្ពអត្ថបទ Luca Monno - ប្រធានផ្នែកវិភាគហិរញ្ញវត្ថុនៅ CDP SpA ។

វិធីសាស្រ្តរៀនម៉ាស៊ីនដ៏សាមញ្ញ និងមានប្រយោជន៍បំផុតមួយគឺ Ensemble Learning ។ Ensemble Learning គឺជាវិធីសាស្រ្តនៅពីក្រោយ XGBoost, Bagging, Random Forest និងក្បួនដោះស្រាយជាច្រើនទៀត។

មានអត្ថបទល្អៗជាច្រើនអំពី Towards Data Science ប៉ុន្តែខ្ញុំបានជ្រើសរើសរឿងពីរ (ដំបូង и ទីពីរ) ដែលខ្ញុំចូលចិត្តបំផុត។ ដូច្នេះហេតុអ្វីបានជាសរសេរអត្ថបទមួយទៀតអំពី EL? ព្រោះខ្ញុំចង់បង្ហាញអ្នក។ របៀបដែលវាដំណើរការជាមួយឧទាហរណ៍សាមញ្ញ ដែលធ្វើឱ្យខ្ញុំយល់ថា គ្មានវេទមន្តនៅទីនេះទេ។

នៅពេលដែលខ្ញុំបានឃើញ EL ជាលើកដំបូងនៅក្នុងសកម្មភាព (ធ្វើការជាមួយគំរូតំរែតំរង់ដ៏សាមញ្ញមួយចំនួន) ខ្ញុំស្ទើរតែមិនជឿភ្នែករបស់ខ្ញុំ ហើយខ្ញុំនៅតែចងចាំសាស្រ្តាចារ្យដែលបានបង្រៀនខ្ញុំពីវិធីសាស្ត្រនេះ។

ខ្ញុំមានគំរូពីរផ្សេងគ្នា (ក្បួនដោះស្រាយការបណ្តុះបណ្តាលខ្សោយពីរ) ជាមួយនឹងម៉ែត្រ ក្រៅគំរូ R² ស្មើនឹង 0,90 និង 0,93 រៀងគ្នា។ មុនពេលមើលលទ្ធផល ខ្ញុំគិតថាខ្ញុំនឹងទទួលបាន R² នៅកន្លែងណាមួយរវាងតម្លៃដើមទាំងពីរ។ ម្យ៉ាងវិញទៀត ខ្ញុំជឿថា EL អាចត្រូវបានប្រើដើម្បីធ្វើឱ្យគំរូមួយសម្តែងមិនអន់ដូចម៉ូដែលដែលអាក្រក់បំផុតនោះទេ ប៉ុន្តែក៏មិនមែនជាគំរូដែលល្អបំផុតអាចអនុវត្តបានដែរ។

ចំពោះការភ្ញាក់ផ្អើលដ៏អស្ចារ្យរបស់ខ្ញុំ ការព្យាករណ៍ជាមធ្យមបានផល R² នៃ 0,95 ។ 

ដំបូង​ឡើយ ខ្ញុំ​ចាប់​ផ្តើម​ស្វែង​រក​កំហុស ប៉ុន្តែ​បន្ទាប់​មក​ខ្ញុំ​គិត​ថា ប្រហែល​ជា​មាន​វេទមន្ត​លាក់​ខ្លួន​នៅ​ទី​នេះ!

តើអ្វីទៅជា Ensemble Learning

ជាមួយនឹង EL អ្នកអាចបញ្ចូលគ្នានូវការព្យាករណ៍នៃម៉ូដែលពីរ ឬច្រើនដើម្បីបង្កើតគំរូដែលរឹងមាំ និងមានប្រសិទ្ធភាពជាងមុន។ មានវិធីសាស្រ្តជាច្រើនសម្រាប់ធ្វើការជាមួយក្រុមគំរូ។ នៅ​ទីនេះ​ខ្ញុំ​នឹង​ប៉ះ​លើ​ពីរ​ដែល​មាន​ប្រយោជន៍​បំផុត​ដើម្បី​ផ្តល់​ឱ្យ​នូវ​ទិដ្ឋភាព​ទូទៅ​មួយ​។

ដោយមានជំនួយពី តំរែតំរង់ វាគឺអាចធ្វើទៅបានដើម្បីជាមធ្យមដំណើរការនៃម៉ូដែលដែលមាន។

ដោយមានជំនួយពី ការចាត់ថ្នាក់ អ្នកអាចផ្តល់ឱកាសឱ្យម៉ូដែលជ្រើសរើសស្លាក។ ស្លាកដែលត្រូវបានជ្រើសរើសញឹកញាប់បំផុតគឺជាស្លាកដែលនឹងត្រូវបានជ្រើសរើសដោយម៉ូដែលថ្មី។

ហេតុអ្វីបានជា EL ដំណើរការប្រសើរជាងមុន។

មូលហេតុចម្បងដែល EL ដំណើរការបានប្រសើរជាងនេះគឺថារាល់ការទស្សន៍ទាយមានកំហុសមួយ (យើងដឹងវាពីទ្រឹស្ដីប្រូបាប៊ីលីតេ) ការរួមបញ្ចូលការព្យាករណ៍ពីរអាចជួយកាត់បន្ថយកំហុស ដូច្នេះហើយធ្វើអោយរង្វាស់លទ្ធផលប្រសើរឡើង (RMSE, R² ។ល។ ឃ.)។

ដ្យាក្រាមខាងក្រោមបង្ហាញពីរបៀបដែលក្បួនដោះស្រាយខ្សោយពីរដំណើរការលើសំណុំទិន្នន័យ។ ក្បួនដោះស្រាយទីមួយមានជម្រាលធំជាងតម្រូវការ ខណៈពេលដែលទីពីរមានស្ទើរតែសូន្យ (អាចដោយសារតែការធ្វើនិយ័តកម្មលើសកម្រិត)។ ប៉ុន្តែ ណ្តុំ បង្ហាញលទ្ធផលកាន់តែប្រសើរ។ 

ប្រសិនបើអ្នកក្រឡេកមើលសូចនាករ R² បន្ទាប់មកសម្រាប់ក្បួនដោះស្រាយការបណ្តុះបណ្តាលទីមួយ និងទីពីរ វានឹងស្មើនឹង -0.01¹, 0.22 រៀងគ្នា ខណៈពេលដែលសម្រាប់ក្រុមវានឹងស្មើនឹង 0.73។

មានហេតុផលជាច្រើនដែល algorithm អាចជាគំរូមិនល្អ សូម្បីតែនៅលើឧទាហរណ៍ជាមូលដ្ឋានដូចនេះ៖ ប្រហែលជាអ្នកសម្រេចចិត្តប្រើការធ្វើឱ្យទៀងទាត់ដើម្បីជៀសវាងការហួសកម្រិត ឬអ្នកសម្រេចចិត្តមិនបដិសេធនូវភាពមិនប្រក្រតីមួយចំនួន ឬប្រហែលជាអ្នកបានប្រើការតំរែតំរង់ពហុនាម ហើយខុស។ ដឺក្រេ (ឧទាហរណ៍ យើងបានប្រើពហុនាមនៃសញ្ញាបត្រទីពីរ ហើយទិន្នន័យតេស្តបង្ហាញពីភាពមិនស៊ីមេទ្រីច្បាស់លាស់ ដែលសញ្ញាបត្រទីបីនឹងសមជាង)។

នៅពេលដែល EL ដំណើរការកាន់តែប្រសើរ

សូមក្រឡេកមើលក្បួនដោះស្រាយការរៀនពីរដែលធ្វើការជាមួយទិន្នន័យដូចគ្នា។

នៅទីនេះអ្នកអាចមើលឃើញថាការបញ្ចូលគ្នានៃម៉ូដែលទាំងពីរមិនបានធ្វើឱ្យប្រសើរឡើងនូវការអនុវត្តច្រើននោះទេ។ ដំបូងឡើយ សម្រាប់ក្បួនដោះស្រាយការបណ្តុះបណ្តាលពីរ សូចនាករ R² គឺស្មើនឹង -0,37 និង 0,22 រៀងគ្នា ហើយសម្រាប់ក្រុមវាប្រែជា -0,04 ។ នោះគឺគំរូ EL បានទទួលតម្លៃមធ្យមនៃសូចនាករ។

ទោះយ៉ាងណាក៏ដោយ មានភាពខុសប្លែកគ្នាយ៉ាងខ្លាំងរវាងឧទាហរណ៍ទាំងពីរនេះ៖ ក្នុងឧទាហរណ៍ទីមួយ កំហុសនៃគំរូត្រូវបានទាក់ទងគ្នាជាអវិជ្ជមាន ហើយនៅក្នុងទីពីរ វាមានទំនាក់ទំនងគ្នាជាវិជ្ជមាន (មេគុណនៃគំរូទាំងបីមិនត្រូវបានប៉ាន់ស្មានទេ ប៉ុន្តែត្រូវបានជ្រើសរើសដោយសាមញ្ញ។ អ្នកនិពន្ធជាឧទាហរណ៍។ )

ដូច្នេះ Ensemble Learning អាច​ត្រូវ​បាន​ប្រើ​ដើម្បី​ធ្វើ​ឱ្យ​ប្រសើរ​ឡើង​នូវ​តុល្យភាព​លំអៀង/វ៉ារ្យង់​ក្នុង​ករណី​ណា​មួយ ប៉ុន្តែ​នៅ​ពេល​ណា កំហុសគំរូមិនជាប់ទាក់ទងគ្នាជាវិជ្ជមានទេ ការប្រើ EL អាចនាំឱ្យដំណើរការប្រសើរឡើង.

ម៉ូដែលដូចគ្នានិងខុសគ្នា

ជាញឹកញាប់ EL ត្រូវបានប្រើនៅលើគំរូដូចគ្នា (ដូចក្នុងឧទាហរណ៍នេះ ឬព្រៃចៃដន្យ) ប៉ុន្តែតាមពិតអ្នកអាចបញ្ចូលគ្នានូវគំរូផ្សេងៗគ្នា (តំរែតំរង់លីនេអ៊ែរ + បណ្តាញសរសៃប្រសាទ + XGBoost) ជាមួយនឹងសំណុំអថេរពន្យល់ផ្សេងៗគ្នា។ វាទំនងជានឹងបណ្តាលឱ្យមានកំហុសដែលមិនទាក់ទងគ្នា និងធ្វើឱ្យប្រសើរឡើងនូវការអនុវត្ត។

ការប្រៀបធៀបជាមួយការធ្វើពិពិធកម្មផលប័ត្រ

EL ធ្វើការស្រដៀងគ្នាទៅនឹងការធ្វើពិពិធកម្មនៅក្នុងទ្រឹស្ដីផលប័ត្រដែរ ប៉ុន្តែកាន់តែល្អសម្រាប់យើង។ 

នៅពេលធ្វើពិពិធកម្ម អ្នកព្យាយាមកាត់បន្ថយភាពខុសគ្នានៃការអនុវត្តរបស់អ្នកដោយការវិនិយោគលើភាគហ៊ុនដែលមិនទាក់ទងគ្នា។ ផលប័ត្រភាគហ៊ុនដែលធ្វើពិពិធកម្មល្អនឹងដំណើរការបានល្អជាងភាគហ៊ុនបុគ្គលដ៏អាក្រក់បំផុត ប៉ុន្តែមិនដែលប្រសើរជាងភាគហ៊ុនដែលល្អបំផុតនោះទេ។

ដកស្រង់ពីលោក Warren Buffett៖ 

"ការធ្វើពិពិធកម្មគឺជាការការពារប្រឆាំងនឹងភាពល្ងង់ខ្លៅ ចំពោះនរណាម្នាក់ដែលមិនដឹងថាគាត់កំពុងធ្វើអ្វី វា [ការធ្វើពិពិធកម្ម] មានន័យតិចតួចណាស់"។

នៅក្នុងការរៀនម៉ាស៊ីន EL ជួយកាត់បន្ថយភាពខុសប្លែកគ្នានៃគំរូរបស់អ្នក ប៉ុន្តែវាអាចបណ្តាលឱ្យម៉ូដែលដែលមានដំណើរការសរុបប្រសើរជាងម៉ូដែលដើមដ៏ល្អបំផុត។

ចូរសន្មតលទ្ធផល

ការបញ្ចូលគ្នានូវគំរូជាច្រើនចូលទៅក្នុងតែមួយគឺជាបច្ចេកទេសដ៏សាមញ្ញមួយដែលអាចនាំទៅដល់ការដោះស្រាយបញ្ហានៃភាពលំអៀងនៃការប្រែប្រួល និងការកែលម្អការអនុវត្ត។

ប្រសិនបើអ្នកមានម៉ូដែលពីរ ឬច្រើនដែលដំណើរការល្អ កុំជ្រើសរើសរវាងពួកវា៖ ប្រើពួកវាទាំងអស់ (ប៉ុន្តែដោយប្រុងប្រយ័ត្ន)!

តើអ្នកចាប់អារម្មណ៍ក្នុងការអភិវឌ្ឍន៍ក្នុងទិសដៅនេះទេ? ចុះឈ្មោះសម្រាប់មេរៀនសាកល្បងដោយឥតគិតថ្លៃ "លទ្ធផលនៃគំរូ ML ចូលទៅក្នុងបរិយាកាសឧស្សាហកម្មដោយប្រើឧទាហរណ៍នៃការណែនាំតាមអ៊ីនធឺណិត" និងចូលរួមក្នុង ជួបជាមួយ Andrey Kuznetsov តាមអ៊ីនធឺណិត — វិស្វកររៀនម៉ាស៊ីននៅ Mail.ru Group។

ប្រភព: www.habr.com