អំពីភាពលំអៀងនៃបញ្ញាសិប្បនិម្មិត

tl; dr:

• ការរៀនម៉ាស៊ីនស្វែងរកគំរូនៅក្នុងទិន្នន័យ។ ប៉ុន្តែបញ្ញាសិប្បនិម្មិតអាចត្រូវបាន "លំអៀង" ពោលគឺស្វែងរកគំរូដែលមិនត្រឹមត្រូវ។ ជាឧទាហរណ៍ ប្រព័ន្ធរកឃើញជំងឺមហារីកស្បែកផ្អែកលើរូបថតអាចយកចិត្តទុកដាក់ជាពិសេសចំពោះរូបភាពដែលថតនៅក្នុងការិយាល័យវេជ្ជបណ្ឌិត។ ការរៀនម៉ាស៊ីនមិនអាចទេ។ ដើម្បីយល់៖ ក្បួនដោះស្រាយរបស់វាកំណត់អត្តសញ្ញាណតែគំរូជាលេខប៉ុណ្ណោះ ហើយប្រសិនបើទិន្នន័យមិនមែនជាតំណាង នោះលទ្ធផលនៃដំណើរការរបស់វានឹងដូចគ្នា។ ហើយការចាប់កំហុសបែបនេះអាចជាការពិបាកដោយសារតែមេកានិចនៃការរៀនម៉ាស៊ីន។
• តំបន់បញ្ហាជាក់ស្តែង និងគួរឱ្យខ្លាចបំផុតគឺភាពចម្រុះរបស់មនុស្ស។ មានហេតុផលជាច្រើនដែលទិន្នន័យអំពីមនុស្សអាចបាត់បង់វត្ថុបំណង សូម្បីតែនៅដំណាក់កាលប្រមូល។ ប៉ុន្តែកុំគិតថាបញ្ហានេះប៉ះពាល់តែមនុស្សទេ៖ ការលំបាកដូចគ្នាកើតឡើងនៅពេលព្យាយាមរកមើលទឹកជំនន់នៅក្នុងឃ្លាំង ឬទួរប៊ីនហ្គាសដែលបរាជ័យ។ ប្រព័ន្ធមួយចំនួនអាចមានភាពលំអៀងចំពោះពណ៌ស្បែក ហើយប្រព័ន្ធផ្សេងទៀតនឹងមានភាពលំអៀងចំពោះឧបករណ៍ចាប់សញ្ញា Siemens ។
• បញ្ហាបែបនេះមិនមែនជារឿងថ្មីសម្រាប់ machine learning នោះទេ ហើយពួកគេនៅឆ្ងាយពីវាតែមួយគត់។ ការសន្មត់ខុសត្រូវបានធ្វើឡើងនៅក្នុងរចនាសម្ព័ន្ធស្មុគ្រស្មាញណាមួយ ហើយការយល់ដឹងពីមូលហេតុដែលការសម្រេចចិត្តជាក់លាក់មួយត្រូវបានធ្វើឡើងគឺតែងតែពិបាក។ យើងត្រូវប្រយុទ្ធប្រឆាំងនឹងបញ្ហានេះតាមរបៀបដ៏ទូលំទូលាយ៖ បង្កើតឧបករណ៍ និងដំណើរការសម្រាប់ការផ្ទៀងផ្ទាត់ និងអប់រំអ្នកប្រើប្រាស់ ដើម្បីកុំឱ្យពួកគេធ្វើតាមការណែនាំ AI ដោយងងឹតងងល់។ ការរៀនម៉ាស៊ីនធ្វើរឿងមួយចំនួនបានល្អជាងយើងអាចធ្វើបាន ប៉ុន្តែជាឧទាហរណ៍ សត្វឆ្កែមានប្រសិទ្ធភាពជាងមនុស្សក្នុងការរកឃើញថ្នាំ ដែលមិនមែនជាហេតុផលដើម្បីប្រើវាជាសាក្សី និងធ្វើការវិនិច្ឆ័យដោយផ្អែកលើទីបន្ទាល់របស់ពួកគេ។ ហើយដោយវិធីនេះ សត្វឆ្កែគឺឆ្លាតជាងប្រព័ន្ធរៀនម៉ាស៊ីនណាមួយ។

ការរៀនម៉ាស៊ីនគឺជានិន្នាការបច្ចេកវិទ្យាមូលដ្ឋានដ៏សំខាន់បំផុតមួយនាពេលបច្ចុប្បន្ននេះ។ នេះគឺជាមធ្យោបាយដ៏សំខាន់មួយ ដែលបច្ចេកវិទ្យានឹងផ្លាស់ប្តូរពិភពលោកជុំវិញយើងក្នុងទសវត្សរ៍ក្រោយ។ ទិដ្ឋភាព​ខ្លះ​នៃ​ការ​ផ្លាស់​ប្តូរ​ទាំង​នេះ​គឺ​ជា​មូលហេតុ​សម្រាប់​ការ​ព្រួយ​បារម្ភ។ ឧទាហរណ៍ ផលប៉ះពាល់សក្តានុពលនៃការរៀនម៉ាស៊ីននៅលើទីផ្សារការងារ ឬការប្រើប្រាស់របស់វាសម្រាប់គោលបំណងគ្មានសីលធម៌ (ឧទាហរណ៍ដោយរបបផ្តាច់ការ)។ មាន​បញ្ហា​មួយ​ទៀត​ដែល​ប្រកាស​នេះ​និយាយ៖ ភាពលំអៀងនៃបញ្ញាសិប្បនិម្មិត.

នេះមិនមែនជារឿងងាយស្រួលនោះទេ។

AI របស់ Google អាចស្វែងរកសត្វឆ្មា។ ដំណឹង​នេះ​ពី​ឆ្នាំ 2012 គឺ​ជា​អ្វី​ដែល​ពិសេស​នៅ​ពេល​នោះ​។

តើ AI Bias ជាអ្វី?

"ទិន្នន័យឆៅ" គឺជា oxymoron និងជាគំនិតអាក្រក់។ ទិន្នន័យត្រូវតែត្រូវបានរៀបចំយ៉ាងល្អ និងដោយប្រុងប្រយ័ត្ន។ - លោក Geoffrey Boker

នៅកន្លែងណាមួយមុនឆ្នាំ 2013 ដើម្បីបង្កើតប្រព័ន្ធដែលនិយាយថា ទទួលស្គាល់ឆ្មានៅក្នុងរូបថត អ្នកត្រូវតែពណ៌នាជំហានឡូជីខល។ របៀបស្វែងរកជ្រុងក្នុងរូបភាព ស្គាល់ភ្នែក វិភាគវាយនភាពសម្រាប់រោមសត្វ រាប់ក្រញាំជាដើម។ បន្ទាប់មកដាក់សមាសធាតុទាំងអស់បញ្ចូលគ្នា ហើយស្វែងយល់ថាវាពិតជាមិនដំណើរការទេ។ ដូចជាសេះមេកានិច - តាមទ្រឹស្តីវាអាចត្រូវបានបង្កើតឡើង ប៉ុន្តែក្នុងការអនុវត្តវាស្មុគស្មាញពេកក្នុងការពិពណ៌នា។ លទ្ធផលចុងក្រោយគឺរាប់រយ (ឬរាប់ពាន់) នៃច្បាប់សរសេរដោយដៃ។ ហើយមិនមែនជាគំរូការងារតែមួយទេ។

ជាមួយនឹងវត្តមាននៃការរៀនម៉ាស៊ីន យើងឈប់ប្រើច្បាប់ "សៀវភៅដៃ" សម្រាប់ការទទួលស្គាល់វត្ថុជាក់លាក់មួយ។ ជំនួសមកវិញ យើងយកគំរូមួយពាន់នៃ "នេះ", X, មួយពាន់គំរូនៃ "ផ្សេងទៀត", Y ហើយឱ្យកុំព្យូទ័របង្កើតគំរូដោយផ្អែកលើការវិភាគស្ថិតិរបស់ពួកគេ។ បន្ទាប់មក យើងផ្តល់ឱ្យគំរូនេះនូវទិន្នន័យគំរូមួយចំនួន ហើយវាកំណត់ដោយភាពជាក់លាក់មួយចំនួនថាតើវាសមនឹងឈុតណាមួយដែរឬទេ។ ការរៀនម៉ាស៊ីនបង្កើតគំរូពីទិន្នន័យ ជាជាងការសរសេរពីមនុស្ស។ លទ្ធផលគឺគួរអោយចាប់អារម្មណ៍ ជាពិសេសនៅក្នុងវិស័យនៃការទទួលស្គាល់រូបភាព និងលំនាំ ហើយនោះជាមូលហេតុដែលឧស្សាហកម្មបច្ចេកវិទ្យាទាំងមូលឥឡូវនេះកំពុងផ្លាស់ប្តូរទៅ machine learning (ML)។

ប៉ុន្តែវាមិនសាមញ្ញនោះទេ។ នៅក្នុងពិភពពិត គំរូ X ឬ Y រាប់ពាន់របស់អ្នកក៏មាន A, B, J, L, O, R និងសូម្បីតែ L ផងដែរ។ ទាំងនេះប្រហែលជាមិនត្រូវបានចែកចាយស្មើៗគ្នាទេ ហើយមួយចំនួនអាចកើតឡើងញឹកញាប់ដែលប្រព័ន្ធនឹងចំណាយកាន់តែច្រើន។ យកចិត្តទុកដាក់ចំពោះពួកគេជាជាងវត្ថុដែលអ្នកចាប់អារម្មណ៍។

តើនេះមានន័យយ៉ាងណាក្នុងការអនុវត្ត? ឧទាហរណ៍ដែលខ្ញុំចូលចិត្តបំផុតគឺនៅពេលដែលប្រព័ន្ធទទួលស្គាល់រូបភាព មើលភ្នំស្មៅហើយនិយាយថា "ចៀម". វាច្បាស់ណាស់ថាហេតុអ្វីបានជា៖ រូបថតឧទាហរណ៍ភាគច្រើននៃ "ចៀម" ត្រូវបានគេថតនៅវាលស្មៅដែលពួកគេរស់នៅ ហើយក្នុងរូបភាពទាំងនេះ ស្មៅមានកន្លែងទំនេរច្រើនជាងសត្វរុយពណ៌សតូចៗ ហើយវាគឺជាស្មៅដែលប្រព័ន្ធចាត់ទុកថាសំខាន់បំផុត។ .

មានឧទាហរណ៍ធ្ងន់ធ្ងរជាងនេះ។ មួយថ្មីៗ គម្រោង សម្រាប់ការរកឃើញជំងឺមហារីកស្បែកនៅក្នុងរូបថត។ វាបានប្រែក្លាយថាគ្រូពេទ្យជំនាញខាងសើស្បែកជាញឹកញាប់ថតរូបបន្ទាត់ជាមួយនឹងការបង្ហាញនៃជំងឺមហារីកស្បែកដើម្បីកត់ត្រាទំហំនៃការបង្កើត។ មិនមានបន្ទាត់នៅក្នុងរូបថតឧទាហរណ៍នៃស្បែកដែលមានសុខភាពល្អនោះទេ។ សម្រាប់ប្រព័ន្ធ AI អ្នកគ្រប់គ្រងបែបនេះ (ច្បាស់ជាងនេះទៅទៀត ភីកសែលដែលយើងកំណត់ថាជា "បន្ទាត់") បានក្លាយទៅជាភាពខុសគ្នាមួយរវាងគំរូមួយចំនួន ហើយជួនកាលសំខាន់ជាងកន្ទួលតូចៗនៅលើស្បែក។ ដូច្នេះ ប្រព័ន្ធដែលបង្កើតឡើងដើម្បីកំណត់អត្តសញ្ញាណមហារីកស្បែក ជួនកាលទទួលស្គាល់អ្នកគ្រប់គ្រងជំនួសវិញ។

ចំណុចសំខាន់នៅទីនេះគឺថាប្រព័ន្ធមិនមានការយល់ដឹងអំពីអ្វីដែលវាកំពុងមើលនោះទេ។ យើងក្រឡេកមើលសំណុំនៃភីកសែល ហើយឃើញនៅក្នុងពួកវាជាចៀម ស្បែក ឬបន្ទាត់ ប៉ុន្តែប្រព័ន្ធគ្រាន់តែជាបន្ទាត់លេខប៉ុណ្ណោះ។ នាងមិនឃើញចន្លោះបីវិមាត្រ មិនឃើញវត្ថុ វាយនភាព ឬសត្វចៀមទេ។ នាងគ្រាន់តែឃើញគំរូនៅក្នុងទិន្នន័យ។

ការលំបាកក្នុងការធ្វើរោគវិនិច្ឆ័យបញ្ហាបែបនេះគឺថាបណ្តាញសរសៃប្រសាទ (គំរូដែលបង្កើតដោយប្រព័ន្ធរៀនម៉ាស៊ីនរបស់អ្នក) មានថ្នាំងរាប់ពាន់រាប់សែន។ មិនមានវិធីងាយស្រួលដើម្បីរកមើលគំរូ និងមើលពីរបៀបដែលវាធ្វើការសម្រេចចិត្តនោះទេ។ ការ​មាន​វិធី​បែប​នេះ​នឹង​មាន​ន័យ​ថា​ដំណើរ​ការ​គឺ​សាមញ្ញ​ល្មម​នឹង​ពណ៌នា​អំពី​ច្បាប់​ទាំង​អស់​ដោយ​ដៃ​ដោយ​មិន​ប្រើ​ការ​រៀន​ដោយ​ម៉ាស៊ីន។ មនុស្ស​បារម្ភ​ថា ការ​រៀន​ម៉ាស៊ីន​បាន​ក្លាយ​ជា​អ្វី​មួយ​នៃ​ប្រអប់​ខ្មៅ។ (ខ្ញុំនឹងពន្យល់បន្តិចក្រោយមកថាហេតុអ្វីបានជាការប្រៀបធៀបនេះនៅតែច្រើនពេក។ )

នេះតាមន័យទូទៅ គឺជាបញ្ហានៃភាពលំអៀងនៅក្នុងបញ្ញាសិប្បនិមិត្ត ឬការរៀនម៉ាស៊ីន៖ ប្រព័ន្ធសម្រាប់ស្វែងរកគំរូក្នុងទិន្នន័យអាចរកឃើញគំរូខុស ហើយអ្នកប្រហែលជាមិនកត់សំគាល់វាទេ។ នេះគឺជាលក្ខណៈជាមូលដ្ឋាននៃបច្ចេកវិទ្យា ហើយវាច្បាស់ណាស់ចំពោះអ្នកគ្រប់គ្នាដែលធ្វើការជាមួយវានៅក្នុងវិស័យអប់រំ និងនៅក្រុមហ៊ុនបច្ចេកវិទ្យាធំៗ។ ប៉ុន្តែ​ផលវិបាក​របស់​វា​គឺ​ស្មុគស្មាញ ហើយ​ដំណោះស្រាយ​ដែល​អាច​កើត​មាន​ចំពោះ​ផលវិបាក​ទាំងនោះ​។

ចូរនិយាយអំពីផលវិបាកជាមុនសិន។

AI អាច​ធ្វើ​ការ​ជ្រើសរើស​ដោយ​ប្រយោល​សម្រាប់​មនុស្ស​ប្រភេទ​មួយ​ចំនួន​ដោយ​ផ្អែក​លើ​ចំនួន​ច្រើន​នៃ​សញ្ញា​ដែល​មិន​អាច​មើល​ឃើញ

សេណារីយ៉ូ AI Bias

ជាក់ស្តែង និងគួរឱ្យភ័យខ្លាចបំផុត បញ្ហានេះអាចបង្ហាញខ្លួនវានៅពេលនិយាយអំពីភាពចម្រុះរបស់មនុស្ស។ ថ្មីៗនេះ មានពាក្យចចាមអារ៉ាមមួយ។ថាក្រុមហ៊ុន Amazon បានព្យាយាមបង្កើតប្រព័ន្ធរៀនម៉ាស៊ីនសម្រាប់ការពិនិត្យបេក្ខជនការងារដំបូង។ ដោយសារមានបុរសកាន់តែច្រើនក្នុងចំនោមកម្មករ Amazon ឧទាហរណ៍នៃ "ការជួលដោយជោគជ័យ" ក៏ជាញឹកញាប់បុរសដែរ ហើយមានបុរសកាន់តែច្រើនក្នុងការជ្រើសរើសប្រវត្តិរូបដែលបានស្នើដោយប្រព័ន្ធ។ Amazon បានកត់សម្គាល់រឿងនេះ ហើយមិនបានបញ្ចេញប្រព័ន្ធនេះទៅក្នុងផលិតកម្មទេ។

អ្វីដែលសំខាន់បំផុតនៅក្នុងឧទាហរណ៍នេះគឺថាប្រព័ន្ធនេះត្រូវបានពាក្យចចាមអារ៉ាមថានឹងពេញចិត្តអ្នកដាក់ពាក្យសុំជាបុរស បើទោះបីជាការពិតដែលថាភេទមិនត្រូវបានបញ្ជាក់នៅលើប្រវត្តិរូបក៏ដោយ។ ប្រព័ន្ធនេះបានឃើញគំរូផ្សេងទៀតនៅក្នុងឧទាហរណ៍នៃ "ការជួលល្អ"៖ ឧទាហរណ៍ ស្ត្រីអាចប្រើពាក្យពិសេសដើម្បីពណ៌នាអំពីសមិទ្ធផល ឬមានចំណូលចិត្តពិសេស។ ជាការពិតណាស់ ប្រព័ន្ធនេះមិនដឹងថា "ហុកគី" ជាអ្វី ឬ "មនុស្ស" ជានរណា ឬអ្វីជា "ជោគជ័យ" - វាគ្រាន់តែធ្វើការវិភាគស្ថិតិនៃអត្ថបទ។ ប៉ុន្តែគំរូដែលនាងបានឃើញទំនងជានឹងមិនមាននរណាកត់សម្គាល់ដោយមនុស្ស ហើយពួកគេមួយចំនួន (ឧទាហរណ៍ ការពិតដែលថាមនុស្សភេទផ្សេងគ្នាពិពណ៌នាអំពីភាពជោគជ័យខុសៗគ្នា) ប្រហែលជាពិបាកសម្រាប់យើងក្នុងការមើលឃើញ បើទោះបីជាយើងសម្លឹងមើលពួកគេ។

បន្ថែមទៀត - កាន់តែអាក្រក់។ ប្រព័ន្ធរៀនតាមម៉ាស៊ីនដែលល្អក្នុងការស្វែងរកជំងឺមហារីកលើស្បែកស្លេក ប្រហែលជាមិនដំណើរការល្អលើស្បែកខ្មៅ ឬផ្ទុយមកវិញទេ។ មិនចាំបាច់ដោយសារតែលំអៀងនោះទេ ប៉ុន្តែដោយសារតែអ្នកប្រហែលជាត្រូវបង្កើតគំរូដាច់ដោយឡែកសម្រាប់ពណ៌ស្បែកផ្សេងគ្នា ដោយជ្រើសរើសលក្ខណៈផ្សេងៗគ្នា។ ប្រព័ន្ធរៀនរបស់ម៉ាស៊ីនមិនអាចផ្លាស់ប្តូរបាន សូម្បីតែនៅក្នុងតំបន់តូចចង្អៀតដូចជាការសម្គាល់រូបភាពក៏ដោយ។ អ្នកត្រូវកែប្រែប្រព័ន្ធ ពេលខ្លះគ្រាន់តែឆ្លងកាត់ការសាកល្បង និងកំហុស ដើម្បីទទួលបានចំណុចទាញល្អលើលក្ខណៈពិសេសនៅក្នុងទិន្នន័យដែលអ្នកចាប់អារម្មណ៍ រហូតដល់អ្នកសម្រេចបាននូវភាពត្រឹមត្រូវដែលអ្នកចង់បាន។ ប៉ុន្តែអ្វីដែលអ្នកប្រហែលជាមិនកត់សម្គាល់នោះគឺថាប្រព័ន្ធមានភាពត្រឹមត្រូវ 98% នៃពេលវេលាជាមួយក្រុមមួយ ហើយមានតែ 91% (សូម្បីតែត្រឹមត្រូវជាងការវិភាគរបស់មនុស្ស) ជាមួយក្រុមផ្សេងទៀត។

រហូតមកដល់ពេលនេះ ខ្ញុំបានប្រើឧទាហរណ៍សំខាន់ៗទាក់ទងនឹងមនុស្ស និងលក្ខណៈរបស់ពួកគេ។ ការពិភាក្សាជុំវិញបញ្ហានេះផ្តោតសំខាន់លើប្រធានបទនេះ។ ប៉ុន្តែ​វា​ជា​ការ​សំខាន់​ក្នុង​ការ​យល់​ថា ការ​លំអៀង​ទៅ​លើ​មនុស្ស​គឺ​ជា​ផ្នែក​មួយ​នៃ​បញ្ហា​តែ​ប៉ុណ្ណោះ។ យើងនឹងប្រើការរៀនម៉ាស៊ីនសម្រាប់អ្វីៗជាច្រើន ហើយកំហុសក្នុងការយកគំរូតាមនឹងពាក់ព័ន្ធទៅនឹងពួកវាទាំងអស់។ ម្យ៉ាងវិញទៀត ប្រសិនបើអ្នកធ្វើការជាមួយមនុស្ស ភាពលំអៀងនៅក្នុងទិន្នន័យប្រហែលជាមិនទាក់ទងនឹងពួកគេទេ។

ដើម្បីយល់ពីរឿងនេះ ចូរយើងត្រលប់ទៅឧទាហរណ៍នៃជំងឺមហារីកស្បែក ហើយពិចារណាពីលទ្ធភាពសម្មតិកម្មបីសម្រាប់ការបរាជ័យប្រព័ន្ធ។

1. ការចែកចាយមនុស្សច្រើនប្រភេទ៖ ចំនួនរូបថតមិនមានតុល្យភាពនៃពណ៌ស្បែកខុសៗគ្នា ដែលនាំទៅរកភាពវិជ្ជមានមិនពិត ឬអវិជ្ជមានមិនពិត ដោយសារសារធាតុពណ៌។
2. ទិន្នន័យដែលប្រព័ន្ធត្រូវបានបណ្តុះបណ្តាលមានលក្ខណៈពិសេសដែលកើតឡើងញឹកញាប់ និងមានការចែកចាយបន្តបន្ទាប់គ្នា ដែលមិនទាក់ទងនឹងមនុស្ស និងមិនមានតម្លៃក្នុងការវិនិច្ឆ័យ៖ បន្ទាត់នៅក្នុងរូបថតនៃជំងឺមហារីកស្បែក ឬស្មៅនៅក្នុងរូបថតចៀម។ ក្នុងករណីនេះ លទ្ធផលនឹងខុសគ្នា ប្រសិនបើប្រព័ន្ធរកឃើញភីកសែលនៅក្នុងរូបភាពនៃអ្វីមួយដែលភ្នែកមនុស្សកំណត់ថាជា "បន្ទាត់"។
3. ទិន្នន័យ​មាន​លក្ខណៈ​ភាគី​ទីបី​ដែល​មនុស្ស​ម្នាក់​មិន​អាច​មើល​ឃើញ​ទោះ​បី​ជា​គាត់​ស្វែងរក​វា​ក៏ដោយ។

តើ​វា​មានន័យ​យ៉ាង​ដូចម្តេច? យើងដឹងពីអាទិភាពមួយដែលទិន្នន័យអាចតំណាងឱ្យក្រុមមនុស្សផ្សេងគ្នា ហើយយ៉ាងហោចណាស់យើងអាចរៀបចំផែនការដើម្បីរកមើលករណីលើកលែងបែបនេះ។ ម្យ៉ាងវិញទៀត មានហេតុផលសង្គមជាច្រើនដែលសន្មត់ថាទិន្នន័យអំពីក្រុមមនុស្សមានការលំអៀងមួយចំនួនរួចហើយ។ ប្រសិនបើយើងក្រឡេកមើលរូបថតជាមួយបន្ទាត់ យើងនឹងឃើញអ្នកគ្រប់គ្រងនេះ - យើងគ្រាន់តែមិនអើពើវាពីមុន ដោយដឹងថាវាមិនសំខាន់ ហើយភ្លេចថាប្រព័ន្ធនេះមិនដឹងអ្វីទាំងអស់។

ប៉ុន្តែចុះយ៉ាងណាវិញ ប្រសិនបើរូបថតទាំងអស់នៃស្បែកដែលមិនមានសុខភាពល្អរបស់អ្នកត្រូវបានថតនៅក្នុងការិយាល័យក្រោមពន្លឺភ្លើង ហើយស្បែកដែលមានសុខភាពល្អរបស់អ្នកត្រូវបានថតនៅក្រោមពន្លឺ fluorescent? ចុះប្រសិនបើបន្ទាប់ពីអ្នកបានបញ្ចប់ការថតស្បែកដែលមានសុខភាពល្អ មុនពេលបាញ់ស្បែកដែលមានសុខភាពល្អ អ្នកបានធ្វើបច្ចុប្បន្នភាពប្រព័ន្ធប្រតិបត្តិការនៅលើទូរស័ព្ទរបស់អ្នក ហើយ Apple ឬ Google បានផ្លាស់ប្តូរក្បួនដោះស្រាយកាត់បន្ថយសំលេងរំខានបន្តិច? មនុស្សម្នាក់មិនអាចកត់សម្គាល់រឿងនេះបានទេ ទោះបីជាគាត់ស្វែងរកលក្ខណៈពិសេសបែបនេះប៉ុណ្ណាក៏ដោយ។ ប៉ុន្តែ​ប្រព័ន្ធ​ប្រើ​ម៉ាស៊ីន​នឹង​ឃើញ​និង​ប្រើ​វា​ភ្លាមៗ។ នាងមិនដឹងអ្វីទាំងអស់។

រហូតមកដល់ពេលនេះ យើងបាននិយាយអំពីការជាប់ទាក់ទងគ្នាដ៏ចម្លែក ប៉ុន្តែវាក៏អាចថាទិន្នន័យមានភាពត្រឹមត្រូវ និងលទ្ធផលត្រឹមត្រូវ ប៉ុន្តែអ្នកមិនចង់ប្រើវាសម្រាប់ហេតុផលសីលធម៌ ច្បាប់ ឬការគ្រប់គ្រងនោះទេ។ ជាឧទាហរណ៍ យុត្តាធិការមួយចំនួនមិនអនុញ្ញាតឱ្យស្ត្រីទទួលបានការបញ្ចុះតម្លៃលើការធានារ៉ាប់រងរបស់ពួកគេទេ ទោះបីជាស្ត្រីអាចជាអ្នកបើកបរដែលមានសុវត្ថិភាពជាងក៏ដោយ។ យើងអាចស្រមៃបានយ៉ាងងាយស្រួលនូវប្រព័ន្ធដែលនៅពេលវិភាគទិន្នន័យប្រវត្តិសាស្ត្រនឹងកំណត់កត្តាហានិភ័យទាបដល់ឈ្មោះស្ត្រី។ មិនអីទេ តោះលុបឈ្មោះចេញពីជម្រើស។ ប៉ុន្តែសូមចងចាំឧទាហរណ៍របស់ Amazon៖ ប្រព័ន្ធអាចកំណត់ភេទដោយផ្អែកលើកត្តាផ្សេងទៀត (ទោះបីជាវាមិនដឹងថាភេទអ្វី ឬសូម្បីតែរថយន្តជាអ្វីក៏ដោយ) ហើយអ្នកនឹងមិនកត់សំគាល់រឿងនេះទេ រហូតដល់និយតករវិភាគឡើងវិញនូវពន្ធគយរបស់អ្នក។ ការផ្តល់ជូន និងការគិតប្រាក់ដែលអ្នកនឹងត្រូវពិន័យ។

ជាចុងក្រោយ គេតែងតែសន្មត់ថា យើងនឹងប្រើតែប្រព័ន្ធបែបនេះសម្រាប់គម្រោងដែលពាក់ព័ន្ធនឹងមនុស្ស និងអន្តរកម្មសង្គមប៉ុណ្ណោះ។ នេះ​គឺ​ខុស។ ប្រសិនបើអ្នកបង្កើតទួរប៊ីនឧស្ម័ន អ្នកប្រហែលជាចង់អនុវត្តការរៀនម៉ាស៊ីនទៅនឹង telemetry ដែលបញ្ជូនដោយឧបករណ៍ចាប់សញ្ញារាប់សិប ឬរាប់រយនៅលើផលិតផលរបស់អ្នក (អូឌីយ៉ូ វីដេអូ សីតុណ្ហភាព និងឧបករណ៍ចាប់សញ្ញាផ្សេងទៀតបង្កើតទិន្នន័យដែលអាចប្រែប្រួលបានយ៉ាងងាយស្រួលដើម្បីបង្កើតម៉ាស៊ីន គំរូសិក្សា) ។ តាមសម្មតិកម្ម អ្នកអាចនិយាយបានថា “នេះគឺជាទិន្នន័យពីទួរប៊ីនមួយពាន់ដែលបរាជ័យមុនពេលពួកគេបរាជ័យ ហើយនេះគឺជាទិន្នន័យពីទួរប៊ីនមួយពាន់ដែលមិនបានបរាជ័យ។ បង្កើតគំរូមួយដើម្បីប្រាប់ពីភាពខុសគ្នារវាងពួកវា។ ឥឡូវនេះសូមស្រមៃថាឧបករណ៍ចាប់សញ្ញា Siemens ត្រូវបានតំឡើងនៅលើ 75% នៃទួរប៊ីនអាក្រក់ហើយមានតែ 12% នៃល្អប៉ុណ្ណោះ (មិនមានទំនាក់ទំនងជាមួយការបរាជ័យទេ) ។ ប្រព័ន្ធនេះនឹងបង្កើតគំរូមួយដើម្បីស្វែងរកទួរប៊ីនជាមួយនឹងឧបករណ៍ចាប់សញ្ញា Siemens ។ ឱ!

រូបភាព — Moritz Hardt, UC Berkeley

ការគ្រប់គ្រង AI Bias

តើយើងអាចធ្វើអ្វីបានអំពីវា? អ្នកអាចដោះស្រាយបញ្ហាពីបីមុំ៖

1. ភាពម៉ត់ចត់នៃវិធីសាស្រ្តក្នុងការប្រមូល និងគ្រប់គ្រងទិន្នន័យសម្រាប់ការបណ្តុះបណ្តាលប្រព័ន្ធ។
2. ឧបករណ៍បច្ចេកទេសសម្រាប់វិភាគ និងវិភាគឥរិយាបថគំរូ។
3. បណ្តុះបណ្តាល អប់រំ និងប្រុងប្រយ័ត្ននៅពេលអនុវត្តការរៀនម៉ាស៊ីនទៅក្នុងផលិតផល។

មានរឿងកំប្លែងមួយនៅក្នុងសៀវភៅរបស់ Molière “The Bourgeois in the Nobility”៖ បុរសម្នាក់ត្រូវបានគេប្រាប់ថាអក្សរសិល្ប៍ត្រូវបានបែងចែកទៅជាសុភាសិត និងកំណាព្យ ហើយគាត់ពិតជារីករាយណាស់ដែលបានរកឃើញថាគាត់បាននិយាយជាសុភាសិតពេញមួយជីវិតរបស់គាត់ដោយមិនដឹងខ្លួន។ នេះប្រហែលជារបៀបដែលអ្នកស្ថិតិមានអារម្មណ៍នាពេលបច្ចុប្បន្ននេះ៖ ដោយមិនបានដឹងពីវា ពួកគេបានលះបង់អាជីពរបស់ពួកគេចំពោះបញ្ញាសិប្បនិម្មិត និងកំហុសគំរូ។ ការស្វែងរកកំហុសគំរូ និងការបារម្ភអំពីវាមិនមែនជាបញ្ហាថ្មីនោះទេ យើងគ្រាន់តែត្រូវការដំណោះស្រាយជាប្រព័ន្ធប៉ុណ្ណោះ។ ដូចដែលបានរៀបរាប់ខាងលើ ក្នុងករណីខ្លះវាពិតជាងាយស្រួលជាងក្នុងការធ្វើវាដោយសិក្សាពីបញ្ហាទាក់ទងនឹងទិន្នន័យមនុស្ស។ យើងសន្មត់ថាយើងប្រហែលជាមានការរើសអើងទាក់ទងនឹងក្រុមមនុស្សផ្សេងៗគ្នា ប៉ុន្តែវាពិបាកសម្រាប់យើងក្នុងការស្រមៃមើលការរើសអើងអំពីឧបករណ៍ចាប់សញ្ញា Siemens ។

អ្វី​ដែល​ថ្មី​អំពី​រឿង​ទាំង​អស់​នេះ​គឺ​ថា​មនុស្ស​លែង​ធ្វើ​ការ​វិភាគ​ស្ថិតិ​ដោយ​ផ្ទាល់​ទៀត​ហើយ។ វាត្រូវបានអនុវត្តដោយម៉ាស៊ីនដែលបង្កើតគំរូធំនិងស្មុគស្មាញដែលពិបាកយល់។ បញ្ហាតម្លាភាព គឺជាចំណុចសំខាន់មួយនៃបញ្ហានៃភាពលំអៀង។ យើងបារម្ភថាប្រព័ន្ធនេះមិនមែនគ្រាន់តែជាភាពលំអៀងប៉ុណ្ណោះទេ ប៉ុន្តែគ្មានវិធីដើម្បីរកឃើញភាពលំអៀងរបស់វាទេ ហើយការរៀនម៉ាស៊ីនគឺខុសពីទម្រង់ផ្សេងទៀតនៃស្វ័យប្រវត្តិកម្ម ដែលត្រូវបានគេសន្មត់ថាមានជំហានឡូជីខលច្បាស់លាស់ដែលអាចសាកល្បងបាន។

មានបញ្ហាពីរនៅទីនេះ។ យើងប្រហែលជានៅតែអាចធ្វើសវនកម្មប្រភេទមួយចំនួននៃប្រព័ន្ធរៀនម៉ាស៊ីន។ ហើយការធ្វើសវនកម្មប្រព័ន្ធផ្សេងទៀតគឺពិតជាមិនងាយស្រួលនោះទេ។

ទីមួយ ទិសដៅមួយនៃការស្រាវជ្រាវបែបទំនើបក្នុងវិស័យរៀនម៉ាស៊ីនគឺការស្វែងរកវិធីសាស្រ្តដើម្បីកំណត់មុខងារសំខាន់ៗនៃប្រព័ន្ធរៀនម៉ាស៊ីន។ ដែលបាននិយាយថា ការរៀនម៉ាស៊ីន (ក្នុងស្ថានភាពបច្ចុប្បន្នរបស់វា) គឺជាវិស័យវិទ្យាសាស្ត្រថ្មីទាំងស្រុង ដែលកំពុងតែផ្លាស់ប្តូរយ៉ាងឆាប់រហ័ស ដូច្នេះកុំគិតថា អ្វីដែលមិនអាចទៅរួចនាពេលបច្ចុប្បន្ននេះ មិនអាចក្លាយជាការពិតក្នុងពេលឆាប់ៗនេះ។ គម្រោង OpenAI - ឧទាហរណ៍គួរឱ្យចាប់អារម្មណ៍នៃរឿងនេះ។

ទីពីរ គំនិតដែលមនុស្សម្នាក់អាចសាកល្បង និងយល់ពីដំណើរការធ្វើសេចក្តីសម្រេចចិត្តនៃប្រព័ន្ធ ឬអង្គការដែលមានស្រាប់គឺល្អនៅក្នុងទ្រឹស្តី ប៉ុន្តែនៅក្នុងការអនុវត្តជាក់ស្តែង។ ការយល់ដឹងពីរបៀបដែលការសម្រេចចិត្តត្រូវបានធ្វើឡើងនៅក្នុងអង្គការធំមួយគឺមិនងាយស្រួលនោះទេ។ ទោះបីជាមានដំណើរការធ្វើការសម្រេចចិត្តជាផ្លូវការក៏ដោយ វាមិនឆ្លុះបញ្ចាំងពីរបៀបដែលមនុស្សប្រាស្រ័យទាក់ទងគ្នាពិតប្រាកដនោះទេ ហើយជារឿយៗពួកគេផ្ទាល់មិនមានវិធីសាស្រ្តសមហេតុផល និងជាប្រព័ន្ធក្នុងការសម្រេចចិត្តរបស់ពួកគេ។ ដូចដែលមិត្តរួមការងាររបស់ខ្ញុំបាននិយាយ Vijay Pande, មនុស្សក៏ជាប្រអប់ខ្មៅផងដែរ។.

យកមនុស្សមួយពាន់នាក់នៅក្នុងក្រុមហ៊ុន និងស្ថាប័នត្រួតស៊ីគ្នាជាច្រើន ហើយបញ្ហាកាន់តែស្មុគស្មាញ។ យើងដឹងបន្ទាប់ពីការពិតដែលថាយានអវកាសមានគោលដៅបំបែកនៅពេលត្រឡប់មកវិញ ហើយបុគ្គលនៅក្នុងអង្គការ NASA មានព័ត៌មានដែលផ្តល់ហេតុផលឱ្យពួកគេគិតថាមានរឿងអាក្រក់អាចកើតឡើង ប៉ុន្តែប្រព័ន្ធ ជាទូទៅ ខ្ញុំមិនបានដឹងរឿងនេះទេ។ NASA ថែមទាំងទើបតែបានឆ្លងកាត់ការធ្វើសវនកម្មស្រដៀងគ្នានេះ បន្ទាប់ពីបាត់បង់យានអវកាសពីមុនរបស់ខ្លួន ហើយវាបានបាត់បង់មួយទៀតសម្រាប់ហេតុផលស្រដៀងគ្នានេះ។ វាងាយស្រួលក្នុងការជជែកវែកញែកថា អង្គការ និងមនុស្សអនុវត្តតាមច្បាប់ច្បាស់លាស់ ឡូជីខល ដែលអាចត្រូវបានសាកល្បង យល់ និងផ្លាស់ប្តូរ—ប៉ុន្តែបទពិសោធន៍បង្ហាញឱ្យឃើញផ្ទុយពីនេះ។ នេះ "ការបំភាន់របស់ Gosplan"។

ជារឿយៗខ្ញុំប្រៀបធៀបការរៀនរបស់ម៉ាស៊ីនទៅនឹងមូលដ្ឋានទិន្នន័យ ជាពិសេសទំនាក់ទំនង - បច្ចេកវិទ្យាមូលដ្ឋានថ្មីដែលបានផ្លាស់ប្តូរសមត្ថភាពនៃវិទ្យាសាស្ត្រកុំព្យូទ័រ និងពិភពលោកជុំវិញវា ដែលបានក្លាយជាផ្នែកនៃអ្វីគ្រប់យ៉ាងដែលយើងប្រើប្រាស់ឥតឈប់ឈរដោយមិនដឹងខ្លួន។ មូលដ្ឋានទិន្នន័យក៏មានបញ្ហាដែរ ហើយពួកវាមានលក្ខណៈស្រដៀងគ្នាដែរ៖ ប្រព័ន្ធអាចត្រូវបានបង្កើតឡើងដោយការសន្មត់មិនល្អ ឬទិន្នន័យមិនល្អ ប៉ុន្តែវាពិបាកក្នុងការកត់សម្គាល់ ហើយអ្នកដែលប្រើប្រាស់ប្រព័ន្ធនឹងធ្វើអ្វីដែលវាប្រាប់ពួកគេដោយមិនសួរសំណួរ។ មានរឿងកំប្លែងចាស់ៗជាច្រើនអំពីអ្នកជាប់ពន្ធដែលធ្លាប់សរសេរឈ្មោះរបស់អ្នកខុស ហើយការបញ្ចុះបញ្ចូលពួកគេឱ្យកែកំហុសគឺពិបាកជាងការប្តូរឈ្មោះរបស់អ្នកទៅទៀត។ មានវិធីជាច្រើនក្នុងការគិតអំពីរឿងនេះ ប៉ុន្តែវាមិនច្បាស់ថាមួយណាល្អជាង: ជាបញ្ហាបច្ចេកទេសនៅក្នុង SQL ឬជាកំហុសក្នុងការចេញផ្សាយ Oracle ឬជាការបរាជ័យនៃស្ថាប័នការិយាធិបតេយ្យ? តើវាពិបាកប៉ុណ្ណាក្នុងការស្វែងរកកំហុសនៅក្នុងដំណើរការដែលនាំឱ្យប្រព័ន្ធមិនមានមុខងារកែកំហុស? តើនេះអាចត្រូវបានគេរកឃើញមុនពេលមនុស្សចាប់ផ្តើមត្អូញត្អែរដែរឬទេ?

បញ្ហា​នេះ​ត្រូវ​បាន​បង្ហាញ​ឱ្យ​កាន់​តែ​ច្បាស់​តាម​រយៈ​រឿង​រ៉ាវ​នៅ​ពេល​អ្នក​បើក​បរ​ចូល​ទៅ​ក្នុង​ទន្លេ ដោយសារ​ទិន្នន័យ​ហួស​សម័យ​ក្នុង​អ្នក​រុករក។ មិនអីទេ ផែនទីត្រូវតែធ្វើបច្ចុប្បន្នភាពជានិច្ច។ ប៉ុន្តែ​តើ TomTom ត្រូវ​ស្តីបន្ទោស​កម្រិត​ណា​ដែល​រថយន្ត​របស់​អ្នក​ត្រូវ​បាន​ផ្លុំ​ចេញ​ទៅ​សមុទ្រ?

ហេតុផលដែលខ្ញុំនិយាយនេះគឺថា បាទ ភាពលំអៀងនៃការរៀនម៉ាស៊ីននឹងបង្កើតបញ្ហា។ ប៉ុន្តែបញ្ហាទាំងនេះនឹងមានលក្ខណៈស្រដៀងគ្នាទៅនឹងបញ្ហាដែលយើងបានជួបប្រទះនាពេលកន្លងមក ហើយពួកគេអាចត្រូវបានគេកត់សម្គាល់ និងដោះស្រាយ (ឬអត់) អំពីក៏ដូចជាអ្វីដែលយើងអាចធ្វើបានកាលពីអតីតកាល។ ដូច្នេះ សេណារីយ៉ូដែល AI លំអៀងបង្កឱ្យមានគ្រោះថ្នាក់ ទំនងជាមិនកើតឡើងចំពោះអ្នកស្រាវជ្រាវជាន់ខ្ពស់ដែលធ្វើការនៅក្នុងអង្គការធំនោះទេ។ ភាគច្រើនទំនងជា អ្នកម៉ៅការផ្នែកបច្ចេកវិទ្យា ឬអ្នកលក់សូហ្វវែរដែលមិនសំខាន់មួយចំនួននឹងសរសេរអ្វីមួយនៅលើជង្គង់របស់ពួកគេ ដោយប្រើសមាសធាតុប្រភពបើកចំហ បណ្ណាល័យ និងឧបករណ៍ដែលពួកគេមិនយល់។ ហើយអតិថិជនដែលសំណាងអាក្រក់នឹងទិញឃ្លា "បញ្ញាសិប្បនិម្មិត" នៅក្នុងការពិពណ៌នាផលិតផល ហើយដោយមិនសួរសំណួរណាមួយ ចែកចាយវាទៅបុគ្គលិកដែលមានប្រាក់ខែទាបរបស់គាត់ ដោយបញ្ជាឱ្យពួកគេធ្វើអ្វីដែល AI និយាយ។ នេះគឺជាអ្វីដែលបានកើតឡើងជាមួយនឹងមូលដ្ឋានទិន្នន័យ។ នេះមិនមែនជាបញ្ហាបញ្ញាសិប្បនិមិត្ត ឬសូម្បីតែបញ្ហាកម្មវិធី។ នេះគឺជាកត្តាមនុស្ស។

សេចក្តីសន្និដ្ឋាន

ការរៀនម៉ាស៊ីនអាចធ្វើអ្វីគ្រប់យ៉ាងដែលអ្នកអាចបង្រៀនឆ្កែបាន ប៉ុន្តែអ្នកមិនអាចប្រាកដថាអ្វីដែលអ្នកបានបង្រៀនឆ្កែពិតប្រាកដនោះទេ។

ជាញឹកញាប់ខ្ញុំមានអារម្មណ៍ថាដូចជាពាក្យ "បញ្ញាសិប្បនិម្មិត" ទទួលបានតែនៅក្នុងវិធីនៃការសន្ទនាបែបនេះប៉ុណ្ណោះ។ ពាក្យនេះផ្តល់នូវចំណាប់អារម្មណ៍មិនពិតដែលយើងពិតជាបានបង្កើតវា - ភាពវៃឆ្លាតនេះ។ ថាយើងកំពុងធ្វើដំណើរទៅកាន់ HAL9000 ឬ Skynet ដែលជាអ្វីដែលជាការពិត យល់. ប៉ុន្តែទេ។ ទាំងនេះគ្រាន់តែជាម៉ាស៊ីនប៉ុណ្ណោះ ហើយវាកាន់តែត្រឹមត្រូវក្នុងការប្រៀបធៀបពួកវាទៅនឹងម៉ាស៊ីនបោកគក់។ នាងបោកអ៊ុតបានល្អជាងមនុស្សទៅទៀត ប៉ុន្តែប្រសិនបើអ្នកដាក់ចានជំនួសការបោកគក់ នាងនឹងបោកគក់។ ចាននឹងកាន់តែស្អាត។ ប៉ុន្តែនេះនឹងមិនមែនជាអ្វីដែលអ្នកបានរំពឹងទុកនោះទេ ហើយរឿងនេះនឹងមិនកើតឡើងដោយសារតែប្រព័ន្ធមានការរើសអើងណាមួយទាក់ទងនឹងចាន។ ម៉ាស៊ីនបោកគក់មិនដឹងថាចានអ្វី ឬសម្លៀកបំពាក់អ្វីនោះទេ - វាគ្រាន់តែជាឧទាហរណ៍នៃស្វ័យប្រវត្តិកម្ម ដែលគំនិតមិនខុសពីដំណើរការស្វ័យប្រវត្តិពីមុននោះទេ។

មិនថាយើងកំពុងនិយាយអំពីរថយន្ត យន្តហោះ ឬមូលដ្ឋានទិន្នន័យទេ ប្រព័ន្ធទាំងនេះនឹងមានថាមពលខ្លាំង និងមានកម្រិតខ្លាំង។ ពួកគេនឹងពឹងផ្អែកទាំងស្រុងលើរបៀបដែលមនុស្សប្រើប្រាស់ប្រព័ន្ធទាំងនេះ ថាតើចេតនារបស់ពួកគេល្អ ឬអាក្រក់ និងថាតើពួកគេយល់ពីរបៀបដែលពួកគេធ្វើការ។

ដូច្នេះ ការនិយាយថា "បញ្ញាសិប្បនិម្មិតគឺជាគណិតវិទ្យា ដូច្នេះវាមិនអាចមានលំអៀងបានទេ" គឺមិនពិតទាំងស្រុង។ ប៉ុន្តែ​វា​ជា​ការ​មិន​ពិត​ដូចគ្នា​ដែល​និយាយ​ថា​ការ​រៀន​ម៉ាស៊ីន​គឺ​ជា​ "ប្រធានបទ​ក្នុង​ធម្មជាតិ"។ ការរៀនម៉ាស៊ីនស្វែងរកគំរូនៅក្នុងទិន្នន័យ ហើយតើគំរូអ្វីដែលវារកឃើញអាស្រ័យលើទិន្នន័យ ហើយទិន្នន័យអាស្រ័យលើយើង។ ដូចអ្វីដែលយើងធ្វើជាមួយពួកគេ។ ការរៀនម៉ាស៊ីនធ្វើរឿងមួយចំនួនបានល្អជាងយើងអាចធ្វើបាន ប៉ុន្តែជាឧទាហរណ៍ សត្វឆ្កែមានប្រសិទ្ធភាពជាងមនុស្សក្នុងការរកឃើញថ្នាំ ដែលមិនមែនជាហេតុផលដើម្បីប្រើវាជាសាក្សី និងធ្វើការវិនិច្ឆ័យដោយផ្អែកលើទីបន្ទាល់របស់ពួកគេ។ ហើយដោយវិធីនេះ សត្វឆ្កែគឺឆ្លាតជាងប្រព័ន្ធរៀនម៉ាស៊ីនណាមួយ។

ការបកប្រែ៖ ដាយអាណា Letskaya.
ការកែសម្រួល៖ Aleksey Ivanov.
សហគមន៍៖ @PonchikNews.

ប្រភព: www.habr.com