आर्टिफिशियल इंटेलिजन्स बायस बद्दल

टीएल; डॉ:

• मशीन लर्निंग डेटामधील नमुने शोधते. परंतु कृत्रिम बुद्धिमत्ता "पक्षपाती" असू शकते—म्हणजे चुकीचे नमुने शोधा. उदाहरणार्थ, फोटो-आधारित त्वचा कर्करोग शोध प्रणाली डॉक्टरांच्या कार्यालयात घेतलेल्या प्रतिमांवर विशेष लक्ष देऊ शकते. मशीन लर्निंग करू शकत नाही समजणे: त्याचे अल्गोरिदम केवळ संख्येतील नमुने ओळखतात आणि जर डेटा प्रातिनिधिक नसेल, तर त्याच्या प्रक्रियेचा परिणाम असेल. आणि मशीन लर्निंगच्या अत्यंत यांत्रिकतेमुळे अशा बग्स पकडणे कठीण होऊ शकते.
• सर्वात स्पष्ट आणि भयानक समस्या क्षेत्र मानवी विविधता आहे. संग्रहाच्या टप्प्यावरही लोकांबद्दलचा डेटा वस्तुनिष्ठता गमावण्याची अनेक कारणे आहेत. परंतु असा विचार करू नका की ही समस्या केवळ लोकांवरच परिणाम करते: गोदामात पूर किंवा अयशस्वी गॅस टर्बाइन शोधण्याचा प्रयत्न करताना नेमक्या त्याच अडचणी उद्भवतात. काही प्रणाली त्वचेच्या रंगासाठी पक्षपाती असू शकतात, तर काही सिमेन्स सेन्सर्सकडे पक्षपाती असतील.
• अशा समस्या मशीन लर्निंगसाठी नवीन नाहीत आणि त्या त्यापेक्षा खूप दूर आहेत. कोणत्याही गुंतागुंतीच्या संरचनेत चुकीचे गृहितक केले जाते आणि विशिष्ट निर्णय का घेतला गेला हे समजणे नेहमीच कठीण असते. आम्हाला याचा सर्वसमावेशक मार्गाने मुकाबला करणे आवश्यक आहे: पडताळणीसाठी साधने आणि प्रक्रिया तयार करा - आणि वापरकर्त्यांना शिक्षित करा जेणेकरून ते AI शिफारशींचे अंधत्वाने पालन करणार नाहीत. मशीन लर्निंग काही गोष्टी आपल्यापेक्षा जास्त चांगल्या प्रकारे करते - परंतु कुत्रे, उदाहरणार्थ, ड्रग्ज शोधण्यात मानवांपेक्षा जास्त प्रभावी आहेत, जे त्यांना साक्षीदार म्हणून वापरण्याचे आणि त्यांच्या साक्षीवर आधारित निर्णय घेण्याचे कारण नाही. आणि कुत्रे, तसे, कोणत्याही मशीन लर्निंग सिस्टमपेक्षा खूप हुशार आहेत.

मशीन लर्निंग हा आज सर्वात महत्त्वाचा मूलभूत तंत्रज्ञान ट्रेंड आहे. पुढील दशकात तंत्रज्ञान आपल्या सभोवतालचे जग बदलेल अशा प्रमुख मार्गांपैकी हा एक मार्ग आहे. या बदलांचे काही पैलू चिंतेचे कारण आहेत. उदाहरणार्थ, मशिन लर्निंगचा श्रमिक बाजारावर होणारा संभाव्य प्रभाव किंवा अनैतिक हेतूंसाठी त्याचा वापर (उदाहरणार्थ, हुकूमशाही शासनाद्वारे). या पोस्टमध्ये आणखी एक समस्या आहे: कृत्रिम बुद्धिमत्ता पूर्वाग्रह.

ही काही सोपी कथा नाही.

Google चे AI मांजरी शोधू शकते. 2012 मधील ही बातमी तेव्हा काही खास होती.

"एआय बायस" म्हणजे काय?

"कच्चा डेटा" एक ऑक्सिमोरॉन आणि एक वाईट कल्पना आहे; डेटा व्यवस्थित आणि काळजीपूर्वक तयार करणे आवश्यक आहे. - जेफ्री बोकर

2013 पूर्वी कुठेतरी, छायाचित्रांमध्ये मांजरींना ओळखणारी प्रणाली तयार करण्यासाठी, तुम्हाला तार्किक चरणांचे वर्णन करावे लागले. प्रतिमेमध्ये कोपरे कसे शोधायचे, डोळे कसे ओळखायचे, फरसाठी टेक्सचरचे विश्लेषण करणे, पंजे मोजणे इ. मग सर्व घटक एकत्र ठेवा आणि ते खरोखर कार्य करत नाही हे शोधा. यांत्रिक घोड्यासारखे - सैद्धांतिकदृष्ट्या ते बनविले जाऊ शकते, परंतु सराव मध्ये ते वर्णन करणे खूप जटिल आहे. अंतिम परिणाम म्हणजे शेकडो (किंवा हजारो) हस्तलिखित नियम. आणि एकच कार्यरत मॉडेल नाही.

मशीन लर्निंगच्या आगमनाने, आम्ही विशिष्ट वस्तू ओळखण्यासाठी "मॅन्युअल" नियम वापरणे बंद केले. त्याऐवजी, आम्ही “हे”, X चे हजार नमुने घेतो, “इतर”, Y चे हजार नमुने घेतो आणि त्यांच्या सांख्यिकीय विश्लेषणावर आधारित संगणकाला एक मॉडेल तयार करायला लावतो. त्यानंतर आम्ही या मॉडेलला काही नमुना डेटा देतो आणि ते एका सेटमध्ये बसते की नाही हे काही अचूकतेने ठरवते. मशिन लर्निंग हे मानवाकडून लिहिण्याऐवजी डेटावरून मॉडेल तयार करते. परिणाम प्रभावी आहेत, विशेषत: प्रतिमा आणि नमुना ओळखण्याच्या क्षेत्रात, आणि म्हणूनच संपूर्ण तंत्रज्ञान उद्योग आता मशीन लर्निंग (ML) कडे वळत आहे.

पण ते इतके सोपे नाही. वास्तविक जगात, तुमच्या X किंवा Y च्या हजारो उदाहरणांमध्ये A, B, J, L, O, R आणि अगदी L देखील आहे. हे समान रीतीने वितरित केले जाऊ शकत नाहीत आणि काही इतक्या वारंवार घडू शकतात की सिस्टम अधिक पैसे देईल तुम्हाला स्वारस्य असलेल्या वस्तूंपेक्षा त्यांच्याकडे लक्ष द्या.

सराव मध्ये याचा अर्थ काय आहे? माझे आवडते उदाहरण आहे जेव्हा प्रतिमा ओळख प्रणाली गवताळ टेकडीकडे पहा आणि म्हणा, "मेंढी". हे का स्पष्ट आहे: "मेंढ्या" ची बहुतेक छायाचित्रे ते राहत असलेल्या कुरणात घेतलेली आहेत आणि या प्रतिमांमध्ये गवत लहान पांढऱ्या फुलांपेक्षा जास्त जागा घेते आणि हे गवत आहे ज्याला सिस्टम सर्वात महत्वाचे मानते. .

आणखी गंभीर उदाहरणे आहेत. एक अलीकडील प्रकल्प छायाचित्रांमध्ये त्वचेचा कर्करोग शोधण्यासाठी. असे दिसून आले की त्वचाविज्ञानी बहुतेकदा त्वचेच्या कर्करोगाच्या अभिव्यक्तीसह फॉर्मेशन्सचा आकार रेकॉर्ड करण्यासाठी शासकाचा फोटो काढतात. निरोगी त्वचेच्या छायाचित्रांच्या उदाहरणामध्ये कोणतेही शासक नाहीत. एआय सिस्टमसाठी, असे शासक (अधिक तंतोतंत, आम्ही "शासक" म्हणून परिभाषित केलेले पिक्सेल) उदाहरणांच्या संचामधील फरकांपैकी एक बनले आहेत आणि काहीवेळा त्वचेवर लहान पुरळ येण्यापेक्षा ते अधिक महत्त्वाचे आहेत. त्यामुळे त्वचेचा कर्करोग ओळखण्यासाठी तयार केलेली प्रणाली काही वेळा त्याऐवजी राज्यकर्त्यांना ओळखते.

येथे मुख्य मुद्दा असा आहे की सिस्टमला ती काय पाहत आहे याची कोणतीही अर्थपूर्ण समज नाही. आम्ही पिक्सेलचा संच पाहतो आणि त्यामध्ये मेंढी, कातडी किंवा शासक पाहतो, परंतु प्रणाली फक्त एक संख्या रेखा आहे. तिला त्रिमितीय जागा दिसत नाही, वस्तू, पोत किंवा मेंढी दिसत नाही. ती फक्त डेटामध्ये नमुने पाहते.

अशा समस्यांचे निदान करण्यात अडचण अशी आहे की न्यूरल नेटवर्क (तुमच्या मशीन लर्निंग सिस्टमद्वारे व्युत्पन्न केलेले मॉडेल) मध्ये हजारो-शेकडो हजारो नोड्स असतात. मॉडेलमध्ये पाहण्याचा आणि तो निर्णय कसा घेतो हे पाहण्याचा कोणताही सोपा मार्ग नाही. असा मार्ग असल्‍याचा अर्थ असा होतो की मशीन लर्निंग न वापरता सर्व नियमांचे व्यक्तिचलितपणे वर्णन करण्‍यासाठी प्रक्रिया सोपी आहे. लोकांना काळजी वाटते की मशीन लर्निंग एक ब्लॅक बॉक्स बनले आहे. (ही तुलना अजूनही खूप का आहे हे मी थोड्या वेळाने स्पष्ट करेन.)

ही, सामान्य शब्दात, कृत्रिम बुद्धिमत्ता किंवा मशीन लर्निंगमधील पक्षपाताची समस्या आहे: डेटामधील नमुने शोधण्याच्या प्रणालीमध्ये चुकीचे नमुने आढळू शकतात आणि कदाचित तुम्हाला ते लक्षात येणार नाही. हे तंत्रज्ञानाचे एक मूलभूत वैशिष्ट्य आहे आणि हे शैक्षणिक आणि मोठ्या तंत्रज्ञान कंपन्यांमध्ये काम करणाऱ्या प्रत्येकासाठी स्पष्ट आहे. परंतु त्याचे परिणाम गुंतागुंतीचे आहेत आणि त्या परिणामांवर आपले संभाव्य उपाय देखील आहेत.

चला प्रथम परिणामांबद्दल बोलूया.

एआय, आपल्यासाठी, मोठ्या संख्येने अगोचर सिग्नलच्या आधारावर, विशिष्ट श्रेणीतील लोकांच्या बाजूने निवड करू शकते

एआय बायस परिस्थिती

सर्वात स्पष्टपणे आणि भयावहपणे, जेव्हा मानवी विविधतेचा विचार केला जातो तेव्हा ही समस्या स्वतः प्रकट होऊ शकते. अलीकडे एक अफवा होतीअॅमेझॉनने नोकरीच्या उमेदवारांच्या प्रारंभिक स्क्रीनिंगसाठी मशीन लर्निंग सिस्टम तयार करण्याचा प्रयत्न केला. Amazon कामगारांमध्ये पुरुषांची संख्या जास्त असल्याने, “यशस्वी भरती” ची उदाहरणे देखील अधिक वेळा पुरुष आहेत, आणि सिस्टमने सुचवलेल्या रेझ्युमेच्या निवडीत पुरुषांची संख्या जास्त होती. अॅमेझॉनने हे लक्षात घेतले आणि सिस्टमला उत्पादनात सोडले नाही.

या उदाहरणातील सर्वात महत्त्वाची गोष्ट म्हणजे रेझ्युमेवर लिंग निर्दिष्ट केलेले नसतानाही, सिस्टम पुरुष अर्जदारांना अनुकूल असल्याची अफवा पसरवली गेली होती. प्रणालीने "चांगल्या कामावर" च्या उदाहरणांमध्ये इतर नमुने पाहिले: उदाहरणार्थ, स्त्रिया कर्तृत्वाचे वर्णन करण्यासाठी किंवा विशेष छंद ठेवण्यासाठी विशेष शब्द वापरू शकतात. अर्थात, सिस्टमला "हॉकी" म्हणजे काय, किंवा "लोक" कोणते किंवा "यश" म्हणजे काय हे माहित नव्हते - तिने फक्त मजकूराचे सांख्यिकीय विश्लेषण केले. परंतु तिने पाहिलेले नमुने बहुधा मानवांच्या लक्षात आले नाहीत आणि त्यापैकी काही (उदाहरणार्थ, भिन्न लिंगांचे लोक यशाचे वेगळ्या प्रकारे वर्णन करतात हे तथ्य) आम्ही त्यांच्याकडे पाहिले तरीही ते पाहणे आमच्यासाठी कठीण होईल.

पुढे - वाईट. फिकट त्वचेवर कॅन्सर शोधण्यात खूप चांगली असलेली मशीन लर्निंग सिस्टीम गडद त्वचेवर किंवा त्याउलट काम करू शकत नाही. अपरिहार्यपणे पूर्वाग्रहामुळे नाही, परंतु आपल्याला कदाचित भिन्न वैशिष्ट्ये निवडून, भिन्न त्वचेच्या रंगासाठी वेगळे मॉडेल तयार करण्याची आवश्यकता आहे. इमेज रेकग्निशनसारख्या अरुंद क्षेत्रातही मशीन लर्निंग सिस्टीम बदलू शकत नाहीत. तुम्हाला हवी असलेली अचूकता प्राप्त करेपर्यंत तुम्हाला स्वारस्य असलेल्या डेटामधील वैशिष्‍ट्ये चांगल्या प्रकारे हाताळण्‍यासाठी, काहीवेळा केवळ चाचणी आणि त्रुटीद्वारे, तुम्‍हाला सिस्‍टममध्ये बदल करणे आवश्‍यक आहे. परंतु तुमच्या लक्षात येत नाही की ही प्रणाली एका गटामध्ये ९८% वेळेस अचूक असते आणि दुसऱ्या गटामध्ये फक्त ९१% (मानवी विश्लेषणापेक्षाही अधिक अचूक) असते.

आत्तापर्यंत मी प्रामुख्याने लोक आणि त्यांची वैशिष्ट्ये यांच्याशी संबंधित उदाहरणे वापरली आहेत. या समस्येभोवतीची चर्चा प्रामुख्याने या विषयावर केंद्रित आहे. परंतु हे समजून घेणे महत्त्वाचे आहे की लोकांबद्दलचा पक्षपात हा समस्येचा एक भाग आहे. आम्ही बर्‍याच गोष्टींसाठी मशीन लर्निंग वापरणार आहोत आणि सॅम्पलिंग एरर त्या सर्वांशी संबंधित असेल. दुसरीकडे, तुम्ही लोकांसह काम करत असल्यास, डेटामधील पूर्वाग्रह त्यांच्याशी संबंधित असू शकत नाही.

हे समजून घेण्यासाठी, त्वचेच्या कर्करोगाच्या उदाहरणाकडे परत जाऊ या आणि सिस्टम बिघाडाच्या तीन काल्पनिक शक्यतांचा विचार करूया.

1. लोकांचे विषम वितरण: वेगवेगळ्या त्वचेच्या टोनच्या छायाचित्रांची असंतुलित संख्या, ज्यामुळे पिगमेंटेशनमुळे चुकीचे सकारात्मक किंवा चुकीचे नकारात्मक परिणाम होतात.
2. प्रणाली ज्या डेटावर प्रशिक्षित केली जाते त्या डेटामध्ये वारंवार आढळणारे आणि विषमतेने वितरित केलेले वैशिष्ट्य असते जे लोकांशी संबंधित नसते आणि त्याचे निदान मूल्य नसते: त्वचेच्या कर्करोगाच्या छायाचित्रांमधील शासक किंवा मेंढ्यांच्या छायाचित्रांमधील गवत. या प्रकरणात, मानवी डोळा "शासक" म्हणून ओळखत असलेल्या एखाद्या गोष्टीच्या प्रतिमेमध्ये सिस्टमला पिक्सेल आढळल्यास परिणाम भिन्न असेल.
3. डेटामध्ये तृतीय-पक्षाचे वैशिष्ट्य आहे जे एखाद्या व्यक्तीने शोधले तरी ते पाहू शकत नाही.

याचा अर्थ काय? डेटा वेगवेगळ्या लोकांच्या गटांना वेगळ्या प्रकारे दर्शवू शकतो हे आम्हाला माहित आहे आणि कमीतकमी आम्ही असे अपवाद शोधण्याची योजना करू शकतो. दुसऱ्या शब्दांत, लोकांच्या गटांबद्दलच्या डेटामध्ये आधीपासूनच काही पूर्वाग्रह आहे असे गृहीत धरण्यासाठी बरीच सामाजिक कारणे आहेत. जर आपण शासकासह फोटो पाहिला तर आपल्याला हा शासक दिसेल - आपण काही फरक पडत नाही हे जाणून आधी त्याकडे दुर्लक्ष केले आणि सिस्टमला काहीही माहित नाही हे विसरलो.

पण तुमचे अस्वास्थ्यकर त्वचेचे सर्व फोटो इनॅन्डेन्सेंट लाइटखाली कार्यालयात घेतले गेले आणि तुमची निरोगी त्वचा फ्लोरोसेंट लाइटमध्ये घेतली गेली तर? जर तुम्ही निरोगी त्वचेचे शूटिंग पूर्ण केल्यानंतर, अस्वास्थ्यकर त्वचेचे शूटिंग करण्यापूर्वी, तुम्ही तुमच्या फोनवर ऑपरेटिंग सिस्टम अपडेट केली आणि Apple किंवा Google ने आवाज कमी करण्याच्या अल्गोरिदममध्ये किंचित बदल केला तर? एखादी व्यक्ती हे लक्षात घेऊ शकत नाही, त्याने अशा वैशिष्ट्यांचा कितीही शोध घेतला तरीही. परंतु मशीन-वापर प्रणाली ताबडतोब हे पाहेल आणि वापरेल. तिला काही कळत नाही.

आतापर्यंत आम्ही बनावट सहसंबंधांबद्दल बोललो आहोत, परंतु असे देखील असू शकते की डेटा अचूक आहे आणि परिणाम योग्य आहेत, परंतु आपण ते नैतिक, कायदेशीर किंवा व्यवस्थापन कारणांसाठी वापरू इच्छित नाही. काही अधिकारक्षेत्रे, उदाहरणार्थ, महिलांना त्यांच्या विम्यावर सवलत मिळू देत नाही, जरी स्त्रिया सुरक्षित ड्रायव्हर असू शकतात. आम्ही अशा प्रणालीची सहज कल्पना करू शकतो जी, ऐतिहासिक डेटाचे विश्लेषण करताना, महिलांच्या नावांना कमी जोखीम घटक नियुक्त करेल. ठीक आहे, निवडीतून नावे काढून टाकूया. परंतु अॅमेझॉनचे उदाहरण लक्षात ठेवा: सिस्टम इतर घटकांच्या आधारे लिंग निर्धारित करू शकते (जरी लिंग काय आहे किंवा कार काय आहे हे माहित नसले तरीही) आणि नियामक आपल्या टॅरिफचे पूर्वलक्षीपणे विश्लेषण करेपर्यंत हे लक्षात येणार नाही. ऑफर आणि शुल्क तुम्हाला दंड आकारला जाईल.

शेवटी, असे गृहीत धरले जाते की आम्ही अशा प्रणालींचा वापर केवळ अशा प्रकल्पांसाठी करू ज्यात लोक आणि सामाजिक परस्परसंवाद समाविष्ट आहेत. हे चुकीचे आहे. तुम्ही गॅस टर्बाइन बनवल्यास, तुम्हाला तुमच्या उत्पादनावरील दहापट किंवा शेकडो सेन्सर्सद्वारे प्रसारित केलेल्या टेलीमेट्रीवर मशीन लर्निंग लागू करावेसे वाटेल (ऑडिओ, व्हिडिओ, तापमान आणि इतर कोणतेही सेन्सर डेटा व्युत्पन्न करतात ज्याला मशीन तयार करण्यासाठी अगदी सहजपणे स्वीकारता येईल. शिकण्याचे मॉडेल). काल्पनिकपणे, तुम्ही म्हणू शकता, “हा एक हजार टर्बाइनचा डेटा आहे जो अयशस्वी होण्यापूर्वी अयशस्वी झाला होता आणि येथे एक हजार टर्बाइनचा डेटा आहे जो अयशस्वी झाला नाही. त्यांच्यात काय फरक आहे हे सांगण्यासाठी एक मॉडेल तयार करा.” बरं, आता कल्पना करा की सीमेन्स सेन्सर 75% खराब टर्बाइनवर आणि फक्त 12% चांगल्या टर्बाइनवर स्थापित आहेत (अपयशांशी काहीही संबंध नाही). सिमेन्स सेन्सर्ससह टर्बाइन शोधण्यासाठी ही प्रणाली एक मॉडेल तयार करेल. अरेरे!

चित्र - मॉरिट्झ हार्ड, यूसी बर्कले

एआय बायसचे व्यवस्थापन

त्याबद्दल आपण काय करू शकतो? तुम्ही तीन कोनातून समस्येकडे जाऊ शकता:

1. प्रणालीला प्रशिक्षण देण्यासाठी डेटा संकलित आणि व्यवस्थापित करण्यात पद्धतशीर कठोरता.
2. मॉडेल वर्तनाचे विश्लेषण आणि निदान करण्यासाठी तांत्रिक साधने.
3. उत्पादनांमध्ये मशीन लर्निंग लागू करताना प्रशिक्षण द्या, शिक्षित करा आणि काळजी घ्या.

मोलिएरच्या “द बुर्जुआ इन द नोबिलिटी” या पुस्तकात एक विनोद आहे: एका माणसाला असे सांगण्यात आले की साहित्य हे गद्य आणि काव्यात विभागले गेले आहे आणि त्याला हे कळून आनंद झाला की तो नकळत आयुष्यभर गद्यात बोलत आहे. आज सांख्यिकीशास्त्रज्ञांना असे वाटते: हे लक्षात न घेता, त्यांनी त्यांचे करिअर कृत्रिम बुद्धिमत्ता आणि नमुना त्रुटीसाठी समर्पित केले आहे. सॅम्पलिंग एरर शोधणे आणि त्याबद्दल काळजी करणे ही काही नवीन समस्या नाही, आपण फक्त त्याचे निराकरण पद्धतशीरपणे केले पाहिजे. वर नमूद केल्याप्रमाणे, काही प्रकरणांमध्ये लोक डेटाशी संबंधित समस्यांचा अभ्यास करून हे करणे खरोखर सोपे आहे. आम्ही असे गृहीत धरतो की लोकांच्या वेगवेगळ्या गटांबद्दल आमचे पूर्वग्रह असू शकतात, परंतु आमच्यासाठी Siemens सेन्सर्सबद्दल पूर्वग्रहाची कल्पना करणे देखील कठीण आहे.

या सर्व गोष्टींमध्ये नवीन काय आहे, अर्थातच, लोक आता थेट सांख्यिकीय विश्लेषण करत नाहीत. हे अशा मशीनद्वारे चालते जे मोठ्या, जटिल मॉडेल तयार करतात जे समजणे कठीण आहे. पारदर्शकतेचा मुद्दा हा पक्षपातीपणाच्या समस्येच्या मुख्य पैलूंपैकी एक आहे. आम्हाला भीती वाटते की प्रणाली केवळ पक्षपाती नाही, परंतु तिचा पक्षपात शोधण्याचा कोणताही मार्ग नाही आणि ते मशीन लर्निंग ऑटोमेशनच्या इतर प्रकारांपेक्षा वेगळे आहे, ज्यामध्ये स्पष्ट तार्किक पायऱ्या आहेत ज्यांची चाचणी केली जाऊ शकते.

येथे दोन समस्या आहेत. आम्ही अजूनही मशीन लर्निंग सिस्टमचे काही प्रकारचे ऑडिट करण्यास सक्षम असू शकतो. आणि इतर कोणत्याही प्रणालीचे ऑडिट करणे प्रत्यक्षात सोपे नाही.

सर्वप्रथम, मशीन लर्निंगच्या क्षेत्रातील आधुनिक संशोधनाच्या दिशांपैकी एक म्हणजे मशीन लर्निंग सिस्टमची महत्त्वपूर्ण कार्यक्षमता ओळखण्यासाठी पद्धतींचा शोध. ते म्हणाले, मशीन लर्निंग (त्याच्या सध्याच्या स्थितीत) हे विज्ञानाचे पूर्णपणे नवीन क्षेत्र आहे जे झपाट्याने बदलत आहे, त्यामुळे आज अशक्य असलेल्या गोष्टी लवकरच प्रत्यक्षात येऊ शकत नाहीत असे समजू नका. प्रकल्प AI उघडा याचे एक मनोरंजक उदाहरण आहे.

दुसरे, एखादी व्यक्ती विद्यमान प्रणाली किंवा संस्थांच्या निर्णय प्रक्रियेची चाचणी घेऊ शकते आणि समजू शकते ही कल्पना सैद्धांतिकदृष्ट्या चांगली आहे, परंतु व्यवहारात तशीच आहे. मोठ्या संस्थेमध्ये निर्णय कसे घेतले जातात हे समजून घेणे सोपे नाही. जरी औपचारिक निर्णय घेण्याची प्रक्रिया असली तरी, लोक प्रत्यक्षात कसे संवाद साधतात हे ते प्रतिबिंबित करत नाही आणि ते स्वतःच त्यांचे निर्णय घेण्यासाठी तार्किक, पद्धतशीर दृष्टिकोन नसतात. माझ्या सहकाऱ्याने सांगितल्याप्रमाणे विजय पांडे, लोक देखील ब्लॅक बॉक्स आहेत.

अनेक आच्छादित कंपन्या आणि संस्थांमध्ये एक हजार लोकांना घ्या आणि समस्या आणखी जटिल होईल. स्पेस शटल परतीच्या वेळी खंडित होण्याचे ठरले होते हे आम्हाला कळले आणि NASA मधील व्यक्तींकडे अशी माहिती होती ज्यामुळे त्यांना काहीतरी वाईट घडू शकते असे वाटण्याचे कारण होते, परंतु सिस्टम सामान्यत: मला हे माहीत नव्हते. पूर्वीचे शटल गमावल्यानंतर NASA ने नुकतेच असेच ऑडिट केले आणि तरीही त्याच कारणास्तव दुसरे एक गमावले. हे तर्क करणे सोपे आहे की संस्था आणि लोक स्पष्ट, तार्किक नियमांचे पालन करतात जे तपासले जाऊ शकतात, समजले जाऊ शकतात आणि बदलले जाऊ शकतात - परंतु अनुभव अन्यथा सिद्ध करतो. हे "गोस्प्लानचा भ्रम».

मी बर्‍याचदा मशीन लर्निंगची तुलना डेटाबेसेसशी करतो, विशेषत: रिलेशनल तंत्रज्ञान - एक नवीन मूलभूत तंत्रज्ञान ज्याने संगणक विज्ञान आणि त्याच्या सभोवतालच्या जगाची क्षमता बदलली आहे, जी प्रत्येक गोष्टीचा भाग बनली आहे, ज्याचा आपण सतत वापर करत असतो. डेटाबेसमध्ये देखील समस्या आहेत आणि त्या सारख्याच स्वरूपाच्या आहेत: सिस्टम कदाचित चुकीच्या गृहितकांवर किंवा खराब डेटावर तयार केली जाऊ शकते, परंतु ते लक्षात घेणे कठीण होईल आणि सिस्टम वापरणारे लोक प्रश्न न विचारता ते सांगतील तेच करतील. कर लोकांबद्दल बरेच जुने विनोद आहेत ज्यांनी एकदा तुमचे नाव चुकीचे लिहिले आहे आणि त्यांना चूक सुधारण्यासाठी पटवणे तुमचे नाव बदलण्यापेक्षा खूप कठीण आहे. याबद्दल विचार करण्याचे बरेच मार्ग आहेत, परंतु कोणते चांगले आहे हे स्पष्ट नाही: एसक्यूएलमधील तांत्रिक समस्या म्हणून, किंवा ओरॅकल रिलीझमधील बग म्हणून किंवा नोकरशाही संस्थांचे अपयश म्हणून? सिस्टीममध्ये टायपो सुधारणा वैशिष्ट्य नसलेल्या प्रक्रियेमध्ये बग शोधणे किती कठीण आहे? लोकांनी तक्रार करायला सुरुवात करण्यापूर्वी हे शोधून काढता आले असते का?

नॅव्हिगेटरमधील कालबाह्य डेटामुळे ड्रायव्हर्स नद्यांमध्ये जातात तेव्हा कथांद्वारे ही समस्या अधिक सोप्या पद्धतीने स्पष्ट केली जाते. ठीक आहे, नकाशे सतत अपडेट करणे आवश्यक आहे. पण तुमची कार समुद्रात उडून गेल्याबद्दल टॉमटॉमला किती दोष द्यावा लागेल?

मी असे म्हणण्याचे कारण म्हणजे होय, मशीन लर्निंग पूर्वाग्रह समस्या निर्माण करेल. परंतु या समस्या आपण भूतकाळात ज्या समस्यांचा सामना केला आहे त्यासारख्याच असतील आणि त्या लक्षात घेतल्या जाऊ शकतात आणि सोडवल्या जाऊ शकतात (किंवा नाही) तसेच आपण भूतकाळात करू शकलो आहोत. त्यामुळे, एआय पक्षपाती हानी पोहोचवणारी परिस्थिती मोठ्या संस्थेत काम करणाऱ्या वरिष्ठ संशोधकांना घडण्याची शक्यता नाही. बहुधा, काही क्षुल्लक तंत्रज्ञान कंत्राटदार किंवा सॉफ्टवेअर विक्रेता ओपन सोर्स घटक, लायब्ररी आणि त्यांना न समजलेली साधने वापरून त्यांच्या गुडघ्यावर काहीतरी लिहितात. आणि दुर्दैवी क्लायंट उत्पादनाच्या वर्णनात “कृत्रिम बुद्धिमत्ता” हा वाक्यांश विकत घेईल आणि कोणतेही प्रश्न न विचारता, त्याच्या कमी पगाराच्या कर्मचार्‍यांना ते वितरित करेल, त्यांना AI सांगते तसे करण्यास सांगेल. डेटाबेसच्या बाबतीत हेच घडले आहे. ही कृत्रिम बुद्धिमत्तेची समस्या नाही किंवा अगदी सॉफ्टवेअरची समस्या नाही. हा मानवी घटक आहे.

निष्कर्ष

मशीन लर्निंग तुम्ही कुत्र्याला शिकवू शकता असे काहीही करू शकते—परंतु तुम्ही कुत्र्याला नेमके काय शिकवले याची खात्री कधीही होऊ शकत नाही.

मला बर्‍याचदा असे वाटते की "कृत्रिम बुद्धिमत्ता" हा शब्द फक्त अशा संभाषणात येतो. हा शब्द खोटा आभास देतो की आम्ही ते प्रत्यक्षात तयार केले आहे - ही बुद्धिमत्ता. आम्ही HAL9000 किंवा Skynet च्या मार्गावर आहोत - असे काहीतरी आहे समजते. पण नाही. या फक्त मशीन्स आहेत आणि त्यांची तुलना वॉशिंग मशीनशी करणे अधिक अचूक आहे. ती माणसापेक्षा लाँड्री खूप चांगली करते, पण जर तुम्ही कपडे धुण्याऐवजी तिच्यामध्ये भांडी ठेवली तर ती... ती धुवेल. भांडी अगदी स्वच्छ होतील. परंतु हे तुमच्या अपेक्षेप्रमाणे होणार नाही आणि हे घडणार नाही कारण डिशेसबाबत प्रणालीचे पूर्वग्रह आहेत. वॉशिंग मशिनला काय डिशेस आहेत किंवा कोणते कपडे आहेत हे माहित नाही - हे ऑटोमेशनचे फक्त एक उदाहरण आहे, संकल्पनात्मकदृष्ट्या याआधी प्रक्रिया कशा स्वयंचलित होत्या त्यापेक्षा भिन्न नाही.

आम्ही कार, विमाने किंवा डेटाबेसबद्दल बोलत असलो तरीही, या प्रणाली खूप शक्तिशाली आणि खूप मर्यादित असतील. लोक या प्रणालींचा वापर कसा करतात, त्यांचे हेतू चांगले किंवा वाईट आहेत आणि ते कसे कार्य करतात हे त्यांना किती समजते यावर ते पूर्णपणे अवलंबून असतील.

म्हणून, "कृत्रिम बुद्धिमत्ता हे गणित आहे, म्हणून त्यात पूर्वाग्रह असू शकत नाही" असे म्हणणे पूर्णपणे खोटे आहे. परंतु मशीन लर्निंग हे “व्यक्तिनिष्ठ स्वरूपाचे” आहे असे म्हणणे तितकेच खोटे आहे. मशीन लर्निंग डेटामध्ये नमुने शोधते आणि ते कोणते नमुने शोधतात हे डेटावर अवलंबून असते आणि डेटा आपल्यावर अवलंबून असतो. जसे आपण त्यांच्यासोबत करतो. मशीन लर्निंग काही गोष्टी आपल्यापेक्षा जास्त चांगल्या प्रकारे करते - परंतु कुत्रे, उदाहरणार्थ, ड्रग्ज शोधण्यात मानवांपेक्षा जास्त प्रभावी आहेत, जे त्यांना साक्षीदार म्हणून वापरण्याचे आणि त्यांच्या साक्षीवर आधारित निर्णय घेण्याचे कारण नाही. आणि कुत्रे, तसे, कोणत्याही मशीन लर्निंग सिस्टमपेक्षा खूप हुशार आहेत.

भाषांतरः डायना लेत्स्काया.
संपादन: अलेक्से इव्हानोव्ह.
समुदाय: @PonchikNews.

स्त्रोत: www.habr.com