कृत्रिम बुद्धिमत्ता पूर्वाग्रहको बारेमा

tl; dr:

• मेसिन लर्निङले डाटामा ढाँचाहरू खोज्छ। तर आर्टिफिसियल इन्टेलिजेन्स "पक्षपाती" हुन सक्छ - अर्थात्, गलत ढाँचाहरू फेला पार्नुहोस्। उदाहरणका लागि, फोटो-आधारित छालाको क्यान्सर पत्ता लगाउने प्रणालीले डाक्टरको कार्यालयमा खिचिएका छविहरूमा विशेष ध्यान दिन सक्छ। मेसिन लर्निङ गर्न सकिँदैन बुझ्नु: यसको एल्गोरिदमले संख्याहरूमा मात्र ढाँचाहरू पहिचान गर्दछ, र यदि डाटा प्रतिनिधि होइन भने, यसको प्रशोधनको परिणाम हुनेछ। र मेसिन लर्निङको धेरै मेकानिक्सको कारणले त्यस्ता बगहरू समात्न गाह्रो हुन सक्छ।
• सबैभन्दा स्पष्ट र डरलाग्दो समस्या क्षेत्र मानव विविधता हो। त्यहाँ धेरै कारणहरू छन् कि मानिसहरूको बारेमा डेटा संग्रह चरणमा पनि वस्तुनिष्ठता गुमाउन सक्छ। तर यो नसोच्नुहोस् कि यो समस्याले मात्र मानिसहरूलाई असर गर्छ: ठ्याक्कै उस्तै कठिनाइहरू उत्पन्न हुन्छन् जब गोदाम वा असफल ग्याँस टर्बाइनमा बाढी पत्ता लगाउने प्रयास गर्दा। केही प्रणालीहरू छालाको रङप्रति पक्षपातपूर्ण हुन सक्छन्, अरूहरू Siemens सेन्सरहरूप्रति पूर्वाग्रही हुनेछन्।
• त्यस्ता समस्याहरू मेसिन लर्निङका लागि नयाँ होइनन्, र तिनीहरू यसबाट धेरै टाढा छन्। कुनै पनि जटिल संरचनामा गलत धारणाहरू बनाइन्छ, र किन एक विशेष निर्णय लिइयो भनेर बुझ्न सधैं गाह्रो हुन्छ। हामीले यसलाई व्यापक रूपमा लड्न आवश्यक छ: प्रमाणीकरणका लागि उपकरण र प्रक्रियाहरू सिर्जना गर्नुहोस् - र प्रयोगकर्ताहरूलाई शिक्षित गर्नुहोस् ताकि उनीहरूले AI सिफारिसहरू अन्धाधुन्ध रूपमा पालना नगर्नुहोस्। मेसिन लर्निङले केही चीजहरू हामीले गर्न सक्ने भन्दा धेरै राम्रो गर्छ - तर कुकुरहरू, उदाहरणका लागि, लागूपदार्थहरू पत्ता लगाउन मानिसहरू भन्दा धेरै प्रभावकारी हुन्छन्, जुन तिनीहरूलाई साक्षीको रूपमा प्रयोग गर्ने र तिनीहरूको गवाहीमा आधारित निर्णय गर्ने कारण होइन। र कुकुरहरू, वैसे, कुनै पनि मेसिन लर्निंग प्रणाली भन्दा धेरै चलाख छन्।

मेसिन लर्निङ आजको सबैभन्दा महत्त्वपूर्ण आधारभूत प्रविधि प्रचलनहरू मध्ये एक हो। यो एक प्रमुख तरिका हो जसमा प्रविधिले हाम्रो वरपरको संसारलाई अर्को दशकमा परिवर्तन गर्नेछ। यी परिवर्तनका केही पक्षहरू चिन्ताको कारण हुन्। उदाहरणका लागि, श्रम बजारमा मेसिन लर्निङको सम्भावित प्रभाव, वा अनैतिक उद्देश्यका लागि यसको प्रयोग (उदाहरणका लागि, अधिनायकवादी शासनहरू द्वारा)। त्यहाँ अर्को समस्या छ जुन यो पोस्टले सम्बोधन गर्दछ: कृत्रिम बुद्धिमत्ता पूर्वाग्रह.

यो सजिलो कथा होइन।

Google को AI ले बिरालोहरू फेला पार्न सक्छ। २०१२ को यो खबर त्यतिबेला केही विशेष थियो।

"AI पूर्वाग्रह" के हो?

"कच्चा डाटा" एक अक्सिमोरन र एक खराब विचार दुवै हो; डाटा राम्ररी र सावधानीपूर्वक तयार हुनुपर्छ। -जेफ्री बोकर

2013 भन्दा पहिले, तस्बिरहरूमा बिरालाहरूलाई पहिचान गर्ने प्रणाली बनाउनको लागि, तपाईंले तार्किक चरणहरू वर्णन गर्नुपर्थ्यो। छविमा कुनाहरू कसरी फेला पार्ने, आँखा चिन्न, फरको बनावट विश्लेषण गर्ने, पंजाहरू गणना गर्ने, र यस्तै अन्य। त्यसपछि सबै कम्पोनेन्टहरू सँगै राख्नुहोस् र पत्ता लगाउनुहोस् कि यसले वास्तवमा काम गर्दैन। धेरै मेकानिकल घोडा जस्तै - सैद्धान्तिक रूपमा यो बनाउन सकिन्छ, तर व्यवहारमा यो वर्णन गर्न धेरै जटिल छ। अन्तिम परिणाम सयौं (वा हजारौं) हस्तलिखित नियमहरू हुन्। र एकल कार्य मोडेल छैन।

मेसिन लर्निङको आगमनसँगै, हामीले कुनै खास वस्तु चिन्नका लागि "म्यानुअल" नियमहरू प्रयोग गर्न छोड्यौं। यसको सट्टा, हामी "यो", X, "अन्य", Y को एक हजार नमूनाहरू लिन्छौं, र कम्प्युटरलाई तिनीहरूको तथ्याङ्कीय विश्लेषणको आधारमा एउटा मोडेल बनाउन लगाउँछौं। त्यसपछि हामी यस मोडेललाई केही नमूना डेटा दिन्छौं र यसले सेटहरू मध्ये कुनै एकमा फिट हुन्छ कि छैन भनेर केही सटीकताका साथ निर्धारण गर्छ। मेसिन लर्निङले मानिसले लेखेको भन्दा डाटाबाट मोडेल उत्पन्न गर्छ। नतिजाहरू प्रभावशाली छन्, विशेष गरी छवि र ढाँचा पहिचानको क्षेत्रमा, र यही कारणले गर्दा सम्पूर्ण प्राविधिक उद्योग अब मेसिन लर्निङ (ML) मा सर्दैछ।

तर यो त्यति सरल छैन। वास्तविक संसारमा, X वा Y को हजारौं उदाहरणहरूमा A, B, J, L, O, R, र L पनि समावेश छन्। यी समान रूपमा वितरित नहुन सक्छन्, र केही यस्तो बारम्बार हुन सक्छ कि प्रणालीले बढी तिर्नेछ। तपाईलाई रुचि राख्ने वस्तुहरूमा भन्दा तिनीहरूलाई ध्यान दिनुहोस्।

व्यवहारमा यसको अर्थ के हो? मेरो मनपर्ने उदाहरण हो जब छवि पहिचान प्रणाली घाँसेको पहाडलाई हेरेर भन्नुहोस्, "भेडा"। यो स्पष्ट छ किन: "भेडा" को धेरैजसो उदाहरण फोटोहरू तिनीहरू बस्ने घाँसे मैदानहरूमा लिइन्छ, र यी छविहरूमा घाँसले सानो सेतो फ्लफहरू भन्दा धेरै ठाउँ लिन्छ, र यो घाँस हो जुन प्रणालीले सबैभन्दा महत्त्वपूर्ण मान्दछ। ।

त्यहाँ थप गम्भीर उदाहरणहरू छन्। हालैको एउटा प्रोजेक्ट फोटोहरूमा छालाको क्यान्सर पत्ता लगाउनको लागि। यो बाहिर निस्कियो कि छाला विशेषज्ञहरूले प्रायः शासकलाई छालाको क्यान्सरको अभिव्यक्तिको साथमा संरचनाहरूको आकार रेकर्ड गर्न फोटो खिच्छन्। स्वस्थ छालाको उदाहरण फोटोहरूमा कुनै शासकहरू छैनन्। एआई प्रणालीको लागि, त्यस्ता शासकहरू (अधिक सटीक रूपमा, हामीले "शासक" को रूपमा परिभाषित पिक्सेलहरू) उदाहरणहरूको सेटहरू बीचको भिन्नताहरू मध्ये एक भएको छ, र कहिलेकाहीँ छालामा सानो दाग भन्दा बढी महत्त्वपूर्ण छ। त्यसैले छालाको क्यान्सर पहिचान गर्न सिर्जना गरिएको प्रणालीले कहिलेकाहीं शासकहरूलाई सट्टा मान्यता दियो।

यहाँ मुख्य बिन्दु यो हो कि प्रणालीले के हेरिरहेको छ भन्ने कुनै अर्थगत बुझाइ छैन। हामी पिक्सेलको सेट हेर्छौं र तिनीहरूमा भेडा, छाला वा शासकहरू देख्छौं, तर प्रणाली केवल संख्या रेखा हो। उनले त्रि-आयामिक ठाउँ देख्दैनन्, वस्तुहरू, बनावटहरू, वा भेडाहरू देख्दैनन्। उसले डाटामा ढाँचाहरू मात्र देख्छ।

त्यस्ता समस्याहरूको निदान गर्न कठिनाई यो हो कि न्यूरल नेटवर्क (तपाईँको मेसिन लर्निङ प्रणाली द्वारा उत्पन्न मोडेल) मा हजारौं सयौं हजारौं नोडहरू हुन्छन्। एउटा मोडेलमा हेर्ने र यसले कसरी निर्णय गर्छ भनेर हेर्ने कुनै सजिलो तरिका छैन। यस्तो तरिका हुनुको अर्थ मेसिन लर्निङ प्रयोग नगरी म्यानुअल रूपमा सबै नियमहरू वर्णन गर्नको लागि प्रक्रिया पर्याप्त सरल छ। मानिसहरू चिन्तित छन् कि मेसिन लर्निङ ब्ल्याक बक्सको कुरा भएको छ। (यो तुलना अझै धेरै किन छ म केहि पछि व्याख्या गर्नेछु।)

यो, सामान्य सर्तहरूमा, कृत्रिम बुद्धिमत्ता वा मेशिन सिकाइमा पूर्वाग्रहको समस्या हो: डेटामा ढाँचाहरू फेला पार्ने प्रणालीले गलत ढाँचाहरू फेला पार्न सक्छ, र तपाईंले यसलाई याद नगर्न सक्नुहुन्छ। यो टेक्नोलोजीको मौलिक विशेषता हो, र यो एकेडेमिया र ठूला टेक कम्पनीहरूमा काम गर्ने सबैलाई स्पष्ट छ। तर यसको नतिजाहरू जटिल छन्, र त्यसै गरी ती परिणामहरूको लागि हाम्रो सम्भावित समाधानहरू छन्।

पहिले नतिजा बारे कुरा गरौं।

AI ले, स्पष्ट रूपमा हाम्रो लागि, ठूलो संख्यामा अगोचर संकेतहरूको आधारमा निश्चित वर्गका मानिसहरूको पक्षमा छनौट गर्न सक्छ।

एआई पूर्वाग्रह परिदृश्यहरू

सबैभन्दा स्पष्ट र डरलाग्दो रूपमा, यो समस्या मानव विविधतामा आउँदा आफैं प्रकट हुन सक्छ। हालै त्यहाँ एक हल्ला थियोअमेजनले जागिरका उम्मेद्वारहरूको प्रारम्भिक स्क्रिनिङको लागि मेसिन लर्निङ प्रणाली निर्माण गर्ने प्रयास गरेको छ। अमेजनका कामदारहरू मध्ये धेरै पुरुषहरू भएकोले, "सफल भर्ती" को उदाहरणहरू पनि प्राय: पुरुषहरू छन्, र प्रणालीद्वारा सुझाव गरिएको पुन: सुरुको छनोटमा धेरै पुरुषहरू थिए। अमेजनले यो याद गर्यो र उत्पादनमा प्रणाली जारी गरेन।

यस उदाहरणमा सबैभन्दा महत्त्वपूर्ण कुरा यो हो कि प्रणालीले पुरुष आवेदकहरूलाई समर्थन गर्ने अफवाह थियो, यस तथ्यको बावजुद कि लिंग पुन: सुरुमा निर्दिष्ट गरिएको थिएन। प्रणालीले "राम्रो कामदार" को उदाहरणहरूमा अन्य ढाँचाहरू देख्यो: उदाहरणका लागि, महिलाहरूले उपलब्धिहरू वर्णन गर्न विशेष शब्दहरू प्रयोग गर्न सक्छन्, वा विशेष शौकहरू छन्। निस्सन्देह, प्रणालीलाई थाहा थिएन कि "हकी" के हो, वा "मानिसहरू" को थिए, वा "सफलता" के थियो - यसले पाठको सांख्यिकीय विश्लेषण मात्र गर्यो। तर उनले देखेका ढाँचाहरू प्रायः मानिसहरूले बेवास्ता गर्नेछन्, र तिनीहरूमध्ये केही (उदाहरणका लागि, फरक लिङ्गका मानिसहरूले सफलतालाई फरक रूपमा वर्णन गर्ने तथ्य) हामीले तिनीहरूलाई हेर्दा पनि हामीलाई हेर्न गाह्रो हुनेछ।

थप - खराब। पहेंलो छालामा क्यान्सर पत्ता लगाउन धेरै राम्रो हुने मेसिन लर्निङ प्रणालीले कालो छालामा राम्रो प्रदर्शन नगर्न सक्छ, वा यसको विपरीत। आवश्यक छैन कि पूर्वाग्रहको कारणले, तर किनभने तपाईले फरक छालाको रङको लागि फरक मोडेल निर्माण गर्न आवश्यक छ, विभिन्न विशेषताहरू छनौट गर्नुहोस्। छवि पहिचान जस्ता साँघुरो क्षेत्रमा पनि मेसिन लर्निङ प्रणालीहरू आदानप्रदान गर्न सकिँदैन। तपाईले प्रणालीलाई ट्वीक गर्न आवश्यक छ, कहिलेकाहीँ केवल परीक्षण र त्रुटि मार्फत, तपाईले चाहानु भएको डेटामा भएका सुविधाहरूमा राम्रो ह्यान्डल प्राप्त गर्न तपाईले चाहानु भएको शुद्धता प्राप्त नगरेसम्म। तर तपाईले याद नगर्नु भएको कुरा यो हो कि प्रणाली एक समूहसँग 98% समय सही हुन्छ, र अर्कोसँग मात्र 91% (मानव विश्लेषण भन्दा पनि बढी सटीक)।

अहिलेसम्म मैले मुख्यतया मानिसहरू र तिनीहरूका विशेषताहरूसँग सम्बन्धित उदाहरणहरू प्रयोग गरेको छु। यस समस्याको वरिपरिको छलफल मुख्यतया यस विषयमा केन्द्रित छ। तर यो बुझ्न महत्त्वपूर्ण छ कि मानिसहरूप्रति पूर्वाग्रह समस्याको मात्र भाग हो। हामी धेरै चीजहरूको लागि मेसिन लर्निङ प्रयोग गर्नेछौं, र नमूना त्रुटि ती सबैसँग सान्दर्भिक हुनेछ। अर्कोतर्फ, यदि तपाइँ मानिसहरूसँग काम गर्नुहुन्छ भने, डेटामा पूर्वाग्रह उनीहरूसँग सम्बन्धित नहुन सक्छ।

यो बुझ्नको लागि, हामी छालाको क्यान्सरको उदाहरणमा फर्कौं र प्रणाली विफलताको लागि तीन काल्पनिक सम्भावनाहरू विचार गरौं।

1. मानिसहरूको विषम वितरण: विभिन्न छाला टोनका तस्बिरहरूको असन्तुलित संख्या, पिग्मेन्टेसनको कारणले गलत सकारात्मक वा गलत नकारात्मकहरू निम्त्याउँछ।
2. प्रणालीलाई प्रशिक्षित गरिएको डेटामा बारम्बार हुने र विषम रूपमा वितरण गरिएको विशेषता समावेश छ जुन मानिसहरूसँग सम्बन्धित छैन र कुनै निदान मूल्य छैन: छालाको क्यान्सर वा भेडाको फोटोहरूमा घाँसको फोटोहरूमा शासक। यस अवस्थामा, नतिजा फरक हुनेछ यदि प्रणालीले कुनै चीजको छविमा पिक्सेल फेला पार्छ जुन मानव आँखाले "शासक" को रूपमा पहिचान गर्दछ।
3. डेटाले तेस्रो-पक्ष विशेषता समावेश गर्दछ जुन व्यक्तिले खोज्दा पनि देख्न सक्दैन।

यसको मतलब के हो? डेटाले मानिसहरूका विभिन्न समूहहरूलाई फरक-फरक रूपमा प्रतिनिधित्व गर्न सक्छ भन्ने कुरा हामीलाई प्राथमिकता थाहा छ, र कम्तीमा हामी त्यस्ता अपवादहरू खोज्ने योजना बनाउन सक्छौं। अन्य शब्दहरूमा, त्यहाँ धेरै सामाजिक कारणहरू छन् कि मानिसहरूको समूहको डेटामा पहिले नै केही पूर्वाग्रह समावेश छ। यदि हामीले शासकसँगको फोटो हेर्‍यौं भने, हामी यो शासक देख्नेछौं - हामीले यसलाई पहिले नै बेवास्ता गर्यौं, यो जान्दछन् कि यसले फरक पार्दैन, र प्रणालीलाई केहि थाहा छैन भनेर बिर्सन्छौं।

तर के हुन्छ यदि तपाईंको अस्वस्थ छालाका सबै तस्बिरहरू अफिसमा दिप प्रकाश अन्तर्गत लिइयो, र तपाईंको स्वस्थ छाला फ्लोरोसेन्ट प्रकाशमा लिइयो? के हुन्छ, यदि तपाईंले स्वस्थ छाला शूट गरिसकेपछि, अस्वस्थ छाला शूट गर्नु अघि, तपाईंले आफ्नो फोनमा अपरेटिङ सिस्टम अपडेट गर्नुभयो, र एप्पल वा गुगलले आवाज घटाउने एल्गोरिथ्मलाई थोरै परिवर्तन गर्नुभयो? एक व्यक्तिले यसलाई ध्यान दिन सक्दैन, चाहे उसले त्यस्ता सुविधाहरूको लागि जतिसुकै हेर्छ। तर मेसिन-प्रयोग प्रणालीले यसलाई तुरुन्तै देख्नेछ र प्रयोग गर्नेछ। उनलाई केही थाहा छैन।

अहिलेसम्म हामीले नक्कली सहसंबंधहरूको बारेमा कुरा गरेका छौं, तर यो पनि हुन सक्छ कि डाटा सही छ र परिणामहरू सही छन्, तर तपाईं नैतिक, कानुनी, वा व्यवस्थापन कारणहरूको लागि प्रयोग गर्न चाहनुहुन्न। उदाहरणका लागि, केही क्षेत्राधिकारहरूले महिलाहरूलाई उनीहरूको बीमामा छुट प्राप्त गर्न अनुमति दिँदैनन्, यद्यपि महिलाहरू सुरक्षित चालक हुन सक्छन्। हामी सजिलै संग एक प्रणाली को कल्पना गर्न सक्छौं कि, ऐतिहासिक डेटा को विश्लेषण गर्दा, महिला नामहरु लाई कम जोखिम कारक प्रदान गर्दछ। ठीक छ, चयनबाट नामहरू हटाउनुहोस्। तर Amazon को उदाहरण सम्झनुहोस्: प्रणालीले अन्य कारकहरूको आधारमा लिङ्ग निर्धारण गर्न सक्छ (यद्यपि यसले लिंग के हो, वा कार के हो भनेर पनि थाहा छैन), र नियामकले पूर्वव्यापी रूपमा ट्यारिफहरूको विश्लेषण नगरेसम्म तपाईंले यो याद गर्नुहुने छैन। प्रस्ताव र शुल्क तपाईं जरिवाना हुनेछ।

अन्तमा, यो प्रायः मानिन्छ कि हामीले त्यस्ता प्रणालीहरू मात्र मानिसहरू र सामाजिक अन्तरक्रियाहरू समावेश गर्ने परियोजनाहरूको लागि प्रयोग गर्नेछौं। यो गलत हो। यदि तपाइँ ग्यास टर्बाइनहरू बनाउनुहुन्छ भने, तपाइँ सम्भवतः तपाइँको उत्पादनमा दस वा सयौं सेन्सरहरू (अडियो, भिडियो, तापक्रम, र अन्य कुनै सेन्सरहरूले डाटा उत्पन्न गर्दछ जुन मेसिन सिर्जना गर्न धेरै सजिलैसँग अनुकूलित गर्न सकिन्छ। सिकाइ मोडेल)। काल्पनिक रूपमा, तपाईंले भन्न सक्नुहुन्छ, "यहाँ एक हजार टर्बाइनहरूबाट डाटा छ जुन असफल हुनु अघि असफल भयो, र यहाँ एक हजार टर्बाइनहरूबाट डाटा छ जुन असफल भएन। तिनीहरू बीच के भिन्नता छ भनेर बताउन एउटा मोडेल बनाउनुहोस्। खैर, अब कल्पना गर्नुहोस् कि Siemens सेन्सरहरू 75% खराब टर्बाइनहरूमा स्थापित छन्, र केवल 12% राम्रोहरू (त्यहाँ विफलतासँग कुनै सम्बन्ध छैन)। प्रणालीले सिमेन्स सेन्सरहरूसँग टर्बाइनहरू फेला पार्न मोडेल निर्माण गर्नेछ। उफ्!

तस्विर - मोरिट्ज हार्ड, यूसी बर्कले

AI पूर्वाग्रह प्रबन्ध

हामी यसको बारेमा के गर्न सक्छौं? तपाईं तीन कोणबाट मुद्दामा पुग्न सक्नुहुन्छ:

1. प्रणाली प्रशिक्षणको लागि डेटा सङ्कलन र व्यवस्थापनमा विधिगत कठोरता।
2. मोडेल व्यवहार को विश्लेषण र निदान को लागी प्राविधिक उपकरण।
3. उत्पादनहरूमा मेसिन लर्निङ लागू गर्दा तालिम दिनुहोस्, शिक्षित गर्नुहोस् र सावधान रहनुहोस्।

मोलियरको पुस्तक "द बुर्जुवा इन द नोबिलिटी" मा एउटा ठट्टा छ: एक व्यक्तिलाई भनिएको थियो कि साहित्यलाई गद्य र कवितामा विभाजन गरिएको छ, र उसले थाहा नपाई जीवनभर गद्यमा बोल्दै आएको थाहा पाउँदा खुसी लाग्यो। सायद आज तथ्याङ्कविद्हरूले कस्तो महसुस गर्छन्: यो महसुस नगरी, तिनीहरूले आफ्नो क्यारियर कृत्रिम बुद्धिमत्ता र नमूना त्रुटिमा समर्पित गरेका छन्। नमूना त्रुटि खोज्नु र यसको बारेमा चिन्ता गर्नु कुनै नयाँ समस्या होइन, हामीले यसको समाधानलाई व्यवस्थित रूपमा हेर्नु पर्छ। माथि उल्लेख गरिएझैं, केहि केसहरूमा मानिसहरूको डेटासँग सम्बन्धित समस्याहरू अध्ययन गरेर यो गर्न वास्तवमा सजिलो छ। हामी एक प्राथमिकता मान्दछौं कि हामीसँग मानिसहरूका विभिन्न समूहहरूको सम्बन्धमा पूर्वाग्रहहरू हुन सक्छन्, तर हामीलाई Siemens सेन्सरहरूको बारेमा पूर्वाग्रहको कल्पना गर्न पनि गाह्रो छ।

यी सबैको बारेमा के नयाँ छ, अवश्य पनि, मानिसहरूले अब प्रत्यक्ष रूपमा सांख्यिकीय विश्लेषण गर्दैनन्। यो मेशिनहरू द्वारा गरिन्छ जसले ठूला, जटिल मोडेलहरू सिर्जना गर्दछ जुन बुझ्न गाह्रो हुन्छ। पारदर्शिताको मुद्दा पूर्वाग्रहको समस्याको मुख्य पक्षहरू मध्ये एक हो। हामी डराउँछौं कि प्रणाली पक्षपाती मात्र होइन, तर यसको पूर्वाग्रह पत्ता लगाउने कुनै तरिका छैन, र त्यो मेसिन लर्निङ स्वचालनका अन्य रूपहरू भन्दा फरक छ, जसमा परीक्षण गर्न सकिने स्पष्ट तार्किक चरणहरू समावेश हुनुपर्छ।

यहाँ दुईवटा समस्या छन् । हामी अझै पनि मेशिन लर्निङ प्रणाली को केहि प्रकार को अडिट सञ्चालन गर्न सक्षम हुन सक्छौं। र कुनै पनि अन्य प्रणाली अडिट वास्तवमा कुनै सजिलो छैन।

सबैभन्दा पहिले, मेसिन लर्निङको क्षेत्रमा आधुनिक अनुसन्धानको एउटा दिशा भनेको मेसिन लर्निङ प्रणालीको महत्त्वपूर्ण कार्यक्षमता पहिचान गर्ने विधिहरूको खोजी हो। त्यसले भन्यो, मेसिन लर्निङ (यसको हालको अवस्थामा) विज्ञानको पूर्ण रूपमा नयाँ क्षेत्र हो जुन द्रुत रूपमा परिवर्तन हुँदैछ, त्यसैले आज असम्भव कुराहरू चाँडै नै वास्तविक हुन सक्दैनन् भन्ने सोच्नुहोस्। परियोजना OpenAI - यो एक रोचक उदाहरण।

दोस्रो, तपाईले विद्यमान प्रणाली वा संस्थाहरूको निर्णय प्रक्रियालाई परीक्षण गर्न र बुझ्न सक्नुहुन्छ भन्ने विचार सैद्धान्तिक रूपमा राम्रो छ, तर व्यवहारमा त्यस्तै। ठूलो संगठनमा निर्णयहरू कसरी लिइन्छ भनेर बुझ्न सजिलो छैन। यदि त्यहाँ औपचारिक निर्णय गर्ने प्रक्रिया छ भने, यसले मानिसहरूलाई वास्तवमा कसरी अन्तरक्रिया गर्दछ भनेर प्रतिबिम्बित गर्दैन, र तिनीहरू आफैंले अक्सर आफ्नो निर्णयहरू गर्न तार्किक, व्यवस्थित दृष्टिकोण हुँदैन। मेरो सहकर्मीले भनेजस्तै विजय पाण्डे, मान्छेहरु पनि कालो बाकस हुन्.

धेरै ओभरल्यापिङ कम्पनीहरू र संस्थाहरूमा एक हजार व्यक्तिहरू लिनुहोस्, र समस्या अझ जटिल हुन्छ। हामीलाई थाहा छ कि स्पेस शटल फर्कने क्रममा टुट्ने नियत थियो, र नासा भित्रका व्यक्तिहरूसँग जानकारी थियो जसले उनीहरूलाई केही नराम्रो हुन सक्छ भन्ने सोच्ने कारण दिएको थियो, तर प्रणाली साधारणतया मलाई यो थाहा थिएन। NASA ले पनि आफ्नो अघिल्लो शटल गुमाए पछि यस्तै अडिट पास गर्‍यो, र अझै पनि यस्तै कारणले अर्को एउटा गुमायो। यो तर्क गर्न सजिलो छ कि संगठन र व्यक्तिहरूले स्पष्ट, तार्किक नियमहरू पालना गर्छन् जुन परीक्षण गर्न सकिन्छ, बुझ्न सकिन्छ र परिवर्तन गर्न सकिन्छ — तर अनुभवले अन्यथा प्रमाणित गर्दछ। यो "Gosplan को भ्रम"।

म प्राय: मेसिन लर्निङलाई डाटाबेससँग तुलना गर्छु, विशेष गरी रिलेशनल - एउटा नयाँ आधारभूत प्रविधि जसले कम्प्युटर विज्ञान र यसको वरपरको संसारको क्षमताहरू परिवर्तन गरेको छ, जुन सबै कुराको अंश बनेको छ, जसलाई हामीले महसुस नगरी निरन्तर प्रयोग गर्छौं। डाटाबेसहरूमा पनि समस्याहरू छन्, र तिनीहरू समान प्रकृतिका छन्: प्रणाली खराब अनुमानहरू वा खराब डाटामा बनाइएको हुन सक्छ, तर यसलाई ध्यान दिन गाह्रो हुनेछ, र प्रणाली प्रयोग गर्ने मानिसहरूले प्रश्नहरू नगरी उनीहरूलाई के भन्छन्। कर व्यक्तिहरूको बारेमा धेरै पुराना मजाकहरू छन् जसले एक पटक तपाईंको नाम गलत लेखेका थिए, र तिनीहरूलाई गल्ती सच्याउन मनाउन वास्तवमा तपाईंको नाम परिवर्तन गर्नु भन्दा धेरै गाह्रो छ। यस बारे सोच्ने धेरै तरिकाहरू छन्, तर यो स्पष्ट छैन कि कुन राम्रो हो: SQL मा प्राविधिक समस्याको रूपमा, वा Oracle रिलीजमा बगको रूपमा, वा नोकरशाही संस्थाहरूको विफलताको रूपमा? प्रणालीमा टाइपो सुधार सुविधा नभएको प्रक्रियामा बग फेला पार्न कत्तिको गाह्रो छ? के मानिसहरूले गुनासो गर्न थाल्नु अघि यो पत्ता लगाउन सकिन्थ्यो?

नेभिगेटरमा पुरानो डाटाको कारण ड्राइभरहरूले नदीहरूमा ड्राइभ गर्दा यो समस्या कथाहरूद्वारा अझ सरल रूपमा चित्रण गरिएको छ। ठीक छ, नक्साहरू निरन्तर अद्यावधिक गर्न आवश्यक छ। तर तपाईंको कार समुद्रमा उडाएकोमा टमटमलाई कति दोष छ?

मैले यो भन्नुको कारण यो हो कि हो, मेसिन लर्निङ पूर्वाग्रहले समस्याहरू सिर्जना गर्नेछ। तर यी समस्याहरू हामीले विगतमा सामना गरेका समस्याहरू जस्तै हुनेछन्, र उनीहरूलाई हामीले विगतमा गर्न सकेजस्तै ध्यान दिन र समाधान गर्न सकिन्छ (वा होइन)। त्यसकारण, एउटा परिदृश्य जसमा एआई पूर्वाग्रहले हानि पुर्‍याउँछ ठूलो संगठनमा काम गर्ने वरिष्ठ अनुसन्धानकर्ताहरूलाई हुने सम्भावना छैन। सम्भवतः, केहि तुच्छ टेक्नोलोजी ठेकेदार वा सफ्टवेयर विक्रेताले आफ्नो घुँडामा केहि लेख्नेछन्, खुला स्रोत कम्पोनेन्टहरू, पुस्तकालयहरू र उपकरणहरू प्रयोग गरेर जुन उनीहरूले बुझ्दैनन्। र अशुभ ग्राहकले उत्पादन विवरणमा "कृत्रिम बुद्धिमत्ता" वाक्यांश किन्नेछ र, कुनै प्रश्न नगरी, आफ्ना कम पारिश्रमिक कर्मचारीहरूलाई वितरण गर्नेछ, उनीहरूलाई AI ले जे भन्छ त्यही गर्न आदेश दिन्छ। यो डाटाबेस संग के भयो। यो एक कृत्रिम बुद्धि समस्या, वा सफ्टवेयर समस्या पनि होइन। यो मानवीय कारक हो।

निष्कर्षमा

मेशिन लर्निङले तपाईले कुकुरलाई सिकाउन सक्ने जे पनि गर्न सक्छ - तर तपाईले कुकुरलाई के सिकाउनुभयो भनेर तपाई कहिल्यै पक्का हुन सक्नुहुन्न।

मलाई प्रायः "कृत्रिम बुद्धिमत्ता" शब्दले यस प्रकारको कुराकानीको बाटोमा मात्र आउँछ जस्तो लाग्छ। यो शब्दले गलत छाप दिन्छ कि हामीले वास्तवमा यसलाई सिर्जना गरेका छौं - यो बुद्धि। कि हामी HAL9000 वा Skynet को बाटोमा छौं - वास्तवमा केहि बुझ्छन्। तर होइन। यी केवल मेसिनहरू हुन्, र तिनीहरूलाई वाशिङ मेसिनसँग तुलना गर्न धेरै सही छ। उसले मानिस भन्दा धेरै राम्रो लुगा धुन्छ, तर यदि तपाईले लुगा धुनुको सट्टा उसमा भाँडाहरू राख्नुभयो भने, उसले ... तिनीहरूलाई धुनेछ। भाँडाहरू पनि सफा हुनेछन्। तर यो तपाईले अपेक्षा गरेको जस्तो हुनेछैन, र यो हुने छैन किनभने प्रणालीमा भाँडाको बारेमा कुनै पूर्वाग्रह छ। वाशिङ मेसिनलाई थाहा छैन के भाँडाहरू वा लुगाहरू के हुन् - यो केवल स्वचालनको उदाहरण हो, अवधारणागत रूपमा कसरी प्रक्रियाहरू पहिले स्वचालित थिए भन्दा फरक छैन।

चाहे हामी कार, हवाइजहाज, वा डाटाबेसको बारेमा कुरा गर्दैछौं, यी प्रणालीहरू दुवै धेरै शक्तिशाली र धेरै सीमित हुनेछन्। तिनीहरू मानिसहरूले यी प्रणालीहरू कसरी प्रयोग गर्छन्, तिनीहरूको नियत राम्रो वा नराम्रो हो, र तिनीहरूले कसरी काम गर्छन् भन्ने कुरामा तिनीहरू पूर्ण रूपमा निर्भर हुनेछन्।

तसर्थ, "कृत्रिम बुद्धिमत्ता गणित हो, त्यसैले यसमा पूर्वाग्रह हुन सक्दैन" भन्नु पूर्ण रूपमा गलत हो। तर मेसिन लर्निङ "व्यक्तिगत प्रकृति" हो भन्नु पनि उत्तिकै गलत हो। मेसिन लर्निङले डाटामा ढाँचाहरू फेला पार्छ, र यसले कुन ढाँचाहरू फेला पार्छ त्यो डाटामा निर्भर गर्दछ, र डाटा हामीमा निर्भर गर्दछ। हामी तिनीहरूसँग के गर्छौं जस्तै। मेसिन लर्निङले केही चीजहरू हामीले गर्न सक्ने भन्दा धेरै राम्रो गर्छ - तर कुकुरहरू, उदाहरणका लागि, लागूपदार्थहरू पत्ता लगाउन मानिसहरू भन्दा धेरै प्रभावकारी हुन्छन्, जुन तिनीहरूलाई साक्षीको रूपमा प्रयोग गर्ने र तिनीहरूको गवाहीमा आधारित निर्णय गर्ने कारण होइन। र कुकुरहरू, वैसे, कुनै पनि मेसिन लर्निंग प्रणाली भन्दा धेरै चलाख छन्।

अनुवाद: डायना Letskaya.
सम्पादन: Aleksey Ivanov.
समुदाय: @PonchikNews.

स्रोत: www.habr.com