આર્ટિફિશિયલ ઇન્ટેલિજન્સ બાયસ વિશે

ટીએલ; ડો:

• મશીન લર્નિંગ ડેટામાં પેટર્ન શોધે છે. પરંતુ કૃત્રિમ બુદ્ધિ "પક્ષપાતી" હોઈ શકે છે - એટલે કે, ખોટા હોય તેવા દાખલાઓ શોધો. ઉદાહરણ તરીકે, ફોટો-આધારિત ત્વચા કેન્સર શોધ પ્રણાલી ડૉક્ટરની ઑફિસમાં લેવામાં આવેલી છબીઓ પર વિશેષ ધ્યાન આપી શકે છે. મશીન લર્નિંગ કરી શકતું નથી સમજવું: તેના અલ્ગોરિધમ્સ માત્ર સંખ્યાઓમાં પેટર્નને ઓળખે છે, અને જો ડેટા પ્રતિનિધિ ન હોય, તો તેની પ્રક્રિયાનું પરિણામ પણ હશે. અને મશીન લર્નિંગના ખૂબ જ મિકેનિક્સને કારણે આવી ભૂલોને પકડવી મુશ્કેલ બની શકે છે.
• સૌથી વધુ સ્પષ્ટ અને ભયાવહ સમસ્યા એ માનવીય વિવિધતા છે. લોકો વિશેનો ડેટા સંગ્રહના તબક્કે પણ નિરપેક્ષતા ગુમાવી શકે છે તેના ઘણા કારણો છે. પરંતુ એવું ન વિચારો કે આ સમસ્યા ફક્ત લોકોને જ અસર કરે છે: વેરહાઉસ અથવા નિષ્ફળ ગેસ ટર્બાઇનમાં પૂર શોધવાનો પ્રયાસ કરતી વખતે બરાબર એ જ મુશ્કેલીઓ ઊભી થાય છે. કેટલીક સિસ્ટમ્સ ત્વચાના રંગ પ્રત્યે પૂર્વગ્રહયુક્ત હોઈ શકે છે, અન્ય સિમેન્સ સેન્સર્સ તરફ પક્ષપાતી હશે.
• મશીન લર્નિંગ માટે આવી સમસ્યાઓ નવી નથી, અને તે તેનાથી અજોડ નથી. કોઈપણ જટિલ માળખામાં ખોટી ધારણાઓ કરવામાં આવે છે, અને શા માટે ચોક્કસ નિર્ણય લેવામાં આવ્યો તે સમજવું હંમેશા મુશ્કેલ હોય છે. અમારે આનો વ્યાપક રીતે સામનો કરવાની જરૂર છે: ચકાસણી માટે સાધનો અને પ્રક્રિયાઓ બનાવો - અને વપરાશકર્તાઓને શિક્ષિત કરો જેથી કરીને તેઓ AI ભલામણોનું આંધળાપણે પાલન ન કરે. મશીન લર્નિંગ કેટલીક વસ્તુઓ આપણા કરતા વધુ સારી રીતે કરે છે - પરંતુ ડોગ્સ, ઉદાહરણ તરીકે, દવાઓ શોધવામાં મનુષ્યો કરતાં વધુ અસરકારક છે, જે સાક્ષી તરીકે તેનો ઉપયોગ કરવાનું અને તેમની જુબાનીના આધારે ચુકાદો આપવાનું કારણ નથી. અને કૂતરા, માર્ગ દ્વારા, કોઈપણ મશીન લર્નિંગ સિસ્ટમ કરતાં વધુ સ્માર્ટ છે.

મશીન લર્નિંગ એ આજે ​​સૌથી મહત્વપૂર્ણ મૂળભૂત તકનીકી વલણોમાંનું એક છે. આ એક મુખ્ય રીત છે જેમાં ટેક્નોલોજી આગામી દાયકામાં આપણી આસપાસની દુનિયાને બદલી નાખશે. આ ફેરફારોના કેટલાક પાસાઓ ચિંતાનું કારણ છે. ઉદાહરણ તરીકે, મજૂર બજાર પર મશીન લર્નિંગની સંભવિત અસર અથવા અનૈતિક હેતુઓ માટે તેનો ઉપયોગ (ઉદાહરણ તરીકે, સરમુખત્યારશાહી શાસન દ્વારા). આ પોસ્ટ સંબોધિત કરતી બીજી સમસ્યા છે: કૃત્રિમ બુદ્ધિ પૂર્વગ્રહ.

આ એક સરળ વાર્તા નથી.

Google ની AI બિલાડીઓને શોધી શકે છે. 2012ના આ સમાચાર તે સમયે કંઈક ખાસ હતા.

"AI બાયસ" શું છે?

"કાચો ડેટા" એ ઓક્સિમોરોન અને ખરાબ વિચાર બંને છે; માહિતી સારી રીતે અને કાળજીપૂર્વક તૈયાર કરવી જોઈએ. - જ્યોફ્રી બોકર

2013 પહેલાં ક્યાંક, એવી સિસ્ટમ બનાવવા માટે કે જે, કહો કે, ફોટોગ્રાફ્સમાં બિલાડીઓને ઓળખે છે, તમારે તાર્કિક પગલાંનું વર્ણન કરવું પડ્યું. ઇમેજમાં ખૂણાઓ કેવી રીતે શોધવી, આંખોને ઓળખવી, ફર માટે ટેક્સચરનું વિશ્લેષણ કરવું, પંજાની ગણતરી કરવી વગેરે. પછી બધા ઘટકોને એકસાથે મૂકો અને શોધો કે તે ખરેખર કામ કરતું નથી. યાંત્રિક ઘોડાની જેમ - સૈદ્ધાંતિક રીતે તે બનાવી શકાય છે, પરંતુ વ્યવહારમાં તે વર્ણવવા માટે ખૂબ જટિલ છે. અંતિમ પરિણામ સેંકડો (અથવા તો હજારો) હસ્તલિખિત નિયમો છે. અને એક પણ કાર્યકારી મોડેલ નથી.

મશીન લર્નિંગના આગમન સાથે, અમે ચોક્કસ ઑબ્જેક્ટને ઓળખવા માટે "મેન્યુઅલ" નિયમોનો ઉપયોગ કરવાનું બંધ કર્યું. તેના બદલે, અમે “આ”, X, “અન્ય”, વાય ના હજાર નમૂનાઓ લઈએ છીએ અને કમ્પ્યુટરને તેમના આંકડાકીય વિશ્લેષણના આધારે એક મોડેલ બનાવવાનું કહીએ છીએ. અમે પછી આ મોડેલને કેટલાક નમૂનાનો ડેટા આપીએ છીએ અને તે અમુક ચોક્કસતા સાથે નક્કી કરે છે કે તે સેટમાંથી એક સાથે બંધબેસે છે કે કેમ. મશીન લર્નિંગ માનવ દ્વારા લખવાને બદલે ડેટામાંથી મોડેલ જનરેટ કરે છે. પરિણામો પ્રભાવશાળી છે, ખાસ કરીને ઇમેજ અને પેટર્નની ઓળખના ક્ષેત્રમાં, અને તેથી જ સમગ્ર ટેક ઉદ્યોગ હવે મશીન લર્નિંગ (ML) તરફ આગળ વધી રહ્યો છે.

પરંતુ તે એટલું સરળ નથી. વાસ્તવિક દુનિયામાં, તમારા X અથવા Y ના હજારો ઉદાહરણોમાં A, B, J, L, O, R અને L પણ છે. આ સમાનરૂપે વિતરિત ન પણ હોઈ શકે, અને કેટલાક એટલા વારંવાર બને છે કે સિસ્ટમ વધુ ચૂકવણી કરશે તમને રસ હોય તેવી વસ્તુઓ કરતાં તેમના પર ધ્યાન આપો.

વ્યવહારમાં આનો અર્થ શું છે? મારું મનપસંદ ઉદાહરણ છે જ્યારે ઇમેજ રેકગ્નિશન સિસ્ટમ્સ ઘાસવાળી ટેકરી તરફ જુઓ અને કહો, "ઘેટાં". તે સ્પષ્ટ છે કે શા માટે: "ઘેટાં" ના મોટા ભાગના ઉદાહરણ ફોટોગ્રાફ્સ ઘાસના મેદાનોમાં લેવામાં આવે છે જ્યાં તેઓ રહે છે, અને આ છબીઓમાં ઘાસ નાના સફેદ ફ્લુફ્સ કરતાં ઘણી વધુ જગ્યા લે છે, અને તે ઘાસ છે જેને સિસ્ટમ સૌથી મહત્વપૂર્ણ માને છે. .

ત્યાં વધુ ગંભીર ઉદાહરણો છે. એક તાજેતરનું પ્રોજેક્ટ ફોટોગ્રાફ્સમાં ત્વચા કેન્સર શોધવા માટે. તે બહાર આવ્યું છે કે ત્વચારોગ વિજ્ઞાનીઓ ઘણીવાર રચનાના કદને રેકોર્ડ કરવા માટે ત્વચાના કેન્સરના અભિવ્યક્તિઓ સાથે શાસકનો ફોટોગ્રાફ કરે છે. તંદુરસ્ત ત્વચાના ઉદાહરણના ફોટોગ્રાફ્સમાં કોઈ શાસકો નથી. AI સિસ્ટમ માટે, આવા શાસકો (વધુ સ્પષ્ટ રીતે, પિક્સેલ્સ કે જેને આપણે "શાસક" તરીકે વ્યાખ્યાયિત કરીએ છીએ) ઉદાહરણોના સેટ વચ્ચેના તફાવતોમાંથી એક બની ગયા છે, અને કેટલીકવાર ત્વચા પરના નાના ફોલ્લીઓ કરતાં વધુ મહત્વપૂર્ણ છે. તેથી ત્વચાના કેન્સરને ઓળખવા માટે બનાવેલ સિસ્ટમ કેટલીકવાર તેના બદલે શાસકોને માન્યતા આપે છે.

અહીં મુખ્ય મુદ્દો એ છે કે સિસ્ટમને તે શું જોઈ રહી છે તેની કોઈ અર્થપૂર્ણ સમજ નથી. આપણે પિક્સેલના સમૂહને જોઈએ છીએ અને તેમાં ઘેટાં, ચામડી અથવા શાસકો જોઈએ છીએ, પરંતુ સિસ્ટમ માત્ર એક સંખ્યા રેખા છે. તેણીને ત્રિ-પરિમાણીય જગ્યા દેખાતી નથી, વસ્તુઓ, ટેક્સચર અથવા ઘેટાં દેખાતા નથી. તે ફક્ત ડેટામાં પેટર્ન જુએ છે.

આવી સમસ્યાઓનું નિદાન કરવામાં મુશ્કેલી એ છે કે ન્યુરલ નેટવર્ક (તમારી મશીન લર્નિંગ સિસ્ટમ દ્વારા જનરેટ થયેલ મોડેલ) હજારો હજારો ગાંઠો ધરાવે છે. મોડેલને જોવાની અને તે કેવી રીતે નિર્ણય લે છે તે જોવાની કોઈ સરળ રીત નથી. આવી રીતનો અર્થ એ થશે કે પ્રક્રિયા મશીન લર્નિંગનો ઉપયોગ કર્યા વિના, જાતે જ તમામ નિયમોનું વર્ણન કરવા માટે પૂરતી સરળ છે. લોકો ચિંતા કરે છે કે મશીન લર્નિંગ એક બ્લેક બોક્સ બની ગયું છે. (હું થોડી વાર પછી સમજાવીશ કે શા માટે આ સરખામણી હજી વધારે છે.)

આ, સામાન્ય શબ્દોમાં, આર્ટિફિશિયલ ઇન્ટેલિજન્સ અથવા મશીન લર્નિંગમાં પૂર્વગ્રહની સમસ્યા છે: ડેટામાં પેટર્ન શોધવા માટેની સિસ્ટમ ખોટી પેટર્ન શોધી શકે છે, અને તમે તેની નોંધ નહીં કરી શકો. આ ટેક્નોલોજીની મૂળભૂત લાક્ષણિકતા છે, અને તે દરેક વ્યક્તિ માટે સ્પષ્ટ છે કે જેઓ તેની સાથે શૈક્ષણિક અને મોટી ટેક કંપનીઓમાં કામ કરે છે. પરંતુ તેના પરિણામો જટિલ છે, અને તે જ રીતે તે પરિણામોના અમારા સંભવિત ઉકેલો પણ છે.

ચાલો પહેલા પરિણામો વિશે વાત કરીએ.

AI, અસ્પષ્ટપણે આપણા માટે, મોટી સંખ્યામાં અગોચર સંકેતોના આધારે અમુક વર્ગના લોકોની તરફેણમાં પસંદગી કરી શકે છે.

AI પૂર્વગ્રહ દૃશ્યો

સૌથી વધુ દેખીતી રીતે અને ભયાનક રીતે, જ્યારે માનવ વિવિધતાની વાત આવે ત્યારે આ સમસ્યા પોતાને પ્રગટ કરી શકે છે. તાજેતરમાં એક અફવા હતીકે એમેઝોને નોકરીના ઉમેદવારોની પ્રારંભિક તપાસ માટે મશીન લર્નિંગ સિસ્ટમ બનાવવાનો પ્રયાસ કર્યો. એમેઝોનના કામદારોમાં પુરુષોની સંખ્યા વધુ હોવાથી, "સફળ ભરતી" ના ઉદાહરણો પણ વધુ વખત પુરૂષો છે, અને સિસ્ટમ દ્વારા સૂચવેલા રિઝ્યુમ્સની પસંદગીમાં વધુ પુરુષો હતા. એમેઝોને આની નોંધ લીધી અને સિસ્ટમને ઉત્પાદનમાં છોડ્યું નહીં.

આ ઉદાહરણમાં સૌથી મહત્વની બાબત એ છે કે રેઝ્યૂમેમાં લિંગનો ઉલ્લેખ કરવામાં આવ્યો ન હોવા છતાં, સિસ્ટમ પુરૂષ અરજદારોની તરફેણ કરવા માટે અફવા હતી. સિસ્ટમે "સારા કામદારો" ના ઉદાહરણોમાં અન્ય દાખલાઓ જોયા: ઉદાહરણ તરીકે, સ્ત્રીઓ સિદ્ધિઓનું વર્ણન કરવા અથવા વિશેષ શોખ ધરાવવા માટે વિશિષ્ટ શબ્દોનો ઉપયોગ કરી શકે છે. અલબત્ત, સિસ્ટમને ખબર ન હતી કે "હોકી" શું છે, અથવા "લોકો" કોણ છે, અથવા "સફળતા" શું છે - તેણે ફક્ત ટેક્સ્ટનું આંકડાકીય વિશ્લેષણ કર્યું. પરંતુ તેણીએ જે દાખલાઓ જોયા તે સંભવતઃ મનુષ્યો દ્વારા ધ્યાન આપવામાં ન આવે, અને તેમાંના કેટલાક (ઉદાહરણ તરીકે, હકીકત એ છે કે વિવિધ જાતિના લોકો સફળતાને અલગ રીતે વર્ણવે છે) જો આપણે તેમને જોશું તો પણ તે જોવાનું અમારા માટે મુશ્કેલ હશે.

આગળ - વધુ ખરાબ. મશીન લર્નિંગ સિસ્ટમ કે જે નિસ્તેજ ત્વચા પર કેન્સર શોધવામાં ખૂબ જ સારી છે તે કાળી ત્વચા પર સારી કામગીરી કરી શકતી નથી અથવા તેનાથી ઊલટું. જરૂરી નથી કે પૂર્વગ્રહને કારણે, પરંતુ કારણ કે તમારે વિવિધ લાક્ષણિકતાઓ પસંદ કરીને, ત્વચાના વિવિધ રંગ માટે અલગ મોડેલ બનાવવાની જરૂર છે. ઇમેજ રેકગ્નિશન જેવા સાંકડા વિસ્તારમાં પણ મશીન લર્નિંગ સિસ્ટમ્સ એકબીજાને બદલી શકાતી નથી. જ્યાં સુધી તમે ઇચ્છો તે સચોટતા પ્રાપ્ત ન કરો ત્યાં સુધી તમને રુચિ હોય તેવા ડેટાની સુવિધાઓ પર સારી રીતે હેન્ડલ મેળવવા માટે, કેટલીકવાર ફક્ત અજમાયશ અને ભૂલ દ્વારા, તમારે સિસ્ટમને ટ્વિક કરવાની જરૂર છે. પરંતુ તમે જે નોંધ્યું નથી તે એ છે કે સિસ્ટમ એક જૂથ સાથે 98% સમય સચોટ હોય છે, અને બીજા જૂથ સાથે માત્ર 91% (માનવ વિશ્લેષણ કરતાં પણ વધુ સચોટ) હોય છે.

અત્યાર સુધી મેં મુખ્યત્વે લોકો અને તેમની લાક્ષણિકતાઓને લગતા ઉદાહરણોનો ઉપયોગ કર્યો છે. આ સમસ્યાની આસપાસની ચર્ચા મુખ્યત્વે આ વિષય પર કેન્દ્રિત છે. પરંતુ એ સમજવું અગત્યનું છે કે લોકો પ્રત્યેનો પક્ષપાત એ સમસ્યાનો માત્ર એક ભાગ છે. અમે ઘણી બધી વસ્તુઓ માટે મશીન લર્નિંગનો ઉપયોગ કરીશું, અને સેમ્પલિંગની ભૂલ તે તમામ માટે સંબંધિત હશે. બીજી બાજુ, જો તમે લોકો સાથે કામ કરો છો, તો ડેટામાંનો પૂર્વગ્રહ તેમની સાથે સંબંધિત ન હોઈ શકે.

આ સમજવા માટે, ચાલો ત્વચાના કેન્સરના ઉદાહરણ પર પાછા ફરીએ અને સિસ્ટમની નિષ્ફળતા માટે ત્રણ અનુમાનિત શક્યતાઓને ધ્યાનમાં લઈએ.

1. લોકોનું વિજાતીય વિતરણ: વિવિધ ત્વચા ટોનના ફોટોગ્રાફ્સની અસંતુલિત સંખ્યા, પિગમેન્ટેશનને કારણે ખોટા હકારાત્મક અથવા ખોટા નકારાત્મક તરફ દોરી જાય છે.
2. ડેટા કે જેના પર સિસ્ટમને પ્રશિક્ષિત કરવામાં આવે છે તેમાં વારંવાર બનતું અને વિજાતીય રીતે વિતરિત વિશેષતા હોય છે જે લોકો સાથે સંકળાયેલી નથી અને તેનું કોઈ નિદાન મૂલ્ય નથી: ચામડીના કેન્સરના ફોટોગ્રાફ્સ અથવા ઘેટાંના ફોટોગ્રાફ્સમાં ઘાસનો શાસક. આ કિસ્સામાં, પરિણામ અલગ હશે જો સિસ્ટમને એવી કોઈ વસ્તુની છબીમાં પિક્સેલ્સ મળે કે જેને માનવ આંખ "શાસક" તરીકે ઓળખે છે.
3. ડેટામાં તૃતીય-પક્ષની લાક્ષણિકતા હોય છે જે વ્યક્તિ તેને શોધે તો પણ જોઈ શકતી નથી.

તેનો અર્થ શું છે? અમે એક પ્રાથમિકતા જાણીએ છીએ કે ડેટા લોકોના જુદા જુદા જૂથોને અલગ રીતે રજૂ કરી શકે છે, અને ઓછામાં ઓછા અમે આવા અપવાદો શોધવાનું આયોજન કરી શકીએ છીએ. બીજા શબ્દોમાં કહીએ તો, લોકોના જૂથો વિશેના ડેટામાં પહેલાથી જ કેટલાક પૂર્વગ્રહ છે એવું માનવા માટે પુષ્કળ સામાજિક કારણો છે. જો આપણે શાસક સાથેનો ફોટો જોઈએ, તો આપણે આ શાસકને જોશું - આપણે પહેલા તેની અવગણના કરી, તે જાણીને કે તેનાથી કોઈ વાંધો નથી, અને સિસ્ટમને કંઈપણ ખબર નથી તે ભૂલી ગયા છીએ.

પરંતુ જો તમારી બિનઆરોગ્યપ્રદ ત્વચાના તમામ ફોટા અગ્નિથી પ્રકાશિત પ્રકાશ હેઠળ ઓફિસમાં લેવામાં આવ્યા હોય અને તમારી તંદુરસ્ત ત્વચા ફ્લોરોસન્ટ લાઇટ હેઠળ લેવામાં આવે તો શું? શું, જો તમે તંદુરસ્ત ત્વચાનું શૂટિંગ પૂર્ણ કર્યા પછી, બિનઆરોગ્યપ્રદ ત્વચાનું શૂટિંગ કરતા પહેલા, તમે તમારા ફોન પર ઑપરેટિંગ સિસ્ટમ અપડેટ કરી અને એપલ અથવા ગૂગલે અવાજ ઘટાડવાના અલ્ગોરિધમમાં થોડો ફેરફાર કર્યો? કોઈ વ્યક્તિ આની નોંધ લઈ શકતો નથી, પછી ભલે તે આવી સુવિધાઓ માટે કેટલું જુએ. પરંતુ મશીન-ઉપયોગની સિસ્ટમ તરત જ આને જોશે અને તેનો ઉપયોગ કરશે. તેણીને કંઈ ખબર નથી.

અત્યાર સુધી અમે બનાવટી સહસંબંધો વિશે વાત કરી છે, પરંતુ એવું પણ બની શકે છે કે ડેટા સચોટ હોય અને પરિણામો સાચા હોય, પરંતુ તમે નૈતિક, કાનૂની અથવા વ્યવસ્થાપન કારણોસર તેનો ઉપયોગ કરવા માંગતા નથી. કેટલાક અધિકારક્ષેત્રો, ઉદાહરણ તરીકે, સ્ત્રીઓને તેમના વીમા પર ડિસ્કાઉન્ટ મેળવવાની મંજૂરી આપતા નથી, ભલે સ્ત્રીઓ સુરક્ષિત ડ્રાઈવર હોય. અમે સરળતાથી એવી સિસ્ટમની કલ્પના કરી શકીએ છીએ કે, જ્યારે ઐતિહાસિક માહિતીનું વિશ્લેષણ કરવામાં આવે ત્યારે, સ્ત્રી નામોને ઓછા જોખમી પરિબળને સોંપવામાં આવશે. ઠીક છે, ચાલો પસંદગીમાંથી નામો દૂર કરીએ. પરંતુ એમેઝોનનું ઉદાહરણ યાદ રાખો: સિસ્ટમ અન્ય પરિબળોના આધારે લિંગ નક્કી કરી શકે છે (જો કે તે જાણતું નથી કે લિંગ શું છે, અથવા કાર શું છે), અને જ્યાં સુધી રેગ્યુલેટર તમારા ટેરિફનું પૂર્વવર્તી રીતે વિશ્લેષણ ન કરે ત્યાં સુધી તમે આની નોંધ લેશો નહીં. ઑફર અને ચાર્જ તમને દંડ કરવામાં આવશે.

છેવટે, એવું માનવામાં આવે છે કે અમે ફક્ત એવા પ્રોજેક્ટ્સ માટે જ આવી સિસ્ટમોનો ઉપયોગ કરીશું જેમાં લોકો અને સામાજિક ક્રિયાપ્રતિક્રિયાઓ શામેલ હોય. આ ખોટું છે. જો તમે ગેસ ટર્બાઇન બનાવો છો, તો તમે કદાચ તમારા ઉત્પાદન પર દસ અથવા સેંકડો સેન્સર દ્વારા પ્રસારિત ટેલિમેટ્રી પર મશીન લર્નિંગ લાગુ કરવા માંગો છો (ઓડિયો, વિડિયો, તાપમાન અને અન્ય કોઈપણ સેન્સર ડેટા જનરેટ કરે છે જેને મશીન બનાવવા માટે ખૂબ જ સરળતાથી સ્વીકારી શકાય છે. શીખવાનું મોડેલ). કાલ્પનિક રીતે, તમે કહી શકો, “અહીં એક હજાર ટર્બાઇનનો ડેટા છે જે નિષ્ફળ થયા પહેલા નિષ્ફળ ગયો હતો, અને અહીં એક હજાર ટર્બાઇનનો ડેટા છે જે નિષ્ફળ નથી થયો. તેમની વચ્ચે શું તફાવત છે તે જણાવવા માટે એક મોડેલ બનાવો." ઠીક છે, હવે કલ્પના કરો કે સિમેન્સ સેન્સર 75% ખરાબ ટર્બાઇન પર ઇન્સ્ટોલ કરેલા છે, અને માત્ર 12% સારા (નિષ્ફળતા સાથે કોઈ જોડાણ નથી). સિસ્ટમ સિમેન્સ સેન્સર સાથે ટર્બાઇન શોધવા માટે એક મોડેલ બનાવશે. અરે!

ચિત્ર - મોરિટ્ઝ હાર્ડ્ટ, યુસી બર્કલે

AI બાયસનું સંચાલન

આપણે તેના વિશે શું કરી શકીએ? તમે ત્રણ ખૂણાથી સમસ્યાનો સંપર્ક કરી શકો છો:

1. સિસ્ટમને તાલીમ આપવા માટે ડેટા એકત્ર કરવા અને તેનું સંચાલન કરવામાં પદ્ધતિસરની કઠોરતા.
2. મોડેલ વર્તનનું વિશ્લેષણ અને નિદાન કરવા માટેના તકનીકી સાધનો.
3. ઉત્પાદનોમાં મશીન લર્નિંગનો અમલ કરતી વખતે તાલીમ આપો, શિક્ષિત કરો અને સાવચેત રહો.

મોલિઅરના પુસ્તક "ધ બુર્જિયો ઇન ધ નોબિલિટી" માં એક મજાક છે: એક માણસને કહેવામાં આવ્યું હતું કે સાહિત્ય ગદ્ય અને કવિતામાં વહેંચાયેલું છે, અને તે જાણીને આનંદ થયો કે તે આખી જીંદગી ગદ્યમાં બોલતો રહ્યો, તે જાણ્યા વિના. સંભવતઃ આજે આંકડાશાસ્ત્રીઓ આ રીતે અનુભવે છે: તે સમજ્યા વિના, તેઓએ તેમની કારકિર્દી કૃત્રિમ બુદ્ધિમત્તા અને નમૂનાની ભૂલને સમર્પિત કરી છે. નમૂનાની ભૂલ શોધવી અને તેના વિશે ચિંતા કરવી એ કોઈ નવી સમસ્યા નથી, આપણે ફક્ત તેના ઉકેલ માટે વ્યવસ્થિત રીતે સંપર્ક કરવાની જરૂર છે. ઉપર સૂચવ્યા મુજબ, કેટલાક કિસ્સાઓમાં લોકોના ડેટા સંબંધિત સમસ્યાઓનો અભ્યાસ કરીને આ કરવાનું ખરેખર સરળ છે. અમે પ્રાથમિક રીતે માની લઈએ છીએ કે લોકોના જુદા જુદા જૂથોને લઈને અમારી પાસે પૂર્વગ્રહો હોઈ શકે છે, પરંતુ અમારા માટે સિમેન્સ સેન્સર વિશે પૂર્વગ્રહની કલ્પના કરવી પણ મુશ્કેલ છે.

આ બધામાં નવું શું છે, અલબત્ત, લોકો હવે આંકડાકીય વિશ્લેષણ સીધું કરતા નથી. તે મશીનો દ્વારા હાથ ધરવામાં આવે છે જે મોટા, જટિલ મોડેલો બનાવે છે જે સમજવા માટે મુશ્કેલ છે. પારદર્શિતાનો મુદ્દો પક્ષપાતની સમસ્યાના મુખ્ય પાસાઓમાંનો એક છે. અમને ડર છે કે સિસ્ટમ માત્ર પક્ષપાતી નથી, પરંતુ તેના પૂર્વગ્રહને શોધવાની કોઈ રીત નથી, અને તે મશીન લર્નિંગ ઑટોમેશનના અન્ય સ્વરૂપોથી અલગ છે, જેમાં પરીક્ષણ કરી શકાય તેવા સ્પષ્ટ તાર્કિક પગલાંઓ હોવા જોઈએ.

અહીં બે સમસ્યાઓ છે. અમે હજી પણ મશીન લર્નિંગ સિસ્ટમ્સનું અમુક પ્રકારનું ઑડિટ કરવા સક્ષમ હોઈ શકીએ છીએ. અને કોઈપણ અન્ય સિસ્ટમનું ઓડિટ કરવું ખરેખર સરળ નથી.

સૌપ્રથમ, મશીન લર્નિંગના ક્ષેત્રમાં આધુનિક સંશોધનની દિશાઓમાંની એક મશીન લર્નિંગ સિસ્ટમ્સની મહત્વપૂર્ણ કાર્યક્ષમતાને ઓળખવા માટેની પદ્ધતિઓની શોધ છે. તેણે કહ્યું, મશીન લર્નિંગ (તેની વર્તમાન સ્થિતિમાં) વિજ્ઞાનનું એક સંપૂર્ણપણે નવું ક્ષેત્ર છે જે ઝડપથી બદલાઈ રહ્યું છે, તેથી એવું ન વિચારો કે જે વસ્તુઓ આજે અશક્ય છે તે ટૂંક સમયમાં વાસ્તવિક બની શકશે નહીં. પ્રોજેક્ટ OpenAI - આનું એક રસપ્રદ ઉદાહરણ.

બીજું, તમે વર્તમાન સિસ્ટમો અથવા સંસ્થાઓની નિર્ણય લેવાની પ્રક્રિયાને ચકાસી શકો છો અને સમજી શકો છો તે વિચાર સિદ્ધાંતમાં સારો છે, પરંતુ વ્યવહારમાં તેવો જ છે. મોટી સંસ્થામાં નિર્ણયો કેવી રીતે લેવામાં આવે છે તે સમજવું સરળ નથી. જો ત્યાં ઔપચારિક નિર્ણય લેવાની પ્રક્રિયા હોય તો પણ, તે લોકો વાસ્તવમાં કેવી રીતે ક્રિયાપ્રતિક્રિયા કરે છે તે પ્રતિબિંબિત કરતું નથી, અને તેઓ ઘણીવાર તેમના નિર્ણયો લેવા માટે તાર્કિક, વ્યવસ્થિત અભિગમ ધરાવતા નથી. મારા સાથીદારે કહ્યું તેમ વિજય પાંડે, લોકો પણ બ્લેક બોક્સ છે.

ઘણી ઓવરલેપિંગ કંપનીઓ અને સંસ્થાઓમાં એક હજાર લોકોને લો, અને સમસ્યા વધુ જટિલ બની જાય છે. અમે એ હકીકત પછી જાણીએ છીએ કે સ્પેસ શટલ પરત ફરવાનું નક્કી કરવામાં આવ્યું હતું, અને નાસામાં વ્યક્તિઓ પાસે એવી માહિતી હતી જેણે તેમને કંઈક ખરાબ થઈ શકે છે તેવું વિચારવાનું કારણ આપ્યું હતું, પરંતુ સિસ્ટમ સામાન્ય રીતે મને આ ખબર ન હતી. NASA પણ તેના અગાઉના શટલને ગુમાવ્યા પછી સમાન ઓડિટમાંથી પસાર થયું હતું, અને છતાં તે ખૂબ જ સમાન કારણોસર બીજું એક ગુમાવ્યું હતું. એવી દલીલ કરવી સરળ છે કે સંસ્થાઓ અને લોકો સ્પષ્ટ, તાર્કિક નિયમોનું પાલન કરે છે જે ચકાસી શકાય છે, સમજી શકાય છે અને બદલી શકાય છે-પરંતુ અનુભવ અન્યથા સાબિત કરે છે. આ "Gosplan માતાનો ભ્રમણા».

હું ઘણી વખત મશીન લર્નિંગની તુલના ડેટાબેઝ સાથે કરું છું, ખાસ કરીને રિલેશનલ - એક નવી મૂળભૂત ટેક્નોલોજી જેણે કોમ્પ્યુટર સાયન્સ અને તેની આસપાસની દુનિયાની ક્ષમતાઓને બદલી નાખી છે, જે દરેક વસ્તુનો ભાગ બની ગઈ છે, જેનો આપણે ખ્યાલ રાખ્યા વિના સતત ઉપયોગ કરીએ છીએ. ડેટાબેઝમાં પણ સમસ્યાઓ હોય છે, અને તે સમાન પ્રકૃતિની હોય છે: સિસ્ટમ ખરાબ ધારણાઓ અથવા ખરાબ ડેટા પર બનેલી હોઈ શકે છે, પરંતુ તે ધ્યાનમાં લેવું મુશ્કેલ હશે, અને સિસ્ટમનો ઉપયોગ કરતા લોકો પ્રશ્નો પૂછ્યા વિના જે કહેશે તે કરશે. ટેક્સ એવા લોકો વિશે ઘણા જૂના જોક્સ છે જેમણે એકવાર તમારા નામની જોડણી ખોટી કરી હતી, અને તેમને ભૂલ સુધારવા માટે સમજાવવું ખરેખર તમારું નામ બદલવા કરતાં વધુ મુશ્કેલ છે. આ વિશે વિચારવાની ઘણી રીતો છે, પરંતુ તે સ્પષ્ટ નથી કે કયું સારું છે: એસક્યુએલમાં તકનીકી સમસ્યા તરીકે, અથવા ઓરેકલ રિલીઝમાં બગ તરીકે, અથવા અમલદારશાહી સંસ્થાઓની નિષ્ફળતા તરીકે? એવી પ્રક્રિયામાં ભૂલ શોધવી કેટલી મુશ્કેલ છે જેના કારણે સિસ્ટમમાં ટાઇપો કરેક્શન ફીચર નથી? શું લોકો ફરિયાદ કરવાનું શરૂ કરે તે પહેલાં આ શોધી શકાયું હોત?

જ્યારે નેવિગેટરમાં જૂના ડેટાને કારણે ડ્રાઇવરો નદીઓમાં વાહન ચલાવે છે ત્યારે વાર્તાઓ દ્વારા આ સમસ્યા વધુ સરળ રીતે દર્શાવવામાં આવી છે. ઠીક છે, નકશાને સતત અપડેટ કરવાની જરૂર છે. પરંતુ તમારી કાર સમુદ્રમાં ઉડી જવા માટે ટોમટોમને કેટલો દોષ છે?

હું આ કહેવાનું કારણ એ છે કે હા, મશીન લર્નિંગ પૂર્વગ્રહ સમસ્યાઓ ઊભી કરશે. પરંતુ આ સમસ્યાઓનો આપણે ભૂતકાળમાં સામનો કર્યો હોય તેવી જ હશે, અને ભૂતકાળમાં આપણે સક્ષમ હતા તે જ રીતે તેઓને ધ્યાનમાં લઈ શકાય છે અને ઉકેલી શકાય છે (અથવા નહીં). તેથી, એક દૃશ્ય કે જેમાં AI પૂર્વગ્રહ નુકસાનનું કારણ બને છે તે મોટી સંસ્થામાં કામ કરતા વરિષ્ઠ સંશોધકોને થવાની શક્યતા નથી. મોટે ભાગે, કેટલાક નજીવા ટેક્નોલોજી કોન્ટ્રાક્ટર અથવા સોફ્ટવેર વિક્રેતા ઓપન સોર્સ ઘટકો, પુસ્તકાલયો અને સાધનોનો ઉપયોગ કરીને તેમના ઘૂંટણ પર કંઈક લખશે જે તેઓ સમજી શકતા નથી. અને કમનસીબ ક્લાયંટ પ્રોડક્ટ વર્ણનમાં "કૃત્રિમ બુદ્ધિ" વાક્ય ખરીદશે અને, કોઈપણ પ્રશ્નો પૂછ્યા વિના, તેના ઓછા પગારવાળા કર્મચારીઓને તેનું વિતરણ કરશે, તેમને AI જે કહે છે તે કરવા આદેશ આપશે. ડેટાબેઝ સાથે આવું જ થયું છે. આ કોઈ આર્ટિફિશિયલ ઈન્ટેલિજન્સ સમસ્યા નથી, અથવા સોફ્ટવેરની સમસ્યા પણ નથી. આ માનવ પરિબળ છે.

નિષ્કર્ષ

મશીન લર્નિંગ તમે કૂતરાને શીખવી શકો તે કંઈપણ કરી શકે છે - પરંતુ તમે ક્યારેય ખાતરી કરી શકતા નથી કે તમે કૂતરાને શું શીખવ્યું છે.

મને ઘણીવાર એવું લાગે છે કે "કૃત્રિમ બુદ્ધિ" શબ્દ ફક્ત આના જેવી વાતચીતમાં જ આવે છે. આ શબ્દ ખોટી છાપ આપે છે કે અમે ખરેખર તેને બનાવ્યું છે - આ બુદ્ધિ. કે અમે HAL9000 અથવા સ્કાયનેટ તરફ જઈ રહ્યા છીએ - જે ખરેખર છે સમજે છે. પણ ના. આ માત્ર મશીનો છે, અને તેમની સરખામણી વોશિંગ મશીન સાથે કરવી વધુ સચોટ છે. તે માણસ કરતાં વધુ સારી રીતે લોન્ડ્રી કરે છે, પરંતુ જો તમે લોન્ડ્રીને બદલે તેનામાં વાનગીઓ નાખશો, તો તે... તેને ધોઈ નાખશે. વાનગીઓ પણ સાફ થઈ જશે. પરંતુ આ તમારી અપેક્ષા મુજબ થશે નહીં, અને આ બનશે નહીં કારણ કે સિસ્ટમમાં વાનગીઓ અંગે કોઈ પૂર્વગ્રહો છે. વૉશિંગ મશીનને ખબર નથી કે વાનગીઓ શું છે અથવા કપડાં શું છે - તે માત્ર ઓટોમેશનનું એક ઉદાહરણ છે, જે પ્રક્રિયાઓ પહેલા કેવી રીતે સ્વચાલિત કરવામાં આવી હતી તેનાથી કલ્પનાત્મક રીતે અલગ નથી.

ભલે આપણે કાર, એરોપ્લેન અથવા ડેટાબેસેસ વિશે વાત કરી રહ્યા હોઈએ, આ સિસ્ટમો ખૂબ જ શક્તિશાળી અને ખૂબ મર્યાદિત બંને હશે. લોકો આ સિસ્ટમોનો ઉપયોગ કેવી રીતે કરે છે, તેમના ઇરાદા સારા કે ખરાબ છે અને તેઓ કેવી રીતે કાર્ય કરે છે તે તેઓ કેટલી સમજે છે તેના પર તેઓ સંપૂર્ણપણે નિર્ભર રહેશે.

તેથી, એમ કહેવું કે "કૃત્રિમ બુદ્ધિ એ ગણિત છે, તેથી તેમાં પૂર્વગ્રહ હોઈ શકે નહીં" સંપૂર્ણપણે ખોટું છે. પરંતુ તે કહેવું પણ એટલું જ ખોટું છે કે મશીન લર્નિંગ "પ્રકૃતિમાં વ્યક્તિલક્ષી" છે. મશીન લર્નિંગ ડેટામાં પેટર્ન શોધે છે, અને તે કઈ પેટર્ન શોધે છે તે ડેટા પર આધારિત છે, અને ડેટા આપણા પર નિર્ભર છે. જેમ કે આપણે તેમની સાથે શું કરીએ છીએ. મશીન લર્નિંગ કેટલીક વસ્તુઓ આપણા કરતા વધુ સારી રીતે કરે છે - પરંતુ ડોગ્સ, ઉદાહરણ તરીકે, દવાઓ શોધવામાં મનુષ્યો કરતાં વધુ અસરકારક છે, જે સાક્ષી તરીકે તેનો ઉપયોગ કરવાનું અને તેમની જુબાનીના આધારે ચુકાદો આપવાનું કારણ નથી. અને કૂતરા, માર્ગ દ્વારા, કોઈપણ મશીન લર્નિંગ સિસ્ટમ કરતાં વધુ સ્માર્ટ છે.

અનુવાદ: ડાયના લેટ્સકાયા.
સંપાદન: એલેક્સી ઇવાનોવ.
સમુદાય: @PonchikNews.

સોર્સ: www.habr.com