ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ബയസിനെ കുറിച്ച്

tl; dr:

• മെഷീൻ ലേണിംഗ് ഡാറ്റയിലെ പാറ്റേണുകൾക്കായി തിരയുന്നു. എന്നാൽ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന് "പക്ഷപാതപരമായി" കഴിയും-അതായത്, തെറ്റായ പാറ്റേണുകൾ കണ്ടെത്തുക. ഉദാഹരണത്തിന്, ഒരു ഫോട്ടോ അധിഷ്ഠിത ത്വക്ക് കാൻസർ കണ്ടെത്തൽ സംവിധാനം ഒരു ഡോക്ടറുടെ ഓഫീസിൽ എടുത്ത ചിത്രങ്ങൾക്ക് പ്രത്യേക ശ്രദ്ധ നൽകിയേക്കാം. മെഷീൻ ലേണിംഗ് സാധ്യമല്ല മനസിലാക്കാൻ: അതിന്റെ അൽഗോരിതങ്ങൾ അക്കങ്ങളിലെ പാറ്റേണുകൾ മാത്രമേ തിരിച്ചറിയൂ, ഡാറ്റ പ്രതിനിധീകരിക്കുന്നില്ലെങ്കിൽ, അതിന്റെ പ്രോസസ്സിംഗിന്റെ ഫലവും. മെഷീൻ ലേണിംഗിന്റെ മെക്കാനിക്സ് കാരണം അത്തരം ബഗുകൾ പിടിക്കുന്നത് ബുദ്ധിമുട്ടാണ്.
• ഏറ്റവും വ്യക്തവും ഭയാനകവുമായ പ്രശ്ന മേഖല മനുഷ്യ വൈവിധ്യമാണ്. ശേഖരണ ഘട്ടത്തിൽ പോലും ആളുകളെക്കുറിച്ചുള്ള ഡാറ്റ വസ്തുനിഷ്ഠത നഷ്‌ടപ്പെടുന്നതിന് നിരവധി കാരണങ്ങളുണ്ട്. എന്നാൽ ഈ പ്രശ്നം ആളുകളെ മാത്രമേ ബാധിക്കുകയുള്ളൂവെന്ന് കരുതരുത്: ഒരു വെയർഹൗസിലോ പരാജയപ്പെട്ട ഗ്യാസ് ടർബൈനിലോ വെള്ളപ്പൊക്കം കണ്ടെത്താൻ ശ്രമിക്കുമ്പോൾ അതേ ബുദ്ധിമുട്ടുകൾ ഉണ്ടാകുന്നു. ചില സിസ്റ്റങ്ങൾ ചർമ്മത്തിന്റെ നിറത്തോട് പക്ഷപാതം കാണിക്കും, മറ്റുള്ളവ സീമെൻസ് സെൻസറുകളോട് പക്ഷപാതം കാണിക്കും.
• ഇത്തരം പ്രശ്നങ്ങൾ മെഷീൻ ലേണിംഗിന് പുതിയതല്ല, മാത്രമല്ല അവ അതിൽ നിന്ന് വളരെ അകലെയുമാണ്. ഏതൊരു സങ്കീർണ്ണ ഘടനയിലും തെറ്റായ അനുമാനങ്ങൾ നിർമ്മിക്കപ്പെടുന്നു, ഒരു പ്രത്യേക തീരുമാനം എടുത്തത് എന്തുകൊണ്ടാണെന്ന് മനസ്സിലാക്കുന്നത് എല്ലായ്പ്പോഴും ബുദ്ധിമുട്ടാണ്. ഞങ്ങൾ ഇതിനെ സമഗ്രമായ രീതിയിൽ ചെറുക്കേണ്ടതുണ്ട്: പരിശോധനയ്‌ക്കായി ഉപകരണങ്ങളും പ്രക്രിയകളും സൃഷ്‌ടിക്കുക - കൂടാതെ AI ശുപാർശകൾ അന്ധമായി പിന്തുടരാതിരിക്കാൻ ഉപയോക്താക്കളെ ബോധവൽക്കരിക്കുക. മെഷീൻ ലേണിംഗ് ചില കാര്യങ്ങൾ നമുക്ക് ചെയ്യാൻ കഴിയുന്നതിനേക്കാൾ മെച്ചമായി ചെയ്യുന്നു - പക്ഷേ, ഉദാഹരണത്തിന്, നായ്ക്കൾ മയക്കുമരുന്ന് കണ്ടുപിടിക്കുന്നതിൽ മനുഷ്യരേക്കാൾ വളരെ ഫലപ്രദമാണ്, ഇത് അവരെ സാക്ഷികളായി ഉപയോഗിക്കാനും അവരുടെ സാക്ഷ്യത്തെ അടിസ്ഥാനമാക്കി ന്യായവിധി നടത്താനും ഒരു കാരണമല്ല. ഏത് മെഷീൻ ലേണിംഗ് സിസ്റ്റത്തേക്കാളും വളരെ മിടുക്കരാണ് നായ്ക്കൾ.

ഇന്നത്തെ ഏറ്റവും പ്രധാനപ്പെട്ട അടിസ്ഥാന സാങ്കേതിക പ്രവണതകളിലൊന്നാണ് മെഷീൻ ലേണിംഗ്. അടുത്ത ദശകത്തിൽ നമുക്ക് ചുറ്റുമുള്ള ലോകത്തെ മാറ്റിമറിക്കുന്ന സാങ്കേതികവിദ്യയുടെ പ്രധാന മാർഗങ്ങളിലൊന്നാണിത്. ഈ മാറ്റങ്ങളുടെ ചില വശങ്ങൾ ആശങ്കയ്ക്ക് കാരണമാകുന്നു. ഉദാഹരണത്തിന്, തൊഴിൽ വിപണിയിൽ മെഷീൻ ലേണിംഗിന്റെ സാധ്യതയുള്ള ആഘാതം, അല്ലെങ്കിൽ അനീതിപരമായ ആവശ്യങ്ങൾക്കായി അതിന്റെ ഉപയോഗം (ഉദാഹരണത്തിന്, സ്വേച്ഛാധിപത്യ ഭരണകൂടങ്ങൾ). ഈ പോസ്റ്റ് അഭിസംബോധന ചെയ്യുന്ന മറ്റൊരു പ്രശ്നമുണ്ട്: കൃത്രിമബുദ്ധി പക്ഷപാതം.

ഇതൊരു എളുപ്പമുള്ള കഥയല്ല.

ഗൂഗിളിന്റെ AI-ന് പൂച്ചകളെ കണ്ടെത്താൻ കഴിയും. 2012-ലെ ഈ വാർത്ത അന്ന് ഒരു പ്രത്യേകതയായിരുന്നു.

എന്താണ് "AI ബയസ്"?

"റോ ഡാറ്റ" ഒരു ഓക്സിമോറോണും മോശം ആശയവുമാണ്; ഡാറ്റ നന്നായി ശ്രദ്ധാപൂർവ്വം തയ്യാറാക്കണം. - ജെഫ്രി ബോക്കർ

2013-ന് മുമ്പ് എവിടെയോ, ഫോട്ടോഗ്രാഫുകളിൽ പൂച്ചകളെ തിരിച്ചറിയുന്ന ഒരു സംവിധാനം ഉണ്ടാക്കുന്നതിന്, നിങ്ങൾ യുക്തിസഹമായ ഘട്ടങ്ങൾ വിവരിക്കേണ്ടതുണ്ട്. ഒരു ചിത്രത്തിൽ കോണുകൾ എങ്ങനെ കണ്ടെത്താം, കണ്ണുകൾ തിരിച്ചറിയാം, രോമങ്ങൾക്കുള്ള ടെക്സ്ചറുകൾ വിശകലനം ചെയ്യുക, കൈകാലുകൾ എണ്ണുക തുടങ്ങിയവ. തുടർന്ന് എല്ലാ ഘടകങ്ങളും ഒരുമിച്ച് ചേർത്ത് അത് ശരിക്കും പ്രവർത്തിക്കുന്നില്ലെന്ന് കണ്ടെത്തുക. ഒരു മെക്കാനിക്കൽ കുതിരയെപ്പോലെ - സൈദ്ധാന്തികമായി ഇത് നിർമ്മിക്കാം, പക്ഷേ പ്രായോഗികമായി ഇത് വിവരിക്കാൻ വളരെ സങ്കീർണ്ണമാണ്. അന്തിമഫലം നൂറുകണക്കിന് (അല്ലെങ്കിൽ ആയിരക്കണക്കിന്) കൈയക്ഷര നിയമങ്ങളാണ്. ഒരു വർക്കിംഗ് മോഡലും ഇല്ല.

മെഷീൻ ലേണിംഗിന്റെ ആവിർഭാവത്തോടെ, ഒരു പ്രത്യേക വസ്തുവിനെ തിരിച്ചറിയുന്നതിനുള്ള "മാനുവൽ" നിയമങ്ങൾ ഉപയോഗിക്കുന്നത് ഞങ്ങൾ നിർത്തി. പകരം, ഞങ്ങൾ "ഇത്", X, "മറ്റുള്ളവ" എന്നിവയുടെ ആയിരം സാമ്പിളുകൾ, Y എന്നിവയുടെ ആയിരം സാമ്പിളുകൾ എടുക്കുകയും അവയുടെ സ്റ്റാറ്റിസ്റ്റിക്കൽ വിശകലനത്തെ അടിസ്ഥാനമാക്കി കമ്പ്യൂട്ടർ ഒരു മോഡൽ നിർമ്മിക്കുകയും ചെയ്യുന്നു. ഞങ്ങൾ ഈ മോഡലിന് കുറച്ച് സാമ്പിൾ ഡാറ്റ നൽകുന്നു, ഇത് സെറ്റുകളിൽ ഒന്നിന് അനുയോജ്യമാണോ എന്ന് കുറച്ച് കൃത്യതയോടെ നിർണ്ണയിക്കുന്നു. മെഷീൻ ലേണിംഗ് ഒരു മനുഷ്യൻ എഴുതുന്നതിനേക്കാൾ ഡാറ്റയിൽ നിന്ന് ഒരു മാതൃക സൃഷ്ടിക്കുന്നു. ഫലങ്ങൾ ശ്രദ്ധേയമാണ്, പ്രത്യേകിച്ച് ഇമേജ്, പാറ്റേൺ തിരിച്ചറിയൽ മേഖലയിൽ, അതുകൊണ്ടാണ് മുഴുവൻ സാങ്കേതിക വ്യവസായവും ഇപ്പോൾ മെഷീൻ ലേണിംഗിലേക്ക് (ML) നീങ്ങുന്നത്.

എന്നാൽ അത് അത്ര ലളിതമല്ല. യഥാർത്ഥ ലോകത്ത്, നിങ്ങളുടെ ആയിരക്കണക്കിന് X അല്ലെങ്കിൽ Y ഉദാഹരണങ്ങളിൽ A, B, J, L, O, R, കൂടാതെ L എന്നിവയും അടങ്ങിയിരിക്കുന്നു. ഇവ തുല്യമായി വിതരണം ചെയ്യപ്പെടണമെന്നില്ല, ചിലത് ഇടയ്ക്കിടെ സംഭവിക്കുകയും സിസ്റ്റം കൂടുതൽ പണം നൽകുകയും ചെയ്യും നിങ്ങൾക്ക് താൽപ്പര്യമുള്ള വസ്തുക്കളേക്കാൾ അവയിലേക്ക് ശ്രദ്ധിക്കുക.

ഇത് പ്രായോഗികമായി എന്താണ് അർത്ഥമാക്കുന്നത്? ഇമേജ് തിരിച്ചറിയൽ സംവിധാനങ്ങൾ എപ്പോൾ എന്നതാണ് എന്റെ പ്രിയപ്പെട്ട ഉദാഹരണം ഒരു പുൽമേടിലേക്ക് നോക്കി, "ആടുകൾ" എന്ന് പറയുക.. എന്തുകൊണ്ടെന്ന് വ്യക്തമാണ്: "ആടുകളുടെ" ഭൂരിഭാഗം ഫോട്ടോഗ്രാഫുകളും അവർ താമസിക്കുന്ന പുൽമേടുകളിൽ നിന്നാണ് എടുത്തത്, ഈ ചിത്രങ്ങളിൽ പുല്ല് ചെറിയ വെളുത്ത ഫ്ലഫുകളേക്കാൾ കൂടുതൽ ഇടം എടുക്കുന്നു, കൂടാതെ സിസ്റ്റം ഏറ്റവും പ്രധാനമായി കണക്കാക്കുന്നത് പുല്ലാണ്. .

കൂടുതൽ ഗുരുതരമായ ഉദാഹരണങ്ങളുണ്ട്. അടുത്തിടെയുള്ള ഒന്ന് ഡ്രാഫ്റ്റ് ഫോട്ടോഗ്രാഫുകളിൽ ചർമ്മ കാൻസർ കണ്ടെത്തുന്നതിന്. രൂപീകരണത്തിന്റെ വലുപ്പം രേഖപ്പെടുത്താൻ ചർമ്മരോഗ വിദഗ്ധർ പലപ്പോഴും ഭരണാധികാരിയെ ചർമ്മ കാൻസറിന്റെ പ്രകടനങ്ങൾക്കൊപ്പം ഫോട്ടോ എടുക്കുന്നതായി ഇത് മാറി. ആരോഗ്യമുള്ള ചർമ്മത്തിന്റെ ഉദാഹരണ ഫോട്ടോഗ്രാഫുകളിൽ ഭരണാധികാരികളില്ല. ഒരു AI സിസ്റ്റത്തെ സംബന്ധിച്ചിടത്തോളം, അത്തരം ഭരണാധികാരികൾ (കൂടുതൽ കൃത്യമായി പറഞ്ഞാൽ, "ഭരണാധികാരി" എന്ന് ഞങ്ങൾ നിർവചിക്കുന്ന പിക്സലുകൾ) ഉദാഹരണങ്ങളുടെ കൂട്ടം തമ്മിലുള്ള വ്യത്യാസങ്ങളിൽ ഒന്നായി മാറിയിരിക്കുന്നു, ചിലപ്പോൾ ചർമ്മത്തിലെ ഒരു ചെറിയ ചുണങ്ങിനെക്കാൾ പ്രധാനമാണ്. അതിനാൽ ത്വക്ക് അർബുദം തിരിച്ചറിയാൻ സൃഷ്ടിച്ച ഒരു സംവിധാനം ചിലപ്പോൾ പകരം ഭരണകർത്താക്കളെ അംഗീകരിക്കുന്നു.

ഇവിടെ പ്രധാന കാര്യം, സിസ്റ്റത്തിന് അത് എന്താണ് നോക്കുന്നത് എന്നതിനെക്കുറിച്ച് സെമാന്റിക് ധാരണയില്ല എന്നതാണ്. ഞങ്ങൾ ഒരു കൂട്ടം പിക്സലുകളിലേക്ക് നോക്കുകയും അവയിൽ ഒരു ചെമ്മരിയാട്, തൊലി അല്ലെങ്കിൽ ഭരണാധികാരികൾ എന്നിവ കാണുകയും ചെയ്യുന്നു, എന്നാൽ സിസ്റ്റം ഒരു സംഖ്യാരേഖ മാത്രമാണ്. അവൾ ത്രിമാന ഇടം കാണുന്നില്ല, വസ്‌തുക്കളോ ഘടനകളോ ആടുകളോ കാണുന്നില്ല. ഡാറ്റയിലെ പാറ്റേണുകൾ അവൾ വെറുതെ കാണുന്നു.

അത്തരം പ്രശ്നങ്ങൾ കണ്ടുപിടിക്കുന്നതിനുള്ള ബുദ്ധിമുട്ട് ന്യൂറൽ നെറ്റ്‌വർക്ക് (നിങ്ങളുടെ മെഷീൻ ലേണിംഗ് സിസ്റ്റം സൃഷ്ടിച്ച മോഡൽ) ആയിരക്കണക്കിന് ലക്ഷക്കണക്കിന് നോഡുകൾ ഉൾക്കൊള്ളുന്നു എന്നതാണ്. ഒരു മോഡൽ പരിശോധിച്ച് അത് എങ്ങനെ തീരുമാനമെടുക്കുന്നുവെന്ന് കാണാൻ എളുപ്പവഴിയില്ല. മെഷീൻ ലേണിംഗ് ഉപയോഗിക്കാതെ തന്നെ എല്ലാ നിയമങ്ങളും സ്വമേധയാ വിവരിക്കാൻ ഈ പ്രക്രിയ ലളിതമാണെന്ന് അർത്ഥമാക്കുന്നു. മെഷീൻ ലേണിംഗ് ഒരു ബ്ലാക്ക് ബോക്സായി മാറിയെന്ന് ആളുകൾ ആശങ്കപ്പെടുന്നു. (എന്തുകൊണ്ടാണ് ഈ താരതമ്യം ഇപ്പോഴും വളരെ കൂടുതലായതെന്ന് ഞാൻ കുറച്ച് കഴിഞ്ഞ് വിശദീകരിക്കും.)

പൊതുവേ, ഇത് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അല്ലെങ്കിൽ മെഷീൻ ലേണിംഗിലെ പക്ഷപാതത്തിന്റെ പ്രശ്നമാണ്: ഡാറ്റയിലെ പാറ്റേണുകൾ കണ്ടെത്തുന്നതിനുള്ള ഒരു സിസ്റ്റം തെറ്റായ പാറ്റേണുകൾ കണ്ടെത്തിയേക്കാം, നിങ്ങൾ അത് ശ്രദ്ധിക്കാനിടയില്ല. ഇത് സാങ്കേതികവിദ്യയുടെ ഒരു അടിസ്ഥാന സ്വഭാവമാണ്, അക്കാദമിയിലും വലിയ ടെക് കമ്പനികളിലും ഇതിനൊപ്പം പ്രവർത്തിക്കുന്ന എല്ലാവർക്കും ഇത് വ്യക്തമാണ്. എന്നാൽ അതിന്റെ അനന്തരഫലങ്ങൾ സങ്കീർണ്ണമാണ്, കൂടാതെ ആ അനന്തരഫലങ്ങൾക്കുള്ള നമ്മുടെ സാധ്യമായ പരിഹാരങ്ങളും.

നമുക്ക് ആദ്യം പരിണതഫലങ്ങളെക്കുറിച്ച് സംസാരിക്കാം.

ധാരാളം അദൃശ്യമായ സിഗ്നലുകളെ അടിസ്ഥാനമാക്കി, ചില വിഭാഗത്തിലുള്ള ആളുകൾക്ക് അനുകൂലമായി ഒരു തിരഞ്ഞെടുപ്പ് നടത്താൻ AI-ക്ക് കഴിയും.

AI ബയസ് സാഹചര്യങ്ങൾ

ഏറ്റവും വ്യക്തമായും ഭയാനകമായും, മനുഷ്യ വൈവിധ്യത്തിന്റെ കാര്യത്തിൽ ഈ പ്രശ്നം സ്വയം പ്രത്യക്ഷപ്പെടാം. അടുത്തിടെ ഒരു കിംവദന്തി ഉണ്ടായിരുന്നുജോലി ഉദ്യോഗാർത്ഥികളുടെ പ്രാരംഭ സ്ക്രീനിംഗിനായി ഒരു മെഷീൻ ലേണിംഗ് സിസ്റ്റം നിർമ്മിക്കാൻ ആമസോൺ ശ്രമിച്ചു. ആമസോൺ തൊഴിലാളികൾക്കിടയിൽ കൂടുതൽ പുരുഷന്മാരുള്ളതിനാൽ, "വിജയകരമായ നിയമനത്തിന്റെ" ഉദാഹരണങ്ങളും പലപ്പോഴും പുരുഷന്മാരാണ്, കൂടാതെ സിസ്റ്റം നിർദ്ദേശിച്ച റെസ്യൂമുകളുടെ തിരഞ്ഞെടുപ്പിൽ കൂടുതൽ പുരുഷന്മാരും ഉണ്ടായിരുന്നു. ആമസോൺ ഇത് ശ്രദ്ധിച്ചു, സിസ്റ്റം ഉൽപ്പാദനത്തിലേക്ക് റിലീസ് ചെയ്തില്ല.

ഈ ഉദാഹരണത്തിലെ ഏറ്റവും പ്രധാനപ്പെട്ട കാര്യം, റെസ്യൂമെയിൽ ലിംഗഭേദം വ്യക്തമാക്കിയിട്ടില്ലെങ്കിലും, ഈ സിസ്റ്റം പുരുഷ അപേക്ഷകർക്ക് അനുകൂലമായി കിംവദന്തികൾ പ്രചരിച്ചിരുന്നു എന്നതാണ്. "നല്ല ജോലിക്കാരുടെ" ഉദാഹരണങ്ങളിൽ സിസ്റ്റം മറ്റ് പാറ്റേണുകൾ കണ്ടു: ഉദാഹരണത്തിന്, സ്ത്രീകൾ നേട്ടങ്ങൾ വിവരിക്കുന്നതിന് പ്രത്യേക വാക്കുകൾ ഉപയോഗിച്ചേക്കാം അല്ലെങ്കിൽ പ്രത്യേക ഹോബികൾ ഉണ്ടായിരിക്കാം. തീർച്ചയായും, സിസ്റ്റത്തിന് "ഹോക്കി" എന്താണെന്നോ "ആളുകൾ" ആരാണെന്നോ "വിജയം" എന്താണെന്നോ അറിയില്ല - ഇത് വാചകത്തിന്റെ സ്ഥിതിവിവര വിശകലനം നടത്തി. എന്നാൽ അവൾ കണ്ട പാറ്റേണുകൾ മിക്കവാറും മനുഷ്യരുടെ ശ്രദ്ധയിൽപ്പെടാതെ പോകും, ​​അവയിൽ ചിലത് (ഉദാഹരണത്തിന്, വ്യത്യസ്ത ലിംഗത്തിലുള്ള ആളുകൾ വിജയത്തെ വ്യത്യസ്തമായി വിവരിക്കുന്നു) അവ നോക്കിയാൽ പോലും നമുക്ക് കാണാൻ ബുദ്ധിമുട്ടായിരിക്കും.

കൂടുതൽ - മോശം. വിളറിയ ചർമ്മത്തിൽ ക്യാൻസർ കണ്ടെത്തുന്നതിൽ വളരെ മികച്ച ഒരു മെഷീൻ ലേണിംഗ് സിസ്റ്റം ഇരുണ്ട ചർമ്മത്തിൽ നന്നായി പ്രവർത്തിക്കില്ല, അല്ലെങ്കിൽ തിരിച്ചും. പക്ഷപാതം കൊണ്ടായിരിക്കണമെന്നില്ല, മറിച്ച് വ്യത്യസ്ത സ്വഭാവസവിശേഷതകൾ തിരഞ്ഞെടുത്ത് വ്യത്യസ്തമായ ചർമ്മത്തിന്റെ നിറത്തിനായി നിങ്ങൾ ഒരു പ്രത്യേക മോഡൽ നിർമ്മിക്കേണ്ടതുണ്ട്. ഇമേജ് തിരിച്ചറിയൽ പോലുള്ള ഇടുങ്ങിയ പ്രദേശത്ത് പോലും മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങൾ പരസ്പരം മാറ്റാനാകില്ല. നിങ്ങൾ ആഗ്രഹിക്കുന്ന കൃത്യത കൈവരിക്കുന്നത് വരെ നിങ്ങൾക്ക് താൽപ്പര്യമുള്ള ഡാറ്റയിലെ സവിശേഷതകളിൽ ഒരു നല്ല ഹാൻഡിൽ ലഭിക്കുന്നതിന്, ചിലപ്പോൾ ട്രയലിലൂടെയും പിശകുകളിലൂടെയും സിസ്റ്റത്തിൽ മാറ്റങ്ങൾ വരുത്തേണ്ടതുണ്ട്. എന്നാൽ നിങ്ങൾ ശ്രദ്ധിച്ചേക്കില്ല, സിസ്റ്റം ഒരു ഗ്രൂപ്പിൽ 98% സമയവും കൃത്യവും മറ്റൊന്നുമായി 91% (മനുഷ്യ വിശകലനത്തേക്കാൾ കൂടുതൽ കൃത്യവുമാണ്).

ഇതുവരെ ഞാൻ പ്രധാനമായും ഉപയോഗിച്ചത് ആളുകളെയും അവരുടെ സ്വഭാവങ്ങളെയും കുറിച്ചുള്ള ഉദാഹരണങ്ങളാണ്. ഈ പ്രശ്നത്തെക്കുറിച്ചുള്ള ചർച്ച പ്രധാനമായും ഈ വിഷയത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു. എന്നാൽ ആളുകളോടുള്ള പക്ഷപാതം പ്രശ്നത്തിന്റെ ഒരു ഭാഗം മാത്രമാണെന്ന് മനസ്സിലാക്കേണ്ടത് പ്രധാനമാണ്. ഞങ്ങൾ ഒരുപാട് കാര്യങ്ങൾക്കായി മെഷീൻ ലേണിംഗ് ഉപയോഗിക്കും, സാമ്പിൾ പിശക് അവയ്‌ക്കെല്ലാം പ്രസക്തമായിരിക്കും. മറുവശത്ത്, നിങ്ങൾ ആളുകളുമായി പ്രവർത്തിക്കുകയാണെങ്കിൽ, ഡാറ്റയിലെ പക്ഷപാതം അവരുമായി ബന്ധപ്പെട്ടിരിക്കില്ല.

ഇത് മനസിലാക്കാൻ, നമുക്ക് സ്കിൻ ക്യാൻസർ ഉദാഹരണത്തിലേക്ക് മടങ്ങാം, കൂടാതെ സിസ്റ്റം പരാജയത്തിനുള്ള മൂന്ന് സാങ്കൽപ്പിക സാധ്യതകൾ പരിഗണിക്കുക.

1. ആളുകളുടെ വൈവിധ്യമാർന്ന വിതരണം: വ്യത്യസ്ത സ്കിൻ ടോണുകളുടെ അസന്തുലിതമായ ഫോട്ടോഗ്രാഫുകൾ, പിഗ്മെന്റേഷൻ കാരണം തെറ്റായ പോസിറ്റീവുകളിലേക്കോ തെറ്റായ നെഗറ്റീവുകളിലേക്കോ നയിക്കുന്നു.
2. സിസ്റ്റം പരിശീലിപ്പിച്ച ഡാറ്റയിൽ ആളുകളുമായി ബന്ധമില്ലാത്തതും രോഗനിർണ്ണയ മൂല്യമില്ലാത്തതുമായ പതിവായി സംഭവിക്കുന്നതും വൈവിധ്യമാർന്നതുമായ ഒരു സവിശേഷത അടങ്ങിയിരിക്കുന്നു: ആടുകളുടെ ഫോട്ടോഗ്രാഫുകളിൽ ത്വക്ക് ക്യാൻസറിന്റെ ഫോട്ടോഗ്രാഫുകളിലോ പുല്ലിന്റെയോ ഒരു ഭരണാധികാരി. ഈ സാഹചര്യത്തിൽ, മനുഷ്യനേത്രം "ഭരണാധികാരി" എന്ന് തിരിച്ചറിയുന്ന എന്തിന്റെയെങ്കിലും ഇമേജിൽ സിസ്റ്റം പിക്സലുകൾ കണ്ടെത്തുകയാണെങ്കിൽ ഫലം വ്യത്യസ്തമായിരിക്കും.
3. ഒരു വ്യക്തിക്ക് നോക്കിയാലും കാണാൻ കഴിയാത്ത ഒരു മൂന്നാം കക്ഷി സ്വഭാവം ഡാറ്റയിൽ അടങ്ങിയിരിക്കുന്നു.

എന്താണ് ഇതിനർത്ഥം? ഡാറ്റ വ്യത്യസ്‌തമായി ആളുകളെ പ്രതിനിധീകരിക്കുന്ന ഒരു മുൻകൂർ അറിവ് ഞങ്ങൾക്കറിയാം, ചുരുങ്ങിയത് അത്തരം ഒഴിവാക്കലുകൾക്കായി നോക്കാൻ ഞങ്ങൾക്ക് പ്ലാൻ ചെയ്യാം. മറ്റൊരു വിധത്തിൽ പറഞ്ഞാൽ, ആളുകളുടെ ഗ്രൂപ്പുകളെക്കുറിച്ചുള്ള ഡാറ്റയിൽ ഇതിനകം ചില പക്ഷപാതങ്ങൾ അടങ്ങിയിട്ടുണ്ടെന്ന് അനുമാനിക്കാൻ ധാരാളം സാമൂഹിക കാരണങ്ങളുണ്ട്. ഭരണാധികാരിയുടെ കൂടെയുള്ള ഫോട്ടോയിൽ നോക്കിയാൽ ഈ ഭരണാധികാരിയെ കാണാം - സാരമില്ല എന്നറിഞ്ഞ്, വ്യവസ്ഥിതിക്ക് ഒന്നുമറിയില്ല എന്ന് മറന്നു കൊണ്ട് നമ്മൾ വെറുതെ അത് അവഗണിച്ചു.

എന്നാൽ നിങ്ങളുടെ അനാരോഗ്യകരമായ ചർമ്മത്തിന്റെ എല്ലാ ഫോട്ടോകളും ഒരു ഓഫീസിൽ ഇൻകാൻഡസെന്റ് ലൈറ്റിന് കീഴിൽ എടുക്കുകയും നിങ്ങളുടെ ആരോഗ്യമുള്ള ചർമ്മം ഫ്ലൂറസെന്റ് ലൈറ്റിന് കീഴിൽ എടുക്കുകയും ചെയ്താലോ? ആരോഗ്യമുള്ള ചർമ്മത്തിന്റെ ഷൂട്ടിംഗ് പൂർത്തിയാക്കിയ ശേഷം, അനാരോഗ്യകരമായ ചർമ്മം ഷൂട്ട് ചെയ്യുന്നതിന് മുമ്പ്, നിങ്ങളുടെ ഫോണിലെ ഓപ്പറേറ്റിംഗ് സിസ്റ്റം അപ്‌ഡേറ്റ് ചെയ്യുകയും ആപ്പിളോ ഗൂഗിളോ ശബ്ദം കുറയ്ക്കുന്നതിനുള്ള അൽഗോരിതം ചെറുതായി മാറ്റുകയും ചെയ്താലോ? അത്തരം സവിശേഷതകൾ എത്രമാത്രം നോക്കിയാലും ഒരു വ്യക്തിക്ക് ഇത് ശ്രദ്ധിക്കാൻ കഴിയില്ല. എന്നാൽ മെഷീൻ-ഉപയോഗ സംവിധാനം ഉടൻ തന്നെ ഇത് കാണുകയും ഉപയോഗിക്കുകയും ചെയ്യും. അവൾക്കൊന്നും അറിയില്ല.

ഇതുവരെ ഞങ്ങൾ വ്യാജമായ പരസ്പര ബന്ധങ്ങളെക്കുറിച്ചാണ് സംസാരിച്ചത്, പക്ഷേ അത് ഡാറ്റ കൃത്യവും ഫലങ്ങൾ ശരിയുമാകാം, എന്നാൽ ധാർമ്മികമോ നിയമപരമോ മാനേജ്മെന്റ് കാരണങ്ങളോ വേണ്ടി അവ ഉപയോഗിക്കാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നില്ല. ഉദാഹരണത്തിന്, ചില അധികാരപരിധികൾ, സ്ത്രീകൾ സുരക്ഷിതരായ ഡ്രൈവർമാരാണെങ്കിലും, അവരുടെ ഇൻഷുറൻസിൽ കിഴിവ് ലഭിക്കാൻ സ്ത്രീകളെ അനുവദിക്കുന്നില്ല. ചരിത്രപരമായ ഡാറ്റ വിശകലനം ചെയ്യുമ്പോൾ സ്ത്രീകളുടെ പേരുകൾക്ക് കുറഞ്ഞ അപകടസാധ്യത നൽകുന്ന ഒരു സംവിധാനം നമുക്ക് എളുപ്പത്തിൽ സങ്കൽപ്പിക്കാൻ കഴിയും. ശരി, തിരഞ്ഞെടുപ്പിൽ നിന്ന് പേരുകൾ നീക്കം ചെയ്യാം. എന്നാൽ ആമസോൺ ഉദാഹരണം ഓർക്കുക: സിസ്റ്റത്തിന് മറ്റ് ഘടകങ്ങളെ അടിസ്ഥാനമാക്കി ലിംഗഭേദം നിർണ്ണയിക്കാൻ കഴിയും (ലിംഗഭേദം എന്താണെന്നോ ഒരു കാർ എന്താണെന്നോ അറിയില്ലെങ്കിലും), കൂടാതെ റെഗുലേറ്റർ നിങ്ങളുടെ താരിഫുകൾ മുൻകാലമായി വിശകലനം ചെയ്യുന്നത് വരെ നിങ്ങൾ ഇത് ശ്രദ്ധിക്കില്ല. ഓഫറും നിരക്കുകളും നിങ്ങൾക്ക് പിഴ ചുമത്തും.

അവസാനമായി, ആളുകളും സാമൂഹിക ഇടപെടലുകളും ഉൾപ്പെടുന്ന പ്രോജക്റ്റുകൾക്ക് മാത്രമേ ഞങ്ങൾ അത്തരം സംവിധാനങ്ങൾ ഉപയോഗിക്കൂ എന്ന് പലപ്പോഴും അനുമാനിക്കപ്പെടുന്നു. ഇത് തെറ്റാണ്. നിങ്ങൾ ഗ്യാസ് ടർബൈനുകൾ നിർമ്മിക്കുകയാണെങ്കിൽ, നിങ്ങളുടെ ഉൽപ്പന്നത്തിൽ (ഓഡിയോ, വീഡിയോ, താപനില, കൂടാതെ മറ്റേതെങ്കിലും സെൻസറുകൾ, ഒരു മെഷീൻ സൃഷ്ടിക്കാൻ വളരെ എളുപ്പത്തിൽ പൊരുത്തപ്പെടുത്താൻ കഴിയുന്ന ഡാറ്റ സൃഷ്ടിക്കുന്ന, പതിനായിരക്കണക്കിന് സെൻസറുകൾ വഴി കൈമാറുന്ന ടെലിമെട്രിയിൽ മെഷീൻ ലേണിംഗ് പ്രയോഗിക്കാൻ നിങ്ങൾ ആഗ്രഹിച്ചേക്കാം. പഠന മാതൃക ). സാങ്കൽപ്പികമായി, നിങ്ങൾക്ക് ഇങ്ങനെ പറയാൻ കഴിയും, “പരാജയപ്പെടുന്നതിന് മുമ്പ് പരാജയപ്പെട്ട ആയിരം ടർബൈനുകളിൽ നിന്നുള്ള ഡാറ്റ ഇതാ, പരാജയപ്പെടാത്ത ആയിരം ടർബൈനുകളിൽ നിന്നുള്ള ഡാറ്റ ഇതാ. അവർ തമ്മിലുള്ള വ്യത്യാസം എന്താണെന്ന് പറയാൻ ഒരു മാതൃക നിർമ്മിക്കുക. ശരി, ഇപ്പോൾ സീമെൻസ് സെൻസറുകൾ 75% മോശം ടർബൈനുകളിലും 12% നല്ലവയിലും (പരാജയങ്ങളുമായി ബന്ധമില്ല) ഇൻസ്റ്റാൾ ചെയ്തിട്ടുണ്ടെന്ന് സങ്കൽപ്പിക്കുക. സീമെൻസ് സെൻസറുകളുള്ള ടർബൈനുകൾ കണ്ടെത്തുന്നതിന് സിസ്റ്റം ഒരു മാതൃക നിർമ്മിക്കും. ശ്ശോ!

ചിത്രം - Moritz Hardt, UC Berkeley

AI ബയസ് കൈകാര്യം ചെയ്യുന്നു

അതിന് നമുക്ക് എന്ത് ചെയ്യാൻ കഴിയും? നിങ്ങൾക്ക് മൂന്ന് കോണുകളിൽ നിന്ന് പ്രശ്നത്തെ സമീപിക്കാം:

1. സിസ്റ്റത്തെ പരിശീലിപ്പിക്കുന്നതിനുള്ള ഡാറ്റ ശേഖരിക്കുന്നതിലും കൈകാര്യം ചെയ്യുന്നതിലും രീതിശാസ്ത്രപരമായ കാഠിന്യം.
2. മോഡൽ സ്വഭാവം വിശകലനം ചെയ്യുന്നതിനും രോഗനിർണ്ണയത്തിനുമുള്ള സാങ്കേതിക ഉപകരണങ്ങൾ.
3. മെഷീൻ ലേണിംഗ് ഉൽപ്പന്നങ്ങളിൽ നടപ്പിലാക്കുമ്പോൾ പരിശീലിപ്പിക്കുക, പഠിപ്പിക്കുക, ശ്രദ്ധിക്കുക.

മോളിയറുടെ "ദ ബൂർഷ്വാ ഇൻ ദ നോബിലിറ്റി" എന്ന പുസ്തകത്തിൽ ഒരു തമാശയുണ്ട്: സാഹിത്യത്തെ ഗദ്യമായും കവിതയായും വിഭജിച്ചിരിക്കുന്നുവെന്ന് ഒരാളോട് പറയപ്പെട്ടു, അവൻ അറിയാതെ തന്റെ ജീവിതകാലം മുഴുവൻ ഗദ്യത്തിൽ സംസാരിച്ചുവെന്ന് കണ്ടെത്തിയതിൽ അദ്ദേഹം സന്തോഷിച്ചു. ഇന്ന് സ്ഥിതിവിവരക്കണക്കുകൾക്ക് ഇങ്ങനെയാണ് തോന്നുന്നത്: അത് മനസ്സിലാക്കാതെ, അവർ തങ്ങളുടെ കരിയർ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനും സാമ്പിൾ പിശകിനും വേണ്ടി സമർപ്പിച്ചിരിക്കുന്നു. സാമ്പിൾ പിശകിനായി തിരയുന്നതും അതിനെക്കുറിച്ച് വിഷമിക്കുന്നതും ഒരു പുതിയ പ്രശ്‌നമല്ല, അതിന്റെ പരിഹാരത്തെ ഞങ്ങൾ വ്യവസ്ഥാപിതമായി സമീപിക്കേണ്ടതുണ്ട്. മുകളിൽ സൂചിപ്പിച്ചതുപോലെ, ചില സന്ദർഭങ്ങളിൽ ആളുകളുടെ ഡാറ്റയുമായി ബന്ധപ്പെട്ട പ്രശ്നങ്ങൾ പഠിച്ചുകൊണ്ട് ഇത് ചെയ്യാൻ എളുപ്പമാണ്. വ്യത്യസ്‌ത ജനവിഭാഗങ്ങളുമായി ബന്ധപ്പെട്ട് ഞങ്ങൾക്ക് മുൻവിധികളുണ്ടാകാമെന്ന് ഞങ്ങൾ മുൻകൂട്ടി കരുതുന്നു, എന്നാൽ സീമെൻസ് സെൻസറുകളെക്കുറിച്ചുള്ള മുൻവിധി സങ്കൽപ്പിക്കാൻ പോലും ഞങ്ങൾക്ക് ബുദ്ധിമുട്ടാണ്.

ഇതിലെല്ലാം പുതിയ കാര്യം, തീർച്ചയായും, ആളുകൾ ഇനി നേരിട്ട് സ്ഥിതിവിവര വിശകലനം നടത്തില്ല എന്നതാണ്. മനസിലാക്കാൻ പ്രയാസമുള്ള വലിയ സങ്കീർണ്ണമായ മോഡലുകൾ സൃഷ്ടിക്കുന്ന യന്ത്രങ്ങളാണ് ഇത് നടപ്പിലാക്കുന്നത്. പക്ഷപാതത്തിന്റെ പ്രശ്നത്തിന്റെ പ്രധാന വശങ്ങളിലൊന്നാണ് സുതാര്യതയുടെ പ്രശ്നം. സിസ്റ്റം കേവലം പക്ഷപാതപരമല്ലെന്നും അതിന്റെ പക്ഷപാതം കണ്ടെത്താനുള്ള മാർഗമില്ലെന്നും ഞങ്ങൾ ഭയപ്പെടുന്നു, കൂടാതെ മെഷീൻ ലേണിംഗ് മറ്റ് തരത്തിലുള്ള ഓട്ടോമേഷനിൽ നിന്ന് വ്യത്യസ്തമാണ്, അവ പരിശോധിക്കാൻ കഴിയുന്ന വ്യക്തമായ ലോജിക്കൽ ഘട്ടങ്ങൾ ഉൾക്കൊള്ളുന്നു.

ഇവിടെ രണ്ട് പ്രശ്നങ്ങളുണ്ട്. മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങളുടെ ഏതെങ്കിലും തരത്തിലുള്ള ഓഡിറ്റ് നടത്താൻ ഞങ്ങൾക്ക് ഇപ്പോഴും കഴിഞ്ഞേക്കും. മറ്റേതെങ്കിലും സിസ്റ്റം ഓഡിറ്റ് ചെയ്യുന്നത് യഥാർത്ഥത്തിൽ എളുപ്പമല്ല.

ഒന്നാമതായി, മെഷീൻ ലേണിംഗ് മേഖലയിലെ ആധുനിക ഗവേഷണത്തിന്റെ ദിശകളിലൊന്ന് മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങളുടെ പ്രധാന പ്രവർത്തനം തിരിച്ചറിയുന്നതിനുള്ള രീതികൾക്കായുള്ള തിരയലാണ്. അതായത്, മെഷീൻ ലേണിംഗ് (ഇപ്പോഴത്തെ അവസ്ഥയിൽ) ശാസ്ത്രത്തിന്റെ ഒരു പുതിയ മേഖലയാണ്, അത് പെട്ടെന്ന് മാറിക്കൊണ്ടിരിക്കുന്നു, അതിനാൽ ഇന്ന് അസാധ്യമായ കാര്യങ്ങൾ ഉടൻ യാഥാർത്ഥ്യമാകുമെന്ന് കരുതരുത്. പദ്ധതി ഒപെനൈ - ഇതിന്റെ രസകരമായ ഒരു ഉദാഹരണം.

രണ്ടാമതായി, നിലവിലുള്ള സിസ്റ്റങ്ങളുടെയോ ഓർഗനൈസേഷനുകളുടെയോ തീരുമാനമെടുക്കൽ പ്രക്രിയ നിങ്ങൾക്ക് പരിശോധിക്കാനും മനസ്സിലാക്കാനും കഴിയുമെന്ന ആശയം സിദ്ധാന്തത്തിൽ നല്ലതാണ്, എന്നാൽ പ്രായോഗികമായി അങ്ങനെയാണ്. ഒരു വലിയ ഓർഗനൈസേഷനിൽ എങ്ങനെയാണ് തീരുമാനങ്ങൾ എടുക്കുന്നതെന്ന് മനസ്സിലാക്കുന്നത് എളുപ്പമല്ല. ഒരു ഔപചാരികമായ തീരുമാനമെടുക്കൽ പ്രക്രിയയുണ്ടെങ്കിൽപ്പോലും, ആളുകൾ യഥാർത്ഥത്തിൽ എങ്ങനെ ഇടപഴകുന്നു എന്നതിനെ അത് പ്രതിഫലിപ്പിക്കുന്നില്ല, മാത്രമല്ല അവരുടെ തീരുമാനങ്ങൾ എടുക്കുന്നതിനുള്ള യുക്തിസഹവും ചിട്ടയായതുമായ സമീപനം അവർക്കില്ല. എന്റെ സഹപ്രവർത്തകൻ പറഞ്ഞതുപോലെ വിജയ് പാണ്ഡെ, ആളുകളും ബ്ലാക്ക് ബോക്സുകളാണ്.

ഓവർലാപ്പുചെയ്യുന്ന നിരവധി കമ്പനികളിലും സ്ഥാപനങ്ങളിലും ആയിരം ആളുകളെ എടുക്കുക, പ്രശ്നം കൂടുതൽ സങ്കീർണ്ണമാകും. തിരികെ വരുമ്പോൾ സ്‌പേസ് ഷട്ടിൽ തകരാൻ വിധിക്കപ്പെട്ടതാണെന്നും നാസയിലെ വ്യക്തികൾക്ക് എന്തെങ്കിലും മോശം സംഭവിക്കുമെന്ന് ചിന്തിക്കാൻ കാരണമായ വിവരങ്ങളുണ്ടെന്നും ഞങ്ങൾക്കറിയാം, പക്ഷേ സിസ്റ്റം പൊതുവേ ഇത് ഞാൻ അറിഞ്ഞിരുന്നില്ല. നാസ അതിന്റെ മുൻ ഷട്ടിൽ നഷ്ടപ്പെട്ടതിന് ശേഷം സമാനമായ ഒരു ഓഡിറ്റിലൂടെ കടന്നുപോയി, എന്നിട്ടും സമാനമായ കാരണത്താൽ മറ്റൊന്ന് നഷ്‌ടപ്പെട്ടു. ഓർഗനൈസേഷനുകളും ആളുകളും വ്യക്തവും യുക്തിസഹവുമായ നിയമങ്ങൾ പാലിക്കുന്നുണ്ടെന്ന് വാദിക്കുന്നത് എളുപ്പമാണ്, അത് പരിശോധിക്കാനും മനസ്സിലാക്കാനും മാറ്റാനും കഴിയും - എന്നാൽ അനുഭവം മറിച്ചാണ് തെളിയിക്കുന്നത്. ഈ "ഗോസ്പ്ലാനിന്റെ വ്യാമോഹം".

ഞാൻ പലപ്പോഴും മെഷീൻ ലേണിംഗിനെ ഡാറ്റാബേസുകളുമായി താരതമ്യം ചെയ്യുന്നു, പ്രത്യേകിച്ച് റിലേഷണൽ - കമ്പ്യൂട്ടർ സയൻസിന്റെയും ചുറ്റുമുള്ള ലോകത്തിന്റെയും കഴിവുകളെ മാറ്റിമറിച്ച ഒരു പുതിയ അടിസ്ഥാന സാങ്കേതികവിദ്യ, അത് എല്ലാറ്റിന്റെയും ഭാഗമായിത്തീർന്നിരിക്കുന്നു, അത് നമ്മൾ അറിയാതെ തന്നെ നിരന്തരം ഉപയോഗിക്കുന്നു. ഡാറ്റാബേസുകളിലും പ്രശ്‌നങ്ങളുണ്ട്, അവ സമാന സ്വഭാവമുള്ളവയാണ്: സിസ്റ്റം മോശം അനുമാനങ്ങളിലോ മോശം ഡാറ്റയിലോ നിർമ്മിച്ചതാകാം, പക്ഷേ ഇത് ശ്രദ്ധിക്കുന്നത് ബുദ്ധിമുട്ടായിരിക്കും, കൂടാതെ സിസ്റ്റം ഉപയോഗിക്കുന്ന ആളുകൾ ചോദ്യങ്ങൾ ചോദിക്കാതെ തന്നെ അവരോട് പറയുന്ന കാര്യങ്ങൾ ചെയ്യും. ഒരിക്കൽ നിങ്ങളുടെ പേര് തെറ്റായി എഴുതിയ നികുതി ആളുകളെ കുറിച്ച് പഴയ തമാശകൾ ധാരാളം ഉണ്ട്, തെറ്റ് തിരുത്താൻ അവരെ ബോധ്യപ്പെടുത്തുന്നത് യഥാർത്ഥത്തിൽ നിങ്ങളുടെ പേര് മാറ്റുന്നതിനേക്കാൾ വളരെ ബുദ്ധിമുട്ടാണ്. ഇതിനെക്കുറിച്ച് ചിന്തിക്കാൻ നിരവധി മാർഗങ്ങളുണ്ട്, എന്നാൽ ഏതാണ് മികച്ചതെന്ന് വ്യക്തമല്ല: SQL-ലെ സാങ്കേതിക പ്രശ്‌നമായോ, ഒറാക്കിൾ റിലീസിലെ ബഗ് എന്ന നിലയിലോ, അതോ ബ്യൂറോക്രാറ്റിക് സ്ഥാപനങ്ങളുടെ പരാജയമായോ? സിസ്റ്റത്തിന് അക്ഷരത്തെറ്റ് തിരുത്തൽ ഫീച്ചർ ഇല്ലാത്ത ഒരു പ്രക്രിയയിൽ ഒരു ബഗ് കണ്ടെത്തുന്നത് എത്ര ബുദ്ധിമുട്ടാണ്? ആളുകൾ പരാതിപ്പെടുന്നതിന് മുമ്പ് ഇത് കണ്ടെത്താനാകുമോ?

നാവിഗേറ്ററിലെ കാലഹരണപ്പെട്ട ഡാറ്റ കാരണം ഡ്രൈവർമാർ നദികളിലേക്ക് വാഹനമോടിക്കുമ്പോൾ ഈ പ്രശ്നം കഥകളിലൂടെ കൂടുതൽ ലളിതമായി ചിത്രീകരിച്ചിരിക്കുന്നു. ശരി, മാപ്പുകൾ നിരന്തരം അപ്‌ഡേറ്റ് ചെയ്യേണ്ടതുണ്ട്. എന്നാൽ നിങ്ങളുടെ കാർ കടലിൽ തകർന്നതിന് ടോംടോം എത്രമാത്രം കുറ്റപ്പെടുത്തണം?

ഞാൻ ഇത് പറയാൻ കാരണം അതെ, മെഷീൻ ലേണിംഗ് ബയസ് പ്രശ്നങ്ങൾ സൃഷ്ടിക്കും എന്നതാണ്. എന്നാൽ ഈ പ്രശ്നങ്ങൾ നമ്മൾ മുൻകാലങ്ങളിൽ അഭിമുഖീകരിച്ചതിന് സമാനമായിരിക്കും, അവ മുൻകാലങ്ങളിൽ നമുക്ക് സാധ്യമായത് പോലെ തന്നെ ശ്രദ്ധിക്കുകയും പരിഹരിക്കുകയും ചെയ്യാം (അല്ലെങ്കിൽ ഇല്ല). അതിനാൽ, AI പക്ഷപാതം ദോഷം വരുത്തുന്ന ഒരു സാഹചര്യം ഒരു വലിയ സ്ഥാപനത്തിൽ പ്രവർത്തിക്കുന്ന മുതിർന്ന ഗവേഷകർക്ക് സംഭവിക്കാൻ സാധ്യതയില്ല. മിക്കവാറും, ചില നിസ്സാര സാങ്കേതിക കരാറുകാരോ സോഫ്‌റ്റ്‌വെയർ വെണ്ടർമാരോ അവർക്ക് മനസ്സിലാകാത്ത ഓപ്പൺ സോഴ്‌സ് ഘടകങ്ങളും ലൈബ്രറികളും ടൂളുകളും ഉപയോഗിച്ച് മുട്ടുകുത്തി എന്തെങ്കിലും എഴുതും. നിർഭാഗ്യവാനായ ക്ലയന്റ് ഉൽപ്പന്ന വിവരണത്തിൽ "ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ്" എന്ന വാചകം വാങ്ങുകയും, ചോദ്യങ്ങളൊന്നും ചോദിക്കാതെ, അത് തന്റെ കുറഞ്ഞ ശമ്പളമുള്ള ജീവനക്കാർക്ക് വിതരണം ചെയ്യുകയും, AI പറയുന്നത് ചെയ്യാൻ അവരോട് കൽപ്പിക്കുകയും ചെയ്യും. ഡാറ്റാബേസുകളുടെ കാര്യത്തിലും ഇതുതന്നെയാണ് സംഭവിച്ചത്. ഇതൊരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്രശ്‌നമോ സോഫ്റ്റ്‌വെയർ പ്രശ്‌നമോ അല്ല. ഇതാണ് മാനുഷിക ഘടകം.

തീരുമാനം

നിങ്ങൾക്ക് ഒരു നായയെ പഠിപ്പിക്കാൻ കഴിയുന്ന എന്തും മെഷീൻ ലേണിംഗിന് ചെയ്യാൻ കഴിയും - എന്നാൽ നിങ്ങൾ നായയെ കൃത്യമായി എന്താണ് പഠിപ്പിച്ചതെന്ന് നിങ്ങൾക്ക് ഒരിക്കലും ഉറപ്പിക്കാനാവില്ല.

"ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ്" എന്ന പദം ഇതുപോലുള്ള സംഭാഷണങ്ങളിൽ മാത്രമേ ഉണ്ടാകൂ എന്ന് എനിക്ക് പലപ്പോഴും തോന്നാറുണ്ട്. ഈ പദം യഥാർത്ഥത്തിൽ ഞങ്ങൾ സൃഷ്ടിച്ചുവെന്ന തെറ്റായ ധാരണ നൽകുന്നു - ഈ ബുദ്ധി. ഞങ്ങൾ HAL9000-ലേക്കോ സ്‌കൈനെറ്റിലേക്കോ ഉള്ള യാത്രയിലാണ് - യഥാർത്ഥത്തിൽ അത് മനസ്സിലാക്കുന്നു. പക്ഷെ ഇല്ല. ഇവ വെറും യന്ത്രങ്ങൾ മാത്രമാണ്, അവയെ വാഷിംഗ് മെഷീനുമായി താരതമ്യം ചെയ്യുന്നത് കൂടുതൽ കൃത്യമാണ്. അവൾ ഒരു മനുഷ്യനേക്കാൾ നന്നായി അലക്കുന്നു, പക്ഷേ നിങ്ങൾ അവളുടെ വസ്ത്രങ്ങൾ അലക്കുന്നതിന് പകരം പാത്രങ്ങൾ ഇട്ടാൽ, അവൾ അത് കഴുകും. പാത്രങ്ങൾ പോലും ശുദ്ധമാകും. എന്നാൽ ഇത് നിങ്ങൾ പ്രതീക്ഷിച്ചതായിരിക്കില്ല, കൂടാതെ ഇത് സംഭവിക്കില്ല, കാരണം സിസ്റ്റത്തിന് വിഭവങ്ങളെ സംബന്ധിച്ച് മുൻവിധികളുണ്ട്. വാഷിംഗ് മെഷീന് വിഭവങ്ങൾ എന്താണെന്നോ വസ്ത്രങ്ങൾ എന്താണെന്നോ അറിയില്ല - ഇത് ഓട്ടോമേഷന്റെ ഒരു ഉദാഹരണം മാത്രമാണ്, മുമ്പ് പ്രക്രിയകൾ എങ്ങനെ ഓട്ടോമേറ്റ് ചെയ്തതിൽ നിന്ന് ആശയപരമായി വ്യത്യസ്തമല്ല.

നമ്മൾ സംസാരിക്കുന്നത് കാറുകളെക്കുറിച്ചോ വിമാനങ്ങളെക്കുറിച്ചോ ഡാറ്റാബേസിനെക്കുറിച്ചോ ആകട്ടെ, ഈ സംവിധാനങ്ങൾ വളരെ ശക്തവും വളരെ പരിമിതവുമായിരിക്കും. ആളുകൾ ഈ സംവിധാനങ്ങൾ എങ്ങനെ ഉപയോഗിക്കുന്നു, അവരുടെ ഉദ്ദേശ്യങ്ങൾ നല്ലതാണോ ചീത്തയാണോ, അവർ എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്ന് അവർ എത്രമാത്രം മനസ്സിലാക്കുന്നു എന്നതിനെ ആശ്രയിച്ചിരിക്കും.

അതിനാൽ, "കൃത്രിമ ബുദ്ധി ഗണിതമാണ്, അതിനാൽ അതിന് പക്ഷപാതങ്ങൾ ഉണ്ടാകില്ല" എന്ന് പറയുന്നത് പൂർണ്ണമായും തെറ്റാണ്. എന്നാൽ മെഷീൻ ലേണിംഗ് "ആത്മനിഷ്‌ഠമായ സ്വഭാവമാണ്" എന്ന് പറയുന്നതും ഒരുപോലെ തെറ്റാണ്. മെഷീൻ ലേണിംഗ് ഡാറ്റയിൽ പാറ്റേണുകൾ കണ്ടെത്തുന്നു, അത് ഏത് പാറ്റേണുകൾ കണ്ടെത്തുന്നു എന്നത് ഡാറ്റയെ ആശ്രയിച്ചിരിക്കുന്നു, കൂടാതെ ഡാറ്റ നമ്മെ ആശ്രയിച്ചിരിക്കുന്നു. അവരുമായി നമ്മൾ ചെയ്യുന്നത് പോലെ. മെഷീൻ ലേണിംഗ് ചില കാര്യങ്ങൾ നമുക്ക് ചെയ്യാൻ കഴിയുന്നതിനേക്കാൾ മികച്ചതാണ് - പക്ഷേ, ഉദാഹരണത്തിന്, നായ്ക്കൾ മയക്കുമരുന്ന് കണ്ടുപിടിക്കുന്നതിൽ മനുഷ്യരെക്കാൾ വളരെ ഫലപ്രദമാണ്, ഇത് അവരെ സാക്ഷികളായി ഉപയോഗിക്കാനും അവരുടെ സാക്ഷ്യത്തെ അടിസ്ഥാനമാക്കി ന്യായവിധി നടത്താനും ഒരു കാരണമല്ല. ഏത് മെഷീൻ ലേണിംഗ് സിസ്റ്റത്തേക്കാളും വളരെ മിടുക്കരാണ് നായ്ക്കൾ.

പരിഭാഷ: ഡയാന ലെറ്റ്സ്കയ.
എഡിറ്റിംഗ്: അലക്സി ഇവാനോവ്.
കമ്മ്യൂണിറ്റി: @PonchikNews.

അവലംബം: www.habr.com