কৃত্রিম বুদ্ধিমত্তার পক্ষপাত সম্পর্কে

TL; ড:

• মেশিন লার্নিং ডেটাতে প্যাটার্ন খোঁজে। কিন্তু কৃত্রিম বুদ্ধিমত্তা "পক্ষপাতদুষ্ট" হতে পারে—অর্থাৎ, ভুল প্যাটার্ন খুঁজে বের করুন। উদাহরণস্বরূপ, একটি ফটো-ভিত্তিক ত্বকের ক্যান্সার সনাক্তকরণ ব্যবস্থা ডাক্তারের অফিসে তোলা ছবিগুলিতে বিশেষ মনোযোগ দিতে পারে। মেশিন লার্নিং পারে না বুঝতে: এর অ্যালগরিদমগুলি শুধুমাত্র সংখ্যার নিদর্শন সনাক্ত করে, এবং যদি ডেটা প্রতিনিধি না হয়, তাহলে তার প্রক্রিয়াকরণের ফলাফলও হবে। এবং মেশিন লার্নিং এর যান্ত্রিকতার কারণে এই জাতীয় বাগগুলি ধরা কঠিন হতে পারে।
• সবচেয়ে সুস্পষ্ট এবং ভয়ঙ্কর সমস্যা হল মানব বৈচিত্র্য। এমন অনেক কারণ রয়েছে যেগুলি সংগ্রহের পর্যায়েও লোকেদের সম্পর্কে ডেটা বস্তুনিষ্ঠতা হারাতে পারে। তবে ভাববেন না যে এই সমস্যাটি শুধুমাত্র মানুষকে প্রভাবিত করে: গুদাম বা একটি ব্যর্থ গ্যাস টারবাইনে বন্যা সনাক্ত করার চেষ্টা করার সময় ঠিক একই সমস্যা দেখা দেয়। কিছু সিস্টেম ত্বকের রঙের প্রতি পক্ষপাতদুষ্ট হতে পারে, অন্যরা সিমেন্স সেন্সরের প্রতি পক্ষপাতদুষ্ট হতে পারে।
• এই ধরনের সমস্যাগুলি মেশিন লার্নিংয়ের জন্য নতুন নয় এবং সেগুলি এর থেকে অনেক দূরে। যেকোন জটিল কাঠামোতে ভুল অনুমান করা হয় এবং কেন একটি নির্দিষ্ট সিদ্ধান্ত নেওয়া হয়েছিল তা বোঝা সবসময়ই কঠিন। আমাদের এটিকে একটি বিস্তৃত উপায়ে মোকাবেলা করতে হবে: যাচাইকরণের জন্য সরঞ্জাম এবং প্রক্রিয়া তৈরি করুন - এবং ব্যবহারকারীদের শিক্ষিত করুন যাতে তারা AI সুপারিশগুলি অন্ধভাবে অনুসরণ না করে। মেশিন লার্নিং কিছু জিনিস আমাদের চেয়ে অনেক ভালো করে - কিন্তু কুকুর, উদাহরণস্বরূপ, ওষুধ শনাক্ত করার ক্ষেত্রে মানুষের চেয়ে অনেক বেশি কার্যকর, যা তাদের সাক্ষী হিসাবে ব্যবহার করার এবং তাদের সাক্ষ্যের ভিত্তিতে রায় দেওয়ার কারণ নয়। এবং কুকুর, যাইহোক, যে কোনও মেশিন লার্নিং সিস্টেমের চেয়ে অনেক বেশি স্মার্ট।

মেশিন লার্নিং আজ সবচেয়ে গুরুত্বপূর্ণ মৌলিক প্রযুক্তির প্রবণতাগুলির মধ্যে একটি। আগামী দশকে প্রযুক্তি আমাদের চারপাশের বিশ্বকে পরিবর্তন করবে এমন একটি প্রধান উপায়। এই পরিবর্তনের কিছু দিক উদ্বেগের কারণ। উদাহরণস্বরূপ, শ্রমবাজারে মেশিন লার্নিংয়ের সম্ভাব্য প্রভাব, বা অনৈতিক উদ্দেশ্যে এর ব্যবহার (উদাহরণস্বরূপ, কর্তৃত্ববাদী শাসন দ্বারা)। এই পোস্টটি সম্বোধন করে এমন আরেকটি সমস্যা রয়েছে: কৃত্রিম বুদ্ধিমত্তার পক্ষপাতিত্ব.

এটি একটি সহজ গল্প নয়।

গুগলের এআই বিড়াল খুঁজে পেতে পারে। 2012 সালের এই খবরটি তখন বিশেষ কিছু ছিল।

"AI বায়াস" কি?

"কাঁচা তথ্য" একটি অক্সিমোরন এবং একটি খারাপ ধারণা উভয়ই; তথ্য ভাল এবং সাবধানে প্রস্তুত করা আবশ্যক. - জিওফ্রে বোকার

2013 সালের আগে কোথাও, এমন একটি সিস্টেম তৈরি করার জন্য যা বলুন, ফটোগ্রাফে বিড়ালদের চিনতে পারে, আপনাকে যৌক্তিক পদক্ষেপগুলি বর্ণনা করতে হয়েছিল। কীভাবে একটি ছবিতে কোণগুলি খুঁজে বের করবেন, চোখ চিনবেন, পশমের জন্য টেক্সচার বিশ্লেষণ করুন, পাঞ্জা গণনা করুন এবং আরও অনেক কিছু। তারপরে সমস্ত উপাদান একসাথে রাখুন এবং আবিষ্কার করুন যে এটি সত্যিই কাজ করে না। অনেকটা যান্ত্রিক ঘোড়ার মতো - তাত্ত্বিকভাবে এটি তৈরি করা যেতে পারে, তবে বাস্তবে এটি বর্ণনা করা খুব জটিল। শেষ ফলাফল হল শত শত (বা হাজার হাজার) হাতে লেখা নিয়ম। এবং একটি একক কাজ মডেল না.

মেশিন লার্নিং এর আবির্ভাবের সাথে, আমরা একটি নির্দিষ্ট বস্তুকে শনাক্ত করার জন্য "ম্যানুয়াল" নিয়ম ব্যবহার করা বন্ধ করে দিয়েছি। পরিবর্তে, আমরা “এই”, X-এর এক হাজার নমুনা, “অন্যান্য”, Y-এর এক হাজার নমুনা নিই এবং কম্পিউটারকে তাদের পরিসংখ্যানগত বিশ্লেষণের ভিত্তিতে একটি মডেল তৈরি করি। তারপরে আমরা এই মডেলটিকে কিছু নমুনা ডেটা দিই এবং এটি কিছু নির্ভুলতার সাথে নির্ধারণ করে যে এটি সেটগুলির একটির সাথে খাপ খায় কিনা। মেশিন লার্নিং মানুষের লেখার চেয়ে ডেটা থেকে মডেল তৈরি করে। ফলাফলগুলি চিত্তাকর্ষক, বিশেষ করে ইমেজ এবং প্যাটার্ন স্বীকৃতির ক্ষেত্রে, এবং সেই কারণেই সমগ্র প্রযুক্তি শিল্প এখন মেশিন লার্নিং (ML) এর দিকে চলে যাচ্ছে।

কিন্তু এটা যে সহজ না. বাস্তব জগতে, আপনার X বা Y-এর হাজার হাজার উদাহরণে A, B, J, L, O, R, এমনকি Lও রয়েছে। এগুলি সমানভাবে বিতরণ নাও হতে পারে, এবং কিছু এমন ঘন ঘন ঘটতে পারে যে সিস্টেমটি বেশি অর্থ প্রদান করবে আপনার আগ্রহের বস্তুর চেয়ে তাদের প্রতি মনোযোগ দিন।

অনুশীলনে এর মানে কি? আমার প্রিয় উদাহরণ হল যখন ইমেজ রিকগনিশন সিস্টেম একটি ঘাসের পাহাড়ের দিকে তাকিয়ে বলুন, "ভেড়া". এটা পরিষ্কার কেন: "ভেড়া" এর বেশিরভাগ উদাহরণের ফটোগ্রাফ তৃণভূমিতে তোলা হয় যেখানে তারা বাস করে, এবং এই চিত্রগুলিতে ঘাসটি ছোট সাদা ফুলের তুলনায় অনেক বেশি জায়গা নেয় এবং এটি সেই ঘাস যাকে সিস্টেমটি সবচেয়ে গুরুত্বপূর্ণ বলে মনে করে। .

আরো গুরুতর উদাহরণ আছে. একটি সাম্প্রতিক এক প্রকল্প ফটোগ্রাফে ত্বকের ক্যান্সার সনাক্ত করার জন্য। এটি প্রমাণিত হয়েছে যে চর্মরোগ বিশেষজ্ঞরা প্রায়শই গঠনের আকার রেকর্ড করতে ত্বকের ক্যান্সারের প্রকাশের সাথে শাসকের ছবি তোলেন। সুস্থ ত্বকের উদাহরণ ফটোগ্রাফে কোন শাসক নেই। একটি AI সিস্টেমের জন্য, এই ধরনের শাসক (আরও স্পষ্টভাবে, পিক্সেলগুলি যেগুলিকে আমরা "শাসক" হিসাবে সংজ্ঞায়িত করি) উদাহরণগুলির সেটগুলির মধ্যে পার্থক্যগুলির মধ্যে একটি হয়ে উঠেছে এবং কখনও কখনও ত্বকে একটি ছোট ফুসকুড়ির চেয়েও গুরুত্বপূর্ণ। তাই ত্বকের ক্যান্সার সনাক্ত করার জন্য তৈরি একটি সিস্টেম কখনও কখনও পরিবর্তে শাসকদের স্বীকৃতি দেয়।

এখানে মূল বিষয় হল যে সিস্টেমটি কী দেখছে তার কোনও শব্দার্থিক বোঝাপড়া নেই। আমরা পিক্সেলের একটি সেট দেখি এবং তাদের মধ্যে একটি ভেড়া, চামড়া বা শাসক দেখি, কিন্তু সিস্টেমটি শুধুমাত্র একটি সংখ্যা রেখা। সে ত্রিমাত্রিক স্থান দেখতে পায় না, বস্তু, টেক্সচার বা ভেড়া দেখতে পায় না। তিনি কেবল ডেটাতে নিদর্শনগুলি দেখেন।

এই ধরনের সমস্যাগুলি নির্ণয় করতে অসুবিধা হল যে নিউরাল নেটওয়ার্ক (আপনার মেশিন লার্নিং সিস্টেম দ্বারা তৈরি মডেল) হাজার হাজার শত শত হাজার নোড নিয়ে গঠিত। একটি মডেলের দিকে তাকানোর এবং এটি কীভাবে সিদ্ধান্ত নেয় তা দেখার কোন সহজ উপায় নেই। এই ধরনের উপায় থাকার মানে হল যে প্রক্রিয়াটি মেশিন লার্নিং ব্যবহার না করে ম্যানুয়ালি সমস্ত নিয়ম বর্ণনা করার জন্য যথেষ্ট সহজ। লোকেরা উদ্বিগ্ন যে মেশিন লার্নিং একটি কালো বাক্স হয়ে গেছে। (আমি একটু পরে ব্যাখ্যা করব কেন এই তুলনা এখনও অনেক বেশি।)

এটি, সাধারণ পরিভাষায়, কৃত্রিম বুদ্ধিমত্তা বা মেশিন লার্নিংয়ে পক্ষপাতিত্বের সমস্যা: ডেটাতে প্যাটার্ন খোঁজার জন্য একটি সিস্টেম ভুল প্যাটার্ন খুঁজে পেতে পারে এবং আপনি এটি লক্ষ্য করবেন না। এটি প্রযুক্তির একটি মৌলিক বৈশিষ্ট্য, এবং যারা একাডেমিয়ায় এবং বড় বড় প্রযুক্তি সংস্থাগুলিতে এটির সাথে কাজ করে তাদের প্রত্যেকের কাছে এটি স্পষ্ট। কিন্তু এর পরিণতিগুলি জটিল, এবং সেই ফলাফলগুলির জন্য আমাদের সম্ভাব্য সমাধানগুলিও তাই।

এর পরিণতি সম্পর্কে প্রথমে কথা বলা যাক।

AI, আমাদের জন্য পরোক্ষভাবে, বিপুল সংখ্যক অদৃশ্য সংকেতের উপর ভিত্তি করে নির্দিষ্ট শ্রেণীর মানুষের পক্ষে একটি পছন্দ করতে পারে

এআই বায়াস দৃশ্যকল্প

সবচেয়ে স্পষ্টতই এবং ভীতিজনকভাবে, এই সমস্যাটি মানুষের বৈচিত্র্যের ক্ষেত্রে নিজেকে প্রকাশ করতে পারে। সম্প্রতি একটি গুজব ছিলযে অ্যামাজন চাকরি প্রার্থীদের প্রাথমিক স্ক্রিনিংয়ের জন্য একটি মেশিন লার্নিং সিস্টেম তৈরি করার চেষ্টা করেছিল। যেহেতু আমাজন কর্মীদের মধ্যে পুরুষদের সংখ্যা বেশি, "সফল নিয়োগ" এর উদাহরণগুলিও প্রায়শই পুরুষ, এবং সিস্টেমের দ্বারা প্রস্তাবিত জীবনবৃত্তান্ত নির্বাচনের ক্ষেত্রে আরও বেশি পুরুষ ছিল। অ্যামাজন এটি লক্ষ্য করেছে এবং সিস্টেমটিকে উত্পাদনে প্রকাশ করেনি।

এই উদাহরণের সবচেয়ে গুরুত্বপূর্ণ বিষয় হল যে সিস্টেমটি পুরুষ আবেদনকারীদের পক্ষে গুজব ছিল, যদিও জীবনবৃত্তান্তে লিঙ্গ নির্দিষ্ট করা হয়নি। সিস্টেমটি "ভাল নিয়োগের" উদাহরণগুলিতে অন্যান্য নিদর্শন দেখেছিল: উদাহরণস্বরূপ, মহিলারা অর্জনগুলি বর্ণনা করতে বিশেষ শব্দ ব্যবহার করতে পারে বা বিশেষ শখ থাকতে পারে। অবশ্যই, সিস্টেমটি "হকি" কী, বা "মানুষ" কে বা "সাফল্য" কী তা জানত না - এটি কেবল পাঠ্যটির পরিসংখ্যানগত বিশ্লেষণ চালিয়েছিল। কিন্তু তিনি যে নিদর্শনগুলি দেখেছিলেন তা সম্ভবত মানুষের নজরে পড়বে না এবং তাদের মধ্যে কিছু (উদাহরণস্বরূপ, বিভিন্ন লিঙ্গের লোকেরা সাফল্যকে ভিন্নভাবে বর্ণনা করে) সম্ভবত আমরা তাদের দিকে তাকালেও আমাদের পক্ষে দেখা কঠিন হবে।

আরও - খারাপ। একটি মেশিন লার্নিং সিস্টেম যা ফ্যাকাশে ত্বকে ক্যান্সার খুঁজে পেতে খুব ভাল তা অন্ধকার ত্বকে ভাল কাজ নাও করতে পারে, বা এর বিপরীতে। অগত্যা পক্ষপাতের কারণে নয়, কিন্তু কারণ আপনাকে সম্ভবত একটি ভিন্ন ত্বকের রঙের জন্য আলাদা মডেল তৈরি করতে হবে, বিভিন্ন বৈশিষ্ট্য বেছে নিতে হবে। ইমেজ রিকগনিশনের মতো সংকীর্ণ এলাকায়ও মেশিন লার্নিং সিস্টেমগুলি বিনিময়যোগ্য নয়। আপনি আপনার পছন্দসই নির্ভুলতা অর্জন না করা পর্যন্ত আপনার আগ্রহের ডেটার বৈশিষ্ট্যগুলির উপর একটি ভাল হ্যান্ডেল পেতে, কখনও কখনও শুধুমাত্র ট্রায়াল এবং ত্রুটির মাধ্যমে আপনাকে সিস্টেমটি পরিবর্তন করতে হবে। কিন্তু আপনি যা লক্ষ্য করতে পারেন না তা হল যে সিস্টেমটি একটি গ্রুপের সাথে 98% সময় সঠিক এবং অন্যটির সাথে শুধুমাত্র 91% (মানুষের বিশ্লেষণের চেয়েও বেশি নির্ভুল)।

এ পর্যন্ত আমি প্রধানত মানুষ এবং তাদের বৈশিষ্ট্য সম্পর্কিত উদাহরণ ব্যবহার করেছি। এই সমস্যার চারপাশে আলোচনা প্রধানত এই বিষয় উপর ফোকাস. কিন্তু এটা বোঝা গুরুত্বপূর্ণ যে মানুষের প্রতি পক্ষপাতিত্ব সমস্যার একটি অংশ মাত্র। আমরা অনেক কিছুর জন্য মেশিন লার্নিং ব্যবহার করব, এবং স্যাম্পলিং এরর সবগুলির জন্য প্রাসঙ্গিক হবে। অন্যদিকে, আপনি যদি মানুষের সাথে কাজ করেন তবে ডেটার পক্ষপাত তাদের সাথে সম্পর্কিত নাও হতে পারে।

এটি বোঝার জন্য, আসুন ত্বকের ক্যান্সারের উদাহরণে ফিরে যাই এবং সিস্টেমের ব্যর্থতার জন্য তিনটি অনুমানমূলক সম্ভাবনা বিবেচনা করি।

1. মানুষের ভিন্নধর্মী বণ্টন: বিভিন্ন ত্বকের রঙের ভারসাম্যহীন সংখ্যক ফটোগ্রাফ যা পিগমেন্টেশনের কারণে মিথ্যা ইতিবাচক বা মিথ্যা নেতিবাচক দিকে পরিচালিত করে।
2. যে ডেটাতে সিস্টেমটি প্রশিক্ষিত হয় তাতে একটি ঘন ঘন ঘটতে থাকা এবং ভিন্ন ভিন্নভাবে বিতরণ করা বৈশিষ্ট্য রয়েছে যা মানুষের সাথে সম্পর্কিত নয় এবং এর কোনো ডায়াগনস্টিক মূল্য নেই: ভেড়ার ফটোগ্রাফে ত্বকের ক্যান্সার বা ঘাসের ফটোগ্রাফে একটি শাসক। এই ক্ষেত্রে, ফলাফলটি ভিন্ন হবে যদি সিস্টেমটি এমন কিছুর ছবিতে পিক্সেল খুঁজে পায় যা মানুষের চোখ "শাসক" হিসাবে চিহ্নিত করে।
3. ডেটাতে একটি তৃতীয় পক্ষের বৈশিষ্ট্য রয়েছে যা একজন ব্যক্তি খুঁজলেও দেখতে পারে না।

এর মানে কী? আমরা একটি অগ্রাধিকার জানি যে ডেটা বিভিন্ন গোষ্ঠীর লোকেদের আলাদাভাবে প্রতিনিধিত্ব করতে পারে এবং সর্বনিম্নভাবে আমরা এই জাতীয় ব্যতিক্রমগুলি সন্ধান করার পরিকল্পনা করতে পারি। অন্য কথায়, অনুমান করার প্রচুর সামাজিক কারণ রয়েছে যে লোকেদের গ্রুপ সম্পর্কে ডেটা ইতিমধ্যে কিছু পক্ষপাত ধারণ করে। আমরা যদি শাসকের সাথে ফটোটি দেখি তবে আমরা এই শাসককে দেখতে পাব - আমরা আগে এটিকে উপেক্ষা করেছি, জেনেছি যে এটি কোন ব্যাপার না এবং ভুলে গেছি যে সিস্টেমটি কিছুই জানে না।

কিন্তু যদি আপনার অস্বাস্থ্যকর ত্বকের সমস্ত ছবি ভাস্বর আলোতে একটি অফিসে তোলা হয় এবং আপনার স্বাস্থ্যকর ত্বক ফ্লুরোসেন্ট আলোতে তোলা হয়? যদি, আপনি সুস্থ ত্বকের শুটিং শেষ করার পরে, অস্বাস্থ্যকর ত্বকের শুটিং করার আগে, আপনি আপনার ফোনে অপারেটিং সিস্টেম আপডেট করেন এবং অ্যাপল বা গুগল শব্দ কমানোর অ্যালগরিদম সামান্য পরিবর্তন করেন? একজন ব্যক্তি এটি লক্ষ্য করতে পারে না, সে এই ধরনের বৈশিষ্ট্যগুলি যতই সন্ধান করুক না কেন। কিন্তু মেশিন-ব্যবহার ব্যবস্থা অবিলম্বে এটি দেখতে এবং ব্যবহার করবে। সে কিছুই জানে না।

এখন পর্যন্ত আমরা মিথ্যা পারস্পরিক সম্পর্কের কথা বলেছি, কিন্তু এটাও হতে পারে যে ডেটা সঠিক এবং ফলাফল সঠিক, কিন্তু আপনি নৈতিক, আইনি বা ব্যবস্থাপনার কারণে সেগুলি ব্যবহার করতে চান না। কিছু এখতিয়ার, উদাহরণস্বরূপ, মহিলাদের তাদের বীমাতে ছাড় পাওয়ার অনুমতি দেয় না, যদিও মহিলারা নিরাপদ ড্রাইভার হতে পারে। আমরা সহজেই এমন একটি সিস্টেম কল্পনা করতে পারি যা, ঐতিহাসিক তথ্য বিশ্লেষণ করার সময়, মহিলা নামগুলির জন্য একটি কম ঝুঁকির কারণ নির্ধারণ করবে। ঠিক আছে, আসুন নির্বাচন থেকে নাম মুছে ফেলি। কিন্তু অ্যামাজনের উদাহরণটি মনে রাখবেন: সিস্টেমটি অন্যান্য কারণের উপর ভিত্তি করে লিঙ্গ নির্ধারণ করতে পারে (যদিও এটি লিঙ্গ কী, এমনকি একটি গাড়ি কী তাও জানে না) এবং আপনি এটি লক্ষ্য করবেন না যতক্ষণ না নিয়ন্ত্রক আপনার ট্যারিফগুলিকে পূর্ববর্তীভাবে বিশ্লেষণ করে। অফার এবং চার্জ আপনাকে জরিমানা করা হবে।

পরিশেষে, এটা প্রায়শই ধরে নেওয়া হয় যে আমরা কেবলমাত্র সেই প্রকল্পগুলির জন্য এই ধরনের সিস্টেমগুলি ব্যবহার করব যাতে মানুষ এবং সামাজিক মিথস্ক্রিয়া জড়িত থাকে। এটা ভুল. আপনি যদি গ্যাস টারবাইন তৈরি করেন, আপনি সম্ভবত আপনার পণ্যের দশ বা শত শত সেন্সর দ্বারা প্রেরিত টেলিমেট্রিতে মেশিন লার্নিং প্রয়োগ করতে চাইবেন (অডিও, ভিডিও, তাপমাত্রা এবং অন্য যেকোন সেন্সরগুলি এমন ডেটা তৈরি করে যা একটি মেশিন তৈরি করতে খুব সহজেই অভিযোজিত হতে পারে। শেখার মডেল)। কাল্পনিকভাবে, আপনি বলতে পারেন, "এখানে এক হাজার টারবাইনের ডেটা যা ব্যর্থ হওয়ার আগে ব্যর্থ হয়েছিল, এবং এখানে এক হাজার টারবাইনের ডেটা যা ব্যর্থ হয়নি। তাদের মধ্যে পার্থক্য কী তা বলার জন্য একটি মডেল তৈরি করুন।" ঠিক আছে, এখন কল্পনা করুন যে সিমেন্স সেন্সরগুলি 75% খারাপ টারবাইনে ইনস্টল করা আছে, এবং শুধুমাত্র 12% ভাল (ব্যর্থতার সাথে কোনও সংযোগ নেই)। সিস্টেমটি সিমেন্স সেন্সর সহ টারবাইন খুঁজে পাওয়ার জন্য একটি মডেল তৈরি করবে। উফ!

ছবি — মরিটজ হার্ট, ইউসি বার্কলে

এআই বায়াস পরিচালনা

আমরা এটা সম্পর্কে কি করতে পারি? আপনি তিনটি কোণ থেকে সমস্যাটির সাথে যোগাযোগ করতে পারেন:

1. সিস্টেম প্রশিক্ষণের জন্য ডেটা সংগ্রহ এবং পরিচালনার পদ্ধতিগত কঠোরতা।
2. মডেল আচরণ বিশ্লেষণ এবং নির্ণয়ের জন্য প্রযুক্তিগত সরঞ্জাম।
3. পণ্যগুলিতে মেশিন লার্নিং প্রয়োগ করার সময় প্রশিক্ষণ দিন, শিক্ষিত করুন এবং সতর্ক থাকুন৷

মলিয়েরের বই "The Bourgeois in the Nobility"-এ একটি কৌতুক আছে: একজনকে বলা হয়েছিল যে সাহিত্য গদ্য এবং কবিতায় বিভক্ত, এবং তিনি আবিষ্কার করতে পেরে আনন্দিত হয়েছিলেন যে তিনি সারা জীবন গদ্যে কথা বলেছেন, এটি না জেনেই। আজকের পরিসংখ্যানবিদরা সম্ভবত এটিই অনুভব করছেন: এটি উপলব্ধি না করেই, তারা তাদের কেরিয়ারকে কৃত্রিম বুদ্ধিমত্তা এবং নমুনা ত্রুটির জন্য উত্সর্গ করেছেন। নমুনা ত্রুটির সন্ধান করা এবং এটি নিয়ে উদ্বিগ্ন হওয়া কোনও নতুন সমস্যা নয়, আমাদের কেবল পদ্ধতিগতভাবে এর সমাধানের কাছে যেতে হবে। উপরে উল্লিখিত হিসাবে, কিছু ক্ষেত্রে মানুষের ডেটা সম্পর্কিত সমস্যাগুলি অধ্যয়ন করে এটি করা সহজ। আমরা প্রাথমিকভাবে অনুমান করি যে বিভিন্ন গোষ্ঠীর লোকেদের সম্বন্ধে আমাদের কুসংস্কার থাকতে পারে, কিন্তু সিমেনস সেন্সর সম্পর্কে কুসংস্কার কল্পনা করাও আমাদের পক্ষে কঠিন।

এই সব সম্পর্কে নতুন কি, অবশ্যই, মানুষ আর সরাসরি পরিসংখ্যান বিশ্লেষণ করে না. এটি এমন মেশিন দ্বারা পরিচালিত হয় যা বড়, জটিল মডেল তৈরি করে যা বোঝা কঠিন। স্বচ্ছতার বিষয়টি পক্ষপাতের সমস্যার একটি প্রধান দিক। আমরা আশঙ্কা করি যে সিস্টেমটি কেবল পক্ষপাতদুষ্ট নয়, তবে এটির পক্ষপাতিত্ব সনাক্ত করার কোনও উপায় নেই এবং সেই মেশিন লার্নিং অটোমেশনের অন্যান্য রূপ থেকে আলাদা, যা পরীক্ষা করা যেতে পারে এমন স্পষ্ট যৌক্তিক পদক্ষেপগুলি নিয়ে গঠিত বলে মনে করা হয়।

এখানে দুটি সমস্যা আছে। আমরা এখনও মেশিন লার্নিং সিস্টেমের কিছু ধরণের অডিট পরিচালনা করতে সক্ষম হতে পারি। এবং অন্য কোন সিস্টেমের অডিট করা আসলে সহজ নয়।

প্রথমত, মেশিন লার্নিং এর ক্ষেত্রে আধুনিক গবেষণার একটি দিক হল মেশিন লার্নিং সিস্টেমের গুরুত্বপূর্ণ কার্যকারিতা সনাক্ত করার পদ্ধতির অনুসন্ধান। এটি বলেছে, মেশিন লার্নিং (এটির বর্তমান অবস্থায়) বিজ্ঞানের একটি সম্পূর্ণ নতুন ক্ষেত্র যা দ্রুত পরিবর্তিত হচ্ছে, তাই ভাববেন না যে আজকে যে জিনিসগুলি অসম্ভব তা শীঘ্রই বাস্তবে পরিণত হতে পারে না। প্রকল্প OpenAI - এর একটি আকর্ষণীয় উদাহরণ।

দ্বিতীয়ত, আপনি বিদ্যমান সিস্টেম বা সংস্থাগুলির সিদ্ধান্ত গ্রহণের প্রক্রিয়া পরীক্ষা করতে এবং বুঝতে পারেন এমন ধারণাটি তাত্ত্বিকভাবে ভাল, তবে বাস্তবে তাই। একটি বড় প্রতিষ্ঠানে কীভাবে সিদ্ধান্ত নেওয়া হয় তা বোঝা সহজ নয়। এমনকি যদি একটি আনুষ্ঠানিক সিদ্ধান্ত গ্রহণের প্রক্রিয়া থাকে, তবে এটি প্রতিফলিত করে না যে লোকেরা আসলে কীভাবে মিথস্ক্রিয়া করে এবং তারা নিজেরাই প্রায়শই তাদের সিদ্ধান্ত নেওয়ার জন্য একটি যৌক্তিক, পদ্ধতিগত পদ্ধতির থাকে না। যেমন আমার সহকর্মী ড বিজয় পান্ডে, মানুষও ব্ল্যাক বক্স.

একাধিক ওভারল্যাপিং কোম্পানি এবং প্রতিষ্ঠানে এক হাজার লোক নিন, এবং সমস্যা আরও জটিল হয়ে ওঠে। আমরা এই সত্যের পরে জানি যে স্পেস শাটলটি ফেরার সময় ভেঙে যাওয়ার ভাগ্য ছিল এবং নাসার মধ্যে ব্যক্তিদের কাছে এমন তথ্য ছিল যা তাদের খারাপ কিছু ঘটতে পারে বলে মনে করার কারণ দিয়েছিল, কিন্তু সিস্টেমটি সাধারণত আমি এটা জানতাম না. NASA এমনকি তার আগের শাটল হারানোর পরেও অনুরূপ অডিটের মধ্য দিয়ে গেছে, এবং এখনও এটি একই কারণে আরেকটি হারিয়েছে। এটা তর্ক করা সহজ যে সংস্থা এবং লোকেরা স্পষ্ট, যৌক্তিক নিয়ম অনুসরণ করে যা পরীক্ষা করা, বোঝা এবং পরিবর্তন করা যেতে পারে — কিন্তু অভিজ্ঞতা অন্যথা প্রমাণ করে। এই "গোসপ্ল্যানের বিভ্রম».

আমি প্রায়শই মেশিন লার্নিংকে ডেটাবেসের সাথে তুলনা করি, বিশেষ করে রিলেশনাল - একটি নতুন মৌলিক প্রযুক্তি যা কম্পিউটার বিজ্ঞান এবং এর চারপাশের বিশ্বের ক্ষমতাকে বদলে দিয়েছে, যা সবকিছুর অংশ হয়ে উঠেছে, যা আমরা এটি উপলব্ধি না করেই ক্রমাগত ব্যবহার করি। ডাটাবেসেরও সমস্যা আছে, এবং সেগুলি একই প্রকৃতির: সিস্টেমটি খারাপ অনুমান বা খারাপ ডেটার উপর নির্মিত হতে পারে, তবে এটি লক্ষ্য করা কঠিন হবে এবং সিস্টেম ব্যবহারকারী লোকেরা প্রশ্ন জিজ্ঞাসা না করেই যা বলবে তা করবে। ট্যাক্স লোকেদের সম্পর্কে অনেক পুরানো কৌতুক রয়েছে যারা একবার আপনার নামের বানান ভুল করেছিল এবং তাদের ভুল সংশোধন করতে বোঝানো আসলে আপনার নাম পরিবর্তন করার চেয়ে অনেক বেশি কঠিন। এটি সম্পর্কে চিন্তা করার অনেক উপায় আছে, তবে কোনটি ভাল তা স্পষ্ট নয়: এসকিউএল-এর প্রযুক্তিগত সমস্যা হিসাবে, বা ওরাকল রিলিজে একটি বাগ হিসাবে, বা আমলাতান্ত্রিক প্রতিষ্ঠানগুলির ব্যর্থতা হিসাবে? একটি প্রক্রিয়ায় একটি বাগ খুঁজে পাওয়া কতটা কঠিন যার ফলে সিস্টেমে টাইপো সংশোধন বৈশিষ্ট্য নেই? লোকেরা অভিযোগ শুরু করার আগে কি এটি বের করা যেত?

ন্যাভিগেটরে পুরানো ডেটার কারণে ড্রাইভাররা যখন নদীতে গাড়ি চালায় তখন গল্পের মাধ্যমে এই সমস্যাটিকে আরও সহজভাবে চিত্রিত করা হয়। ঠিক আছে, মানচিত্র ক্রমাগত আপডেট করা প্রয়োজন। কিন্তু আপনার গাড়ি সমুদ্রে উড়িয়ে দেওয়ার জন্য টমটমকে কতটা দোষ দেওয়া যায়?

আমি এটি বলার কারণ হ'ল হ্যাঁ, মেশিন লার্নিং পক্ষপাত সমস্যা তৈরি করবে। তবে এই সমস্যাগুলি অতীতে আমরা যেগুলির মুখোমুখি হয়েছি সেগুলির মতোই হবে এবং সেগুলি লক্ষ্য করা যেতে পারে এবং সমাধান করা যেতে পারে (বা না) পাশাপাশি আমরা অতীতে সক্ষম হয়েছিলাম। অতএব, একটি দৃশ্যকল্প যেখানে AI পক্ষপাত ক্ষতির কারণ একটি বড় প্রতিষ্ঠানে কর্মরত সিনিয়র গবেষকদের ঘটতে পারে না। খুব সম্ভবত, কিছু নগণ্য প্রযুক্তি ঠিকাদার বা সফ্টওয়্যার বিক্রেতা ওপেন সোর্স উপাদান, লাইব্রেরি এবং সরঞ্জামগুলি ব্যবহার করে তাদের হাঁটুতে কিছু লিখবে যা তারা বুঝতে পারে না। এবং দুর্ভাগ্য ক্লায়েন্ট পণ্যের বিবরণে "কৃত্রিম বুদ্ধিমত্তা" শব্দগুচ্ছটি কিনবে এবং কোন প্রশ্ন না করেই তার স্বল্প বেতনের কর্মচারীদের কাছে এটি বিতরণ করবে, তাদের এআই যা বলে তা করার আদেশ দেবে। ডাটাবেসের ক্ষেত্রে ঠিক এমনটাই ঘটেছে। এটি একটি কৃত্রিম বুদ্ধিমত্তা সমস্যা, বা এমনকি একটি সফ্টওয়্যার সমস্যা নয়। এটি মানবিক ফ্যাক্টর।

উপসংহার

মেশিন লার্নিং আপনি কুকুরকে শেখাতে পারেন এমন কিছু করতে পারে - কিন্তু আপনি কখনই নিশ্চিত হতে পারবেন না যে আপনি কুকুরটিকে ঠিক কী শিখিয়েছেন।

আমি প্রায়ই অনুভব করি যে "কৃত্রিম বুদ্ধিমত্তা" শব্দটি শুধুমাত্র এই ধরনের কথোপকথনের পথে আসে। এই শব্দটি মিথ্যা ধারণা দেয় যে আমরা আসলে এটি তৈরি করেছি - এই বুদ্ধিমত্তা। যে আমরা HAL9000 বা স্কাইনেটের পথে চলেছি - আসলে এমন কিছু বোঝে. কিন্তু না. এগুলি কেবলমাত্র মেশিন, এবং এটি একটি ওয়াশিং মেশিনের সাথে তুলনা করা অনেক বেশি সঠিক। সে মানুষের চেয়ে অনেক ভালো লন্ড্রি করে, কিন্তু আপনি যদি লন্ড্রির পরিবর্তে তার মধ্যে থালা-বাসন রাখেন, সে... সেগুলি ধুয়ে ফেলবে। এমনকি থালা-বাসন পরিষ্কার হয়ে যাবে। তবে এটি আপনি যা আশা করেছিলেন তা হবে না এবং এটি ঘটবে না কারণ সিস্টেমের খাবারের বিষয়ে কোনও কুসংস্কার রয়েছে। ওয়াশিং মেশিন কি থালা - বাসন বা জামাকাপড় কি তা জানে না - এটি অটোমেশনের একটি উদাহরণ মাত্র, ধারণাগতভাবে প্রক্রিয়াগুলি আগে কীভাবে স্বয়ংক্রিয় হয়েছিল তার থেকে আলাদা নয়।

আমরা গাড়ি, বিমান বা ডাটাবেস সম্পর্কে কথা বলছি না কেন, এই সিস্টেমগুলি খুব শক্তিশালী এবং খুব সীমিত হবে। লোকেরা কীভাবে এই সিস্টেমগুলি ব্যবহার করে, তাদের উদ্দেশ্য ভাল বা খারাপ কিনা এবং তারা কীভাবে কাজ করে তা তারা কতটা বোঝে তার উপর তারা সম্পূর্ণভাবে নির্ভর করবে।

অতএব, "কৃত্রিম বুদ্ধিমত্তা গণিত, তাই এটির পক্ষপাত থাকতে পারে না" বলা সম্পূর্ণ মিথ্যা। কিন্তু মেশিন লার্নিং যে "প্রকৃতিগতভাবে বিষয়ভিত্তিক" তা বলাও সমানভাবে মিথ্যা। মেশিন লার্নিং ডেটাতে প্যাটার্ন খুঁজে পায়, এবং এটি কোন প্যাটার্ন খুঁজে পায় তা নির্ভর করে ডেটার উপর, এবং ডেটা আমাদের উপর নির্ভর করে। ঠিক যেমন আমরা তাদের সাথে কি করি। মেশিন লার্নিং কিছু জিনিস আমাদের চেয়ে অনেক ভালো করে - কিন্তু কুকুর, উদাহরণস্বরূপ, ওষুধ শনাক্ত করার ক্ষেত্রে মানুষের চেয়ে অনেক বেশি কার্যকর, যা তাদের সাক্ষী হিসাবে ব্যবহার করার এবং তাদের সাক্ষ্যের ভিত্তিতে রায় দেওয়ার কারণ নয়। এবং কুকুর, যাইহোক, যে কোনও মেশিন লার্নিং সিস্টেমের চেয়ে অনেক বেশি স্মার্ট।

অনুবাদ: ডায়ানা লেটস্কায়া.
সম্পাদনা: আলেক্সি ইভানভ.
সম্প্রদায়: @পঞ্চিক নিউজ.

উত্স: www.habr.com