NeurIPS 2019: ML প্রবণতা যা পরবর্তী দশকে আমাদের সাথে থাকবে

নিউরোআইপিএস (নিউরাল ইনফরমেশন প্রসেসিং সিস্টেম) মেশিন লার্নিং এবং কৃত্রিম বুদ্ধিমত্তার উপর বিশ্বের বৃহত্তম সম্মেলন এবং গভীর শিক্ষার বিশ্বের প্রধান ইভেন্ট।

আমরা, ডিএস ইঞ্জিনিয়াররাও কি নতুন দশকে জীববিদ্যা, ভাষাবিজ্ঞান এবং মনোবিজ্ঞানে মাস্টার্স করব? আমরা আমাদের পর্যালোচনা আপনাকে বলব.

এই বছর কনফারেন্সটি কানাডার ভ্যাঙ্কুভারে 13500টি দেশ থেকে 80 জনেরও বেশি লোককে একত্রিত করেছে। এটি প্রথম বছর নয় যে সম্মেলনে Sberbank রাশিয়ার প্রতিনিধিত্ব করেছে - DS টিম ব্যাঙ্কিং প্রক্রিয়াগুলিতে ML বাস্তবায়ন, ML প্রতিযোগিতা এবং Sberbank DS প্ল্যাটফর্মের ক্ষমতা সম্পর্কে কথা বলেছিল। এমএল সম্প্রদায়ের 2019 এর প্রধান প্রবণতাগুলি কী ছিল? সম্মেলনে অংশগ্রহণকারীরা বলেছেন: আন্দ্রে চেরটোক и তাতায়ানা শাভরিনা.

এই বছর, NeurIPS 1400 টিরও বেশি কাগজপত্র গ্রহণ করেছে — অ্যালগরিদম, নতুন মডেল এবং নতুন ডেটাতে নতুন অ্যাপ্লিকেশন। সমস্ত উপকরণ লিঙ্ক

সূচিপত্র:

• প্রবণতা
• • মডেল ব্যাখ্যাযোগ্যতা
  • মাল্টিডিসিপ্লিনারিটি
  • যুক্তি
  • RL
  • GAN
• মৌলিক আমন্ত্রিত আলোচনা
• • "সামাজিক বুদ্ধিমত্তা", ব্লেইস আগুয়েরা ওয়াই আর্কাস (গুগল)
  • "ভেরিডিকাল ডেটা সায়েন্স", বিন ইউ (বার্কলে)
  • "মেশিন লার্নিংয়ের সাথে মানব আচরণের মডেলিং: সুযোগ এবং চ্যালেঞ্জ", নুরিয়া এম অলিভার, আলবার্ট আলী সালাহ
  • "সিস্টেম 1 থেকে সিস্টেম 2 ডিপ লার্নিং", ইয়োশুয়া বেঙ্গিও

বছরের 2019 ট্রেন্ডস

1. মডেল ব্যাখ্যাযোগ্যতা এবং নতুন এমএল পদ্ধতি

সম্মেলনের মূল বিষয় হল ব্যাখ্যা এবং প্রমাণ কেন আমরা নির্দিষ্ট ফলাফল পাই। "ব্ল্যাক বক্স" ব্যাখ্যার দার্শনিক গুরুত্ব সম্পর্কে কেউ দীর্ঘ সময়ের জন্য কথা বলতে পারে, তবে এই ক্ষেত্রে আরও বাস্তব পদ্ধতি এবং প্রযুক্তিগত উন্নয়ন ছিল।

মডেলের প্রতিলিপি এবং তাদের থেকে জ্ঞান আহরণের পদ্ধতি বিজ্ঞানের জন্য একটি নতুন টুলকিট। মডেলগুলি নতুন জ্ঞান অর্জন এবং এটি পরীক্ষা করার জন্য একটি হাতিয়ার হিসাবে কাজ করতে পারে, এবং মডেলের প্রিপ্রসেসিং, প্রশিক্ষণ এবং প্রয়োগের প্রতিটি স্তর অবশ্যই পুনরুত্পাদনযোগ্য হতে হবে।
প্রকাশনার একটি উল্লেখযোগ্য অনুপাত মডেল এবং সরঞ্জাম নির্মাণের জন্য নয়, কিন্তু নিরাপত্তা, স্বচ্ছতা এবং ফলাফলের যাচাইযোগ্যতা নিশ্চিত করার সমস্যাগুলির জন্য নিবেদিত। বিশেষ করে, মডেলের উপর আক্রমণ (প্রতিপক্ষের আক্রমণ) সম্পর্কে একটি পৃথক স্ট্রীম আবির্ভূত হয়েছে এবং প্রশিক্ষণের উপর আক্রমণ এবং প্রয়োগের উপর আক্রমণ উভয়ের বিকল্প বিবেচনা করা হয়েছে।

প্রবন্ধ:

• ভেরিডিকাল ডেটা সায়েন্স - মডেল যাচাইকরণের পদ্ধতির উপর একটি প্রোগ্রাম্যাটিক নিবন্ধ। মডেলগুলিকে ব্যাখ্যা করার জন্য আধুনিক সরঞ্জামগুলির একটি ওভারভিউ অন্তর্ভুক্ত করে, বিশেষ করে, মনোযোগের ব্যবহার এবং লিনিয়ার মডেলগুলির সাথে নিউরাল নেটওয়ার্ককে "পাতলা" করে বৈশিষ্ট্যের গুরুত্ব অর্জন করা।
• এটি এমন দেখাচ্ছে: ব্যাখ্যাযোগ্য চিত্র স্বীকৃতির জন্য গভীর শিক্ষা চাওফান চেন, অস্কার লি, ড্যানিয়েল টাও, আলিনা বার্নেট, সিনথিয়া রুডিন, জোনাথন কে. সু
• গভীর নিউরাল নেটওয়ার্কে ব্যাখ্যাযোগ্য পদ্ধতির জন্য একটি মানদণ্ড সারা হুকার, দুমিত্রু এরহান, পিটার-জান কিন্ডারম্যানস, বিন কিম
• মনোযোগ বর্ধিত এজেন্ট ব্যবহার করে ব্যাখ্যাযোগ্য শক্তিবৃদ্ধি শেখার দিকে আলেকজান্ডার মট, ড্যানিয়েল জোরান, মাইক ক্রাজানোস্কি, ড্যান উইয়েরস্ট্রা, দানিলো জিমেনেজ রেজেন্ডে
• এলোমেলো বনের জন্য একটি Debiased MDI বৈশিষ্ট্য গুরুত্বের পরিমাপ জিয়াও লি, ইউ ওয়াং, সুমন্ত বসু, কার্ল কুম্বিয়ার, বিন ইউ
• কোন পর্যবেক্ষণযোগ্য তথ্য ছাড়া জ্ঞান নিষ্কাশন জেমিন ইউ, মিনিয়ং চো, তায়েবুম কিম, ইউ ক্যাং
• স্বাধীনভাবে প্রজননযোগ্য মেশিন লার্নিং গবেষণার পরিমাণ নির্ধারণের দিকে একটি পদক্ষেপ এডওয়ার্ড রাফ

ExBert.net টেক্সট প্রসেসিং কাজের জন্য মডেল ব্যাখ্যা দেখায়

2. মাল্টিডিসিপ্লিনারিটি

নির্ভরযোগ্য যাচাইকরণ নিশ্চিত করতে এবং জ্ঞান যাচাই ও প্রসারিত করার প্রক্রিয়া বিকাশ করতে, আমাদের সংশ্লিষ্ট ক্ষেত্রের বিশেষজ্ঞদের প্রয়োজন যারা একই সাথে এমএল এবং বিষয়ের ক্ষেত্রে (মেডিসিন, ভাষাবিজ্ঞান, স্নায়ুবিজ্ঞান, শিক্ষা, ইত্যাদি) দক্ষতা রয়েছে। স্নায়ুবিজ্ঞান এবং জ্ঞানীয় বিজ্ঞানগুলিতে কাজ এবং বক্তৃতাগুলির আরও উল্লেখযোগ্য উপস্থিতি লক্ষ্য করা বিশেষভাবে মূল্যবান - বিশেষজ্ঞদের একটি সংমিশ্রণ এবং ধারণাগুলির ধার রয়েছে।

এই সংমিশ্রণ ছাড়াও, বিভিন্ন উত্স থেকে তথ্যের যৌথ প্রক্রিয়াকরণে বহু-বিভাগীয়তার উদ্ভব হচ্ছে: পাঠ্য এবং ফটো, পাঠ্য এবং গেমস, গ্রাফ ডেটাবেস + পাঠ্য এবং ফটো।

প্রবন্ধ:

• স্নায়ুবিজ্ঞান + এমএল — প্রাকৃতিক ভাষা-প্রক্রিয়াকরণ (মস্তিষ্কে) সহ প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (মেশিনে) ব্যাখ্যা করা এবং উন্নত করা
• ভিজ্যুয়ালকিউএ - বিমূর্ততা দ্বারা শেখা: নিউরাল স্টেট মেশিন
• RL + NLP - ন্যাচারাল ল্যাঙ্গুয়েজ ইন্সট্রাকশন তৈরি এবং ফলো করে হায়ারার্কিক্যাল ডিসিশন মেকিং

দুটি মডেল - স্ট্র্যাটেজিস্ট এবং এক্সিকিউটিভ - আরএল এবং এনএলপি অনলাইন কৌশলের উপর ভিত্তি করে

3. যুক্তি

কৃত্রিম বুদ্ধিমত্তাকে শক্তিশালী করা হল স্ব-শিক্ষা ব্যবস্থা, "সচেতন", যুক্তি এবং যুক্তির দিকে একটি আন্দোলন। বিশেষ করে, কার্যকারণ অনুমান এবং কমনসেন্স যুক্তি বিকাশ করছে। কিছু রিপোর্ট মেটা-লার্নিং (কীভাবে শিখতে শিখতে হয় সে সম্পর্কে) এবং 1ম এবং 2য় ক্রম লজিকের সাথে DL প্রযুক্তির সংমিশ্রণে নিবেদিত - কৃত্রিম সাধারণ বুদ্ধিমত্তা (AGI) শব্দটি বক্তাদের বক্তৃতায় একটি সাধারণ শব্দ হয়ে উঠছে।

প্রবন্ধ:

• ভিজ্যুয়াল কমনসেন্স রিজনিং এর জন্য ভিন্নধর্মী গ্রাফ লার্নিং ওয়েইজিয়াং ইউ, জিংওয়েন ঝো, ওয়েইহাও ইউ, জিয়াওদান লিয়াং, নং জিয়াও
• অ্যাবডাক্টিভ লার্নিং দ্বারা ব্রিজিং মেশিন লার্নিং এবং লজিক্যাল রিজনিং ওয়াং-ঝু দাই, কিউলিং জু, ইয়াং ইউ, ঝি-হুয়া ঝু
• নিহিতভাবে প্রথম ক্রম যুক্তিতে যুক্তি শেখা বৈশাখ বেলে, ব্রেন্ডন জুবা
• PHYRE: শারীরিক যুক্তির জন্য একটি নতুন বেঞ্চমার্ক অ্যান্টন বাখতিন, লরেন্স ভ্যান ডের মাটেন, জাস্টিন জনসন, লরা গুস্তাফসন, রস গিরশিক
• যুক্তির জন্য জ্ঞানের কোয়ান্টাম এমবেডিং দীনেশ গর্গ, শাজিথ ইকবাল, সন্তোষ কে. শ্রীবাস্তব, হরিত বিশ্বকর্মা, হিমা কারানম, এল ভেঙ্কটা সুব্রামানিয়াম

4. রিইনফোর্সমেন্ট লার্নিং

বেশিরভাগ কাজই RL - DOTA2, Starcraft-এর ঐতিহ্যগত ক্ষেত্রগুলিকে বিকাশ করতে চলেছে, কম্পিউটার ভিশন, NLP, গ্রাফ ডাটাবেসের সাথে আর্কিটেকচারের সমন্বয়।

সম্মেলনের একটি পৃথক দিন একটি RL কর্মশালার জন্য উত্সর্গীকৃত ছিল, যেখানে আশাবাদী অভিনেতা সমালোচক মডেল আর্কিটেকচার উপস্থাপন করা হয়েছিল, যা পূর্ববর্তী সমস্তগুলির থেকে উচ্চতর, বিশেষ করে সফট অ্যাক্টর সমালোচক।

প্রবন্ধ:

• আশাবাদী অভিনেতা সমালোচকের সাথে আরও ভাল অনুসন্ধান; কামিল সিওসেক, কোয়ান ভুওং, রবার্ট লোফটিন, কাটজা হফম্যান
• ChainerRL: একটি গভীর শক্তিবৃদ্ধি লার্নিং লাইব্রেরি; ইয়াসুহিরো ফুজিতা (পছন্দের নেটওয়ার্ক, Inc.)*; Toshiki Kataoka (পছন্দের নেটওয়ার্ক, Inc.); প্রভাত নাগরাজন (পছন্দের নেটওয়ার্ক); তাকাহিরো ইশিকাওয়া (টোকিও বিশ্ববিদ্যালয়) [বাহ্যিক পিডিএফ লিঙ্ক]।
• নিয়ন্ত্রণ করার স্বপ্ন: সুপ্ত কল্পনা দ্বারা আচরণ শেখা; দানিজার হাফনার (গুগল)*; টিমোথি লিলিক্র্যাপ (ডিপমাইন্ড); জিমি বা (টরন্টো বিশ্ববিদ্যালয়); মোহাম্মদ নরুজি (গুগল ব্রেন)
• কর্মশালার উপকরণ

স্টারক্রাফ্ট খেলোয়াড়রা আলফাস্টার মডেলের সাথে লড়াই করে (ডিপমাইন্ড)

5.GAN

জেনারেটিভ নেটওয়ার্কগুলি এখনও স্পটলাইটে রয়েছে: অনেক কাজ গাণিতিক প্রমাণের জন্য ভ্যানিলা GAN ব্যবহার করে এবং সেগুলিকে নতুন, অস্বাভাবিক উপায়ে প্রয়োগ করে (গ্রাফ জেনারেটিভ মডেল, সিরিজের সাথে কাজ করা, ডেটাতে কারণ-এবং-প্রভাব সম্পর্কের প্রয়োগ ইত্যাদি)।

প্রবন্ধ:

• শর্তাধীন GAN-এর জন্য সোনার নমুনা খনির সাংউও মো, চিহিওন কিম, সুংউওং কিম, মিনসু চো, জিনউ শিন
• GAN-এর প্রগতিশীল পরিবর্ধন ড্যান ঝাং, আনা খোরেভা
• শর্তাধীন GAN ব্যবহার করে ট্যাবুলার ডেটা মডেলিং লেই জু, মারিয়া স্কুলারিডো, আলফ্রেডো কুয়েস্তা-ইনফ্যান্টে, কল্যাণ বীরমাচানেনি
• papers.nips.cc/paper/9377-a-domain-agnostic-measure-for-monitoring-and-evaluating-gans

যেহেতু আরও কাজ গ্রহণ করা হয়েছিল 1400 নীচে আমরা সবচেয়ে গুরুত্বপূর্ণ বক্তৃতা সম্পর্কে কথা বলব।

আমন্ত্রিত আলোচনা

"সামাজিক বুদ্ধিমত্তা", ব্লেইস আগুয়েরা ওয়াই আর্কাস (গুগল)

লিংক
স্লাইড এবং ভিডিও
আলোচনাটি মেশিন লার্নিংয়ের সাধারণ পদ্ধতি এবং এই মুহূর্তে শিল্পের পরিবর্তনের সম্ভাবনার উপর দৃষ্টি নিবদ্ধ করে - আমরা কোন ক্রসরোডের মুখোমুখি হচ্ছি? মস্তিষ্ক এবং বিবর্তন কীভাবে কাজ করে এবং প্রাকৃতিক ব্যবস্থার বিকাশ সম্পর্কে আমরা ইতিমধ্যে যা জানি তা কেন আমরা এত কম ব্যবহার করি?

ML-এর শিল্প বিকাশ মূলত Google-এর উন্নয়নের মাইলফলকগুলির সাথে মিলে যায়, যা বছরের পর বছর NeurIPS-এর উপর তার গবেষণা প্রকাশ করে:

• 1997 - অনুসন্ধান সুবিধা চালু করা, প্রথম সার্ভার, ছোট কম্পিউটিং শক্তি
• 2010 - জেফ ডিন গুগল ব্রেইন প্রজেক্ট চালু করেন, একেবারে শুরুতেই নিউরাল নেটওয়ার্কের বুম
• 2015 - নিউরাল নেটওয়ার্কগুলির শিল্প বাস্তবায়ন, স্থানীয় ডিভাইসে সরাসরি মুখের স্বীকৃতি, টেনসর কম্পিউটিং-এর জন্য তৈরি নিম্ন-স্তরের প্রসেসর - TPU। গুগল কোরাল এআই চালু করেছে - রাস্পবেরি পাই-এর একটি অ্যানালগ, পরীক্ষামূলক ইনস্টলেশনে নিউরাল নেটওয়ার্ক প্রবর্তনের জন্য একটি মিনি-কম্পিউটার
• 2017 – গুগল বিকেন্দ্রীভূত প্রশিক্ষণের বিকাশ শুরু করে এবং বিভিন্ন ডিভাইস থেকে নিউরাল নেটওয়ার্ক প্রশিক্ষণের ফলাফলগুলিকে একটি মডেলে একত্রিত করে – অ্যান্ড্রয়েডে

আজ, একটি সম্পূর্ণ শিল্প স্থানীয় ডিভাইসগুলিতে ডেটা সুরক্ষা, একত্রিতকরণ এবং শেখার ফলাফলের প্রতিলিপির জন্য নিবেদিত।

ফেডারেটেড লার্নিং - ML-এর একটি দিক যেখানে পৃথক মডেল একে অপরের থেকে স্বাধীনভাবে শেখে এবং তারপর একটি একক মডেলে একত্রিত হয় (উৎস ডেটা কেন্দ্রীভূত না করে), বিরল ঘটনা, অসঙ্গতি, ব্যক্তিগতকরণ ইত্যাদির জন্য সামঞ্জস্য করা হয়। সমস্ত অ্যান্ড্রয়েড ডিভাইস মূলত গুগলের জন্য একটি একক কম্পিউটিং সুপার কম্পিউটার।

ফেডারেটেড লার্নিং-এর উপর ভিত্তি করে জেনারেটিভ মডেলগুলি হল Google-এর মতে একটি প্রতিশ্রুতিশীল ভবিষ্যত দিক, যা "তাত্ত্বিক বৃদ্ধির প্রাথমিক পর্যায়ে।" লেকচারারের মতে, GANগুলি জীবন্ত প্রাণীর জনসংখ্যার গণ আচরণ এবং চিন্তার অ্যালগরিদমগুলি পুনরুত্পাদন করতে শিখতে সক্ষম।

দুটি সাধারণ GAN আর্কিটেকচারের উদাহরণ ব্যবহার করে, এটি দেখানো হয়েছে যে তাদের মধ্যে একটি অপ্টিমাইজেশান পাথের অনুসন্ধান একটি বৃত্তে ঘুরে বেড়ায়, যার মানে অপ্টিমাইজেশানটি ঘটে না। একই সময়ে, এই মডেলগুলি জীববিজ্ঞানীরা ব্যাকটেরিয়ার জনসংখ্যার উপর যে পরীক্ষাগুলি সম্পাদন করে তা অনুকরণে অত্যন্ত সফল, তাদের খাদ্যের সন্ধানে নতুন আচরণগত কৌশল শিখতে বাধ্য করে। আমরা উপসংহারে আসতে পারি যে জীবন অপ্টিমাইজেশান ফাংশন থেকে ভিন্নভাবে কাজ করে।

হাঁটা GAN অপ্টিমাইজেশান

আমরা এখন মেশিন লার্নিংয়ের কাঠামোতে যা করি তা হল সংকীর্ণ এবং অত্যন্ত আনুষ্ঠানিক কাজ, যখন এই আনুষ্ঠানিকতাগুলি ভালভাবে সাধারণীকরণ করে না এবং নিউরোফিজিওলজি এবং জীববিজ্ঞানের মতো ক্ষেত্রগুলিতে আমাদের বিষয় জ্ঞানের সাথে সামঞ্জস্যপূর্ণ নয়।

অদূর ভবিষ্যতে নিউরোফিজিওলজির ক্ষেত্র থেকে যা ধার নেওয়ার যোগ্য তা হল নতুন নিউরন আর্কিটেকচার এবং ত্রুটির ব্যাকপ্রোপাগেশন প্রক্রিয়ার সামান্য সংশোধন।

মানুষের মস্তিষ্ক নিজেই একটি নিউরাল নেটওয়ার্কের মতো শেখে না:

• ইন্দ্রিয়ের মাধ্যমে এবং শৈশবে দেওয়া সহ তার এলোমেলো প্রাথমিক ইনপুট নেই
• তার সহজাত বিকাশের সহজাত নির্দেশনা রয়েছে (শিশুর কাছ থেকে ভাষা শেখার ইচ্ছা, সোজা হয়ে হাঁটা)

একটি স্বতন্ত্র মস্তিষ্ককে প্রশিক্ষণ দেওয়া একটি নিম্ন-স্তরের কাজ; সম্ভবত আমাদের বিবেচনা করা উচিত "উপনিবেশ" বিবেচনা করা উচিত দ্রুত পরিবর্তিত ব্যক্তিদের গোষ্ঠী বিবর্তনের প্রক্রিয়াগুলি পুনরুত্পাদনের জন্য একে অপরের কাছে জ্ঞান প্রেরণ করা।

আমরা এখন এমএল অ্যালগরিদমে যা গ্রহণ করতে পারি:

• কোষ বংশের মডেলগুলি প্রয়োগ করুন যা জনসংখ্যার শিক্ষা নিশ্চিত করে, তবে ব্যক্তির সংক্ষিপ্ত জীবন ("ব্যক্তিগত মস্তিষ্ক")
• অল্প সংখ্যক উদাহরণ ব্যবহার করে অল্প-শট লার্নিং
• আরো জটিল নিউরন গঠন, সামান্য ভিন্ন সক্রিয়করণ ফাংশন
• পরবর্তী প্রজন্মের কাছে "জিনোম" স্থানান্তর করা - ব্যাকপ্রোপগেশন অ্যালগরিদম
• একবার আমরা নিউরোফিজিওলজি এবং নিউরাল নেটওয়ার্ক সংযোগ করলে, আমরা অনেক উপাদান থেকে একটি বহুমুখী মস্তিষ্ক তৈরি করতে শিখব।

এই দৃষ্টিকোণ থেকে, SOTA সমাধানগুলির অনুশীলন ক্ষতিকারক এবং সাধারণ কাজগুলি (বেঞ্চমার্ক) বিকাশের স্বার্থে এটি সংশোধন করা উচিত।

"ভেরিডিকাল ডেটা সায়েন্স", বিন ইউ (বার্কলে)

ভিডিও এবং স্লাইড
রিপোর্টটি মেশিন লার্নিং মডেলগুলির ব্যাখ্যা করার সমস্যা এবং তাদের সরাসরি পরীক্ষা এবং যাচাইকরণের পদ্ধতির জন্য উত্সর্গীকৃত। যেকোন প্রশিক্ষিত এমএল মডেলকে জ্ঞানের উৎস হিসেবে বিবেচনা করা যেতে পারে যা থেকে বের করা প্রয়োজন।

অনেক ক্ষেত্রে, বিশেষ করে ওষুধে, এই লুকানো জ্ঞান বের করা এবং মডেলের ফলাফলের ব্যাখ্যা না করে একটি মডেলের ব্যবহার অসম্ভব - অন্যথায় আমরা নিশ্চিত হতে পারব না যে ফলাফলগুলি স্থিতিশীল, অ-এলোমেলো, নির্ভরযোগ্য হবে এবং হত্যা করবে না। রোগী. কাজের পদ্ধতির একটি সম্পূর্ণ দিক গভীর শিক্ষার দৃষ্টান্তের মধ্যে বিকশিত হচ্ছে এবং এর সীমানা ছাড়িয়ে যাচ্ছে - সত্য তথ্য বিজ্ঞান। এটা কি?

আমরা বৈজ্ঞানিক প্রকাশনা এবং মডেলগুলির পুনরুত্পাদনযোগ্যতা অর্জন করতে চাই যেগুলি হল:

1. অনুমানযোগ্য
2. গণনাযোগ্য
3. স্থিতিশীল

এই তিনটি নীতি নতুন পদ্ধতির ভিত্তি তৈরি করে। এই মানদণ্ডের বিরুদ্ধে এমএল মডেলগুলি কীভাবে পরীক্ষা করা যেতে পারে? সবচেয়ে সহজ উপায় হল অবিলম্বে ব্যাখ্যাযোগ্য মডেল তৈরি করা (রিগ্রেশন, সিদ্ধান্ত গাছ)। তবে, আমরা গভীর শিক্ষার তাৎক্ষণিক সুবিধা পেতে চাই।

সমস্যাটির সাথে কাজ করার বেশ কয়েকটি বিদ্যমান উপায়:

1. মডেল ব্যাখ্যা;
2. মনোযোগের উপর ভিত্তি করে পদ্ধতি ব্যবহার করুন;
3. প্রশিক্ষণের সময় অ্যালগরিদমের ensembles ব্যবহার করুন, এবং নিশ্চিত করুন যে রৈখিক ব্যাখ্যাযোগ্য মডেলগুলি রৈখিক মডেল থেকে বৈশিষ্ট্যগুলিকে ব্যাখ্যা করে নিউরাল নেটওয়ার্কের মতো একই উত্তরগুলি ভবিষ্যদ্বাণী করতে শেখে;
4. পরিবর্তন এবং প্রশিক্ষণ তথ্য বৃদ্ধি. এর মধ্যে রয়েছে নয়েজ, হস্তক্ষেপ এবং ডেটা বৃদ্ধি;
5. যে কোনো পদ্ধতি যা নিশ্চিত করতে সাহায্য করে যে মডেলের ফলাফলগুলি এলোমেলো নয় এবং ছোটখাটো অবাঞ্ছিত হস্তক্ষেপের উপর নির্ভর করে না (প্রতিপক্ষের আক্রমণ);
6. বাস্তবতার পরে, প্রশিক্ষণের পরে মডেলটিকে ব্যাখ্যা করুন;
7. অধ্যয়ন বৈশিষ্ট্য ওজন বিভিন্ন উপায়ে;
8. সমস্ত অনুমান, শ্রেণী বন্টনের সম্ভাব্যতা অধ্যয়ন করুন।

প্রতিপক্ষের আক্রমণ একটি শূকর জন্য

মডেলিং ত্রুটিগুলি প্রত্যেকের জন্য ব্যয়বহুল: একটি প্রধান উদাহরণ হল রেইনহার্ট এবং রোগভের কাজ।"ঋণ একটি সময়ে বৃদ্ধি"অনেক ইউরোপীয় দেশের অর্থনৈতিক নীতিগুলিকে প্রভাবিত করেছিল এবং তাদের কঠোরতা নীতি অনুসরণ করতে বাধ্য করেছিল, কিন্তু তথ্যের একটি সতর্কতামূলক পুনঃচেক এবং তাদের প্রক্রিয়াকরণের বছর পরে বিপরীত ফলাফল দেখায়!

যে কোনো এমএল প্রযুক্তির বাস্তবায়ন থেকে বাস্তবায়ন পর্যন্ত নিজস্ব জীবনচক্র রয়েছে। নতুন পদ্ধতির লক্ষ্য হল মডেলের জীবনের প্রতিটি পর্যায়ে তিনটি মৌলিক নীতি পরীক্ষা করা।

ফলাফল:

• বেশ কিছু প্রকল্প তৈরি করা হচ্ছে যা এমএল মডেলকে আরও নির্ভরযোগ্য হতে সাহায্য করবে। এটি, উদাহরণস্বরূপ, ডিপটিউন (এর লিঙ্ক: github.com/ChrisCummins/paper-end2end-dl);
• পদ্ধতির আরও বিকাশের জন্য, এমএল ক্ষেত্রে প্রকাশনার মান উল্লেখযোগ্যভাবে উন্নত করা প্রয়োজন;
• মেশিন লার্নিংয়ের জন্য কারিগরি এবং মানবিক উভয় ক্ষেত্রেই বহু-বিষয়ক প্রশিক্ষণ এবং দক্ষতা সহ নেতাদের প্রয়োজন।

"মেশিন লার্নিংয়ের সাথে মানব আচরণের মডেলিং: সুযোগ এবং চ্যালেঞ্জ" নুরিয়া এম অলিভার, আলবার্ট আলী সালাহ

মানুষের আচরণ, এর প্রযুক্তিগত ভিত্তি এবং প্রয়োগের সম্ভাবনার মডেলিংয়ের জন্য নিবেদিত বক্তৃতা।

মানব আচরণের মডেলিংকে ভাগ করা যায়:

• স্বতন্ত্র আচরণ
• মানুষের একটি ছোট দলের আচরণ
• ভর আচরণ

এই ধরনের প্রতিটি ML ব্যবহার করে মডেল করা যেতে পারে, কিন্তু সম্পূর্ণ ভিন্ন ইনপুট তথ্য এবং বৈশিষ্ট্য সহ। প্রতিটি প্রকারের নিজস্ব নৈতিক সমস্যা রয়েছে যা প্রতিটি প্রকল্পের মধ্য দিয়ে যায়:

• স্বতন্ত্র আচরণ - পরিচয় চুরি, ডিপফেক;
• মানুষের গোষ্ঠীর আচরণ - নাম প্রকাশ না করা, গতিবিধি সম্পর্কে তথ্য পাওয়া, টেলিফোন কল ইত্যাদি;

স্বতন্ত্র আচরণ

বেশিরভাগই কম্পিউটার ভিশন বিষয়ের সাথে সম্পর্কিত - মানুষের আবেগ এবং প্রতিক্রিয়ার স্বীকৃতি। সম্ভবত শুধুমাত্র প্রেক্ষাপটে, সময়ে, বা আবেগের তার নিজস্ব পরিবর্তনশীলতার আপেক্ষিক স্কেল দিয়ে। স্লাইডটি ভূমধ্যসাগরীয় মহিলাদের মানসিক বর্ণালী থেকে প্রসঙ্গ ব্যবহার করে মোনালিসার আবেগের স্বীকৃতি দেখায়৷ ফলাফল: আনন্দের হাসি, কিন্তু অবজ্ঞা এবং ঘৃণার সাথে। কারণটি সম্ভবত একটি "নিরপেক্ষ" আবেগকে সংজ্ঞায়িত করার প্রযুক্তিগত উপায়ে।

মানুষের একটি ছোট দলের আচরণ

অপর্যাপ্ত তথ্যের কারণে এখন পর্যন্ত সবচেয়ে খারাপ মডেল। উদাহরণ হিসাবে, 2018 – 2019 এর কাজগুলি দেখানো হয়েছে৷ কয়েক ডজন মানুষের উপর X ডজন ভিডিও (cf. 100k++ ইমেজ ডেটাসেট)। এই কাজটিকে সর্বোত্তম মডেল করার জন্য, মাল্টিমোডাল তথ্য প্রয়োজন, বিশেষত বডি-অল্টিমিটার, থার্মোমিটার, মাইক্রোফোন রেকর্ডিং ইত্যাদির সেন্সর থেকে।

গণ আচরণ

সবচেয়ে উন্নত এলাকা, যেহেতু গ্রাহক জাতিসংঘ এবং অনেক রাজ্য। আউটডোর নজরদারি ক্যামেরা, টেলিফোন টাওয়ার থেকে ডেটা - বিলিং, এসএমএস, কল, রাজ্যের সীমানার মধ্যে চলাচলের ডেটা - এই সমস্তই মানুষের চলাচল এবং সামাজিক অস্থিতিশীলতার একটি খুব নির্ভরযোগ্য চিত্র দেয়। প্রযুক্তির সম্ভাব্য প্রয়োগ: উদ্ধার অভিযানের অপ্টিমাইজেশন, সহায়তা এবং জরুরী পরিস্থিতিতে জনসংখ্যাকে সময়মত সরিয়ে নেওয়া। ব্যবহৃত মডেলগুলি প্রধানত এখনও খারাপভাবে ব্যাখ্যা করা হয় - এগুলি বিভিন্ন LSTM এবং কনভোল্যুশনাল নেটওয়ার্ক। একটি সংক্ষিপ্ত মন্তব্য ছিল যে জাতিসংঘ একটি নতুন আইনের জন্য লবিং করছে যা ইউরোপীয় ব্যবসাগুলিকে যেকোনো গবেষণার জন্য প্রয়োজনীয় বেনামী ডেটা শেয়ার করতে বাধ্য করবে।

"সিস্টেম 1 থেকে সিস্টেম 2 ডিপ লার্নিং", ইয়োশুয়া বেঙ্গিও

স্লাইড
জোশুয়া বেঙ্গিওর বক্তৃতায়, গভীর শিক্ষা লক্ষ্য নির্ধারণের স্তরে স্নায়ুবিজ্ঞানের সাথে দেখা করে।
বেঙ্গিও নোবেল বিজয়ী ড্যানিয়েল কাহনেম্যানের পদ্ধতি অনুসারে দুটি প্রধান ধরণের সমস্যা চিহ্নিত করে (বইধীরে চিন্তা করুন, দ্রুত সিদ্ধান্ত নিন")
টাইপ 1 - সিস্টেম 1, অচেতন ক্রিয়া যা আমরা করি "স্বয়ংক্রিয়ভাবে" (প্রাচীন মস্তিষ্ক): পরিচিত জায়গায় গাড়ি চালানো, হাঁটা, মুখ চেনা।
টাইপ 2 - সিস্টেম 2, সচেতন ক্রিয়া (সেরিব্রাল কর্টেক্স), লক্ষ্য নির্ধারণ, বিশ্লেষণ, চিন্তাভাবনা, যৌগিক কাজ।

AI এখনও পর্যন্ত শুধুমাত্র প্রথম ধরণের কাজগুলিতে যথেষ্ট উচ্চতায় পৌঁছেছে, যখন আমাদের কাজ হল এটিকে দ্বিতীয়টিতে নিয়ে আসা, এটিকে বহু-বিভাগীয় ক্রিয়াকলাপ সম্পাদন করতে এবং যুক্তিবিদ্যা এবং উচ্চ-স্তরের জ্ঞানীয় দক্ষতার সাথে পরিচালনা করতে শেখানো।

এই লক্ষ্য অর্জনের জন্য এটি প্রস্তাব করা হয়:

1. এনএলপি কাজগুলিতে, মডেলিং চিন্তার জন্য একটি মূল প্রক্রিয়া হিসাবে মনোযোগ ব্যবহার করুন
2. মেটা-লার্নিং এবং রিপ্রেজেন্টেশন লার্নিং ব্যবহার করে আরও ভাল মডেল বৈশিষ্ট্য যা চেতনা এবং তাদের স্থানীয়করণকে প্রভাবিত করে - এবং তাদের ভিত্তিতে উচ্চ-স্তরের ধারণাগুলির সাথে কাজ করার দিকে এগিয়ে যান।

একটি উপসংহারের পরিবর্তে, এখানে একটি আমন্ত্রিত বক্তৃতা রয়েছে: বেঙ্গিও এমন অনেক বিজ্ঞানীদের মধ্যে একজন যারা অপ্টিমাইজেশান সমস্যা, SOTA এবং নতুন আর্কিটেকচারের বাইরে ML-এর ক্ষেত্রকে প্রসারিত করার চেষ্টা করছেন৷
প্রশ্নটি উন্মুক্ত রয়ে গেছে যে চেতনার সমস্যাগুলির সংমিশ্রণ, চিন্তাভাবনা, নিউরোবায়োলজি এবং অ্যালগরিদমের উপর ভাষার প্রভাব কী ভবিষ্যতে আমাদের জন্য অপেক্ষা করছে এবং আমাদের এমন মেশিনে যেতে দেবে যা মানুষের মতো "চিন্তা করে"।

ধন্যবাদ!

উত্স: www.habr.com